x-jeff blog

Make progress every day.

【深度学习基础】第七课:激活函数

激活函数,sigmoid函数,tanh函数,ReLU函数,Leaky ReLU函数,线性激活函数,非线性激活函数

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 目前为止,我们所用的激活函数都是sigmoid函数,但有时其他函数的效果要更好,本文将介绍其他常用的激活函数。 2.常用的激活函数 2.1.tanh函数 tanh函数又叫双曲正切函数: 有: \[a=g(z)=\ta...

【机器学习基础】第九课:多分类学习

多分类任务,一对一,一对其余,多对多,纠错输出码,海明距离

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 现实中常遇到多分类学习任务,通常有两种解决办法: 直接将二分类学习方法推广到多分类。 基于一些基本策略,利用二分类学习器解决多分类问题。 其中第2种方法更为常用,也是本文所要介绍的内容。 ‼️不失一般性,考虑N个类...

【深度学习基础】第六课:浅层神经网络

双层神经网络

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.神经网络表示 我们在【深度学习基础】第三课:什么是神经网络中已经初步接触了神经网络的表示方式。我们在这里再复习一下: 如上图所示,这是一个神经网络图。接下来我们对网络图中各个部分进行命名: 其中,“隐藏层”的含义是:在训练集...

【C++基础】第十二课:自定义数据结构

struct,预处理器,头文件保护符

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 C++语言允许用户以类的形式自定义数据类型。 2.定义Sales_data类型 我们可以尝试定义一个Sales_data类,把书本的ISBN编号、售出量及销售收入等数据组织在一起,并使用户能直接访...

【深度学习基础】第五课:向量化

vectorization,numpy,broadcasting,logistic regression code

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 向量化(vectorization)可以消除代码中显式的for循环,大大提升代码的运行效率。 因此,只要有可能,就尽量避免在代码中使用显式的for循环。 2.什么是向量化 假设有:$z=w^Tx+b$,其中, \[w=\b...

【OpenCV基础】第六课:图像混合

线性混合操作,addWeighted,add,multiply

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.线性混合操作 $g(x)=(1-\alpha)f_0(x)+\alpha f_1(x)$ 其中$\alpha$的取值范围为0~1之间。 2.addWeighted OpenCV中实现图像混合功能的API: 1 2 3 4 5 6 7 8 9 void cv::addWeighted( inputArray s...

【深度学习基础】第四课:正向传播与反向传播

学习率,计算图,正向传播,反向传播,梯度下降法在logistic回归中的应用

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.符号约定 在正式开始接触深度学习之前,首先约定一些数学符号,适用于整个【深度学习基础】系列博客。 用一对$(x,y)$表示一个单独的样本,其中$x\in \mathbb R^{n_x},y\in \{0,1 \}$。x是$n_x$维的...

【Python基础】第八课:网络爬虫

网络爬虫架构,开发者工具,BeautifulSoup

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.网络爬虫架构 👉网页编写的几个重要元素: 【html】中文全称为超文本标记语言,类似于xml格式。 超文本:指页面内的图片、链接,甚至音乐、程序等非文字元素。 html的结构包括“头(head)”部分和“主体(body)”部分,其中“头”部分提供关于网页的信息,“主体”部分提供...

【深度学习基础】第三课:什么是神经网络

神经网络的基本概念、神经网络的基本结构

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.预测房屋价格 假设我们现在想要根据房屋面积来预测房屋的价格。首先,我们需要采集一些样本,然后将这些样本标注在二维坐标系中,用横轴表示房屋的面积,纵轴表示房屋的价格,如下图所示: 那么我们现在构建一个简单的线性模型去拟合这些样本: ...

【数学基础】第八课:概率分布

伯努利分布,二项分布,泊松分布,均匀分布,指数分布,正态分布,概率函数,概率密度函数,概率分布函数

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.概率分布 概率分布,是指用于表述随机变量取值的概率规律。事件的概率表示了一次试验中某一个结果发生的可能性大小。若要全面了解试验,则必须知道试验的全部可能结果及各种可能结果发生的概率,即随机试验的概率分布。如果试验结果用变量X的取值来表示,则随机试验的概率分布就是随机变量的概率分布,即随机变量的可能取值及取得对应值的概率...