x-jeff blog

Make progress every day.

【C++基础】第二十一课:算术运算符

算术运算符

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.算术运算符 上表按照运算符的优先级将其分组。一元运算符的优先级最高,接下来是乘法和除法,优先级最低的是加法和减法。上面的所有运算符都满足左结合律,意味着当优先级相同时按照从左向右的顺序进行结合。 算术...

【深度学习基础】第四十三课:BRNN

双向循环神经网络

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.双向循环神经网络 假设我们有如下命名体识别模型用于识别句子中的人名: 此时有两个句子: He said,”Teddy bears are on sale!”. He said,”Teddy Roosevelt was ...

【OpenCV基础】第十五课:边缘处理

图像边缘处理

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.卷积边界问题 图像卷积时边界像素不能被卷积操作,原因在于边界像素没有完全跟kernel重叠,所以当使用3×3卷积核时有1个像素的边缘没有被处理,使用5×5卷积核时有2个像素的边缘没有被处理。此时我们便需要处理下图像的边缘。 2.边缘处理方法 在卷积开始之前增加边缘像素,比如使用3×3卷积核时在四周各填充1个像素的边...

【深度学习基础】第四十二课:GRU和LSTM

GRU,LSTM

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.RNN中的梯度消失问题 以【深度学习基础】第四十一课:RNN应用之语言模型中的语言模型为例,假设我们有句子:“The cat , which …… , was full.”,其中“cat”和“was”需要对应起来。如果使用复数“cats...

【Python基础】第十七课:正则表达式

正则表达式,re

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.正则表达式 re模块使Python语言拥有全部的正则表达式功能。 1.1.re.search() re.search扫描整个字符串并返回第一个成功的匹配。 1 2 3 4 5 6 import re a = '23123' re.search('1', a)#输出为:<re.Match object; sp...

【深度学习基础】第四十一课:RNN应用之语言模型

语言模型

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.什么是语言模型 例如我们需要构建一个语音识别系统。随机输入一段语音,这段语音听起来像是“The apple and pair salad.”或者是“The apple and pear salad.”,通过人为判断,很显然后者更符合逻辑...

【数学基础】第十七课:奇异值分解

奇异值分解

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.奇异值分解 奇异值分解(Singular Value Decomposition,简称SVD):对于任何一个矩阵$B_{m\times n}$,存在正交矩阵$P_{m\times m},Q_{n\times n}$,使得$B=PDQ^T$。其中,$D_{m\times n}$是一个只有对角元素不为零的矩阵。 矩阵$P...

【深度学习基础】第四十课:循环神经网络

循环神经网络

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.循环神经网络 依旧使用【深度学习基础】第三十九课:序列模型中第2部分的例子。假设我们用一个标准的神经网络结构来解决这个问题: 其中,$x^{<n>}$为输入句子中的第n个单词;$y^{<n>}$为第n个单词...

【机器学习基础】第十七课:支持向量机之对偶问题

求解支持向量机,二次规划

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.对偶问题 我们希望求解 \[\begin{align*} &\min \limits_{\mathbf w,b} \quad \frac{1}{2} \lVert \mathbf w \rVert ^2 \\ & \be...

【深度学习基础】第三十九课:序列模型

序列模型

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.序列模型 序列模型的常用领域举例: 语音识别:输入为一段音频,输出为文字。输入和输出均为序列数据。 音乐生成:输入可以是任何类型的数据(甚至为空)。输出为序列数据,比如为一段音乐。 情感分类:输入为序列数据,比如一句话。...