Tags

Talk is cheap. Show me the code.
Machine Learning Series

【机器学习基础】第三十课:集成学习之结合策略

平均法(简单平均法、加权平均法),投票法(绝对多数投票法、相对多数投票法、加权投票法),学习法(Stacking)


【机器学习基础】第二十九课:集成学习之Bagging与随机森林

Bagging,“包外估计”(out-of-bag estimate),随机森林(Random Forest)


【机器学习基础】第二十八课:集成学习之Boosting

Boosting,AdaBoost


【机器学习基础】第二十七课:集成学习之个体与集成

集成学习简介,霍夫丁不等式


【机器学习基础】第二十六课:EM算法

期望最大化(Expectation-Maximum,简称EM)算法,坐标下降法


【机器学习基础】第二十五课:贝叶斯网

贝叶斯网,边际独立性,道德图,道德化,最小描述长度(MDL)准则,AIC(Akaike Information Criterion)评分函数,BIC(Bayesian Information Criterion)评分函数,吉布斯采样


【机器学习基础】第二十四课:半朴素贝叶斯分类器

半朴素贝叶斯分类器,独依赖估计(ODE),SPODE,TAN,AODE


【机器学习基础】第二十三课:朴素贝叶斯分类器

朴素贝叶斯分类器,拉普拉斯修正


【机器学习基础】第二十二课:贝叶斯决策论

贝叶斯决策论,贝叶斯判定准则,贝叶斯最优分类器,贝叶斯风险,判别式模型,生成式模型,先验概率,条件概率,似然


【机器学习基础】第二十一课:支持向量机之核方法

表示定理,核方法,核线性判别分析(KLDA)


【机器学习基础】第二十课:支持向量回归

支持向量回归(SVR)


【机器学习基础】第十九课:支持向量机之软间隔与正则化

软间隔,正则化


【机器学习基础】第十八课:支持向量机之核函数

核函数,直积


【机器学习基础】第十七课:支持向量机之对偶问题

求解支持向量机,二次规划


【机器学习基础】第十六课:支持向量机之间隔与支持向量

二维平面,超平面,间隔,支持向量,支持向量机


【机器学习基础】第十五课:多变量决策树

多变量决策树


【机器学习基础】第十四课:决策树中的连续与缺失值

连续值处理,缺失值处理


【机器学习基础】第十三课:决策树的剪枝处理

剪枝,预剪枝,后剪枝


【机器学习基础】第十二课:决策树的划分选择

信息熵,信息增益,增益率,基尼值,基尼指数


【机器学习基础】第十一课:决策树的基本流程

决策树的基本流程


【机器学习基础】第十课:类别不平衡数据

不平衡数据,阈值移动,欠采样,过采样


【机器学习基础】第九课:多分类学习

多分类任务,一对一,一对其余,多对多,纠错输出码,海明距离


【机器学习基础】第八课:线性判别分析

线性判别分析,广义瑞利商,类内散度矩阵,类间散度矩阵,全局散度矩阵,拉格朗日乘子法,KTT条件,上确界,下确界


【机器学习基础】第七课:对数几率回归

单位阶跃函数,对率函数,sigmoid函数,几率,对数几率回归,最大似然估计


【机器学习基础】第六课:线性回归

线性模型,线性回归,最小二乘法,广义线性模型,距离的定义,闭式解,数值解,多变量线性回归


【机器学习基础】第五课:偏差与方差

偏差-方差分解,偏差,方差,噪声,偏差-方差窘境,代价的类型


【机器学习基础】第四课:统计学知识之假设检验

t检验,方差分析,卡方检验,秩检验


【机器学习基础】第三课:模型性能度量

查全率,查准率,F值,P-R曲线,ROC,AUC,代价敏感错误率,代价曲线


【机器学习基础】第二课:模型评估方法

误差,过拟合,留出法,交叉验证法,自助法


【机器学习基础】第一课:机器学习基本概念

机器学习定义,基本术语,假设空间,归纳偏好


Mathematics Series

【数学基础】第十九课:凸优化进阶

共轭函数,共轭函数的性质,对偶函数,对偶性


【数学基础】第十八课:凸优化基础

凸优化问题,凸集合,凸函数,上境图,凸组合,凸包,凸闭包,凸集合与凸函数的对应性质,凸集分离定理


【数学基础】第十七课:奇异值分解

奇异值分解


【数学基础】第十六课:主成分分析

主成分分析


【数学基础】第十五课:矩阵的相似变换和相合变换

相似变换,相合变换,正交相似变换


【数学基础】第十四课:线性代数

线性空间,基,线性映射,线性变换,基变换,线性回归


【数学基础】第十三课:参数估计

参数估计,点估计,区间估计,矩估计,极大似然估计,点估计的评判准则


【数学基础】第十二课:随机变量

随机变量,随机变量的矩,切比雪夫不等式,随机变量的特征函数,大数定律,中心极限定理


【数学基础】第十一课:贝叶斯公式

条件概率,全概率公式,贝叶斯公式,先验分布,似然函数,后验分布,共轭分布


【数学基础】第十课:积分

黎曼积分,牛顿-莱布尼兹公式,分部积分法,多变量函数的积分


【数学基础】第九课:协方差和相关系数

数学期望,方差,协方差,协方差矩阵,相关系数


【数学基础】第八课:概率分布

伯努利分布,二项分布,泊松分布,均匀分布,指数分布,正态分布,概率函数,概率密度函数,概率分布函数


【数学基础】第七课:矩阵与向量

矩阵定义,常见的矩阵类型,矩阵的基本运算,向量定义,常见的向量类型,向量的基本运算


【数学基础】第六课:梯度下降法和牛顿法

泰勒公式,梯度,牛顿法,梯度下降法


【数学基础】第五课:微分

微分,全微分,偏微分,微分方程


【数学基础】第四课:导数

导数,方向导数,偏导数,高阶导数,高阶偏导数,求导法则


【数学基础】第三课:极限

极限,无穷大,无穷小,洛必达法则


【数学基础】第二课:目标函数、损失函数、代价函数

目标函数,损失函数,代价函数,经验风险,结构风险


【数学基础】第一课:机器学习中需要的数学基础

监督学习,半监督学习,无监督学习,强化学习


Python Series

【Python基础】第三十课:分类模型之神经网络

神经网络,StandardScaler(),MLPClassifier(),plt.figure,subplots_adjust,add_subplot,plt.text


【Python基础】第二十九课:分类模型之SVM

SVM基础知识,SVC(),numpy数组中冒号的使用


【Python基础】第二十八课:分类模型之Logistic Regression

LogisticRegression()


【Python基础】第二十七课:分类模型之决策树

DecisionTreeClassifier(),graphviz可视化,numpy.arange,numpy.meshgrid,ravel,numpy.c_,numpy.r_


【Python基础】第二十六课:回归模型

回归模型,sklearn.linear_model,sklearn.preprocessing,statsmodels.api,R-squared,Adjusted R Square,AIC,BIC,itertools.combinations,str.format()


【Python基础】第二十五课:SQL实战应用之汇率资讯储存与管理

SQL实战应用之汇率资讯储存与管理


【Python基础】第二十四课:SQL Query的使用

pandas.melt,pandas.read_csv,pandas.to_sql,pandas.read_sql,SELECT,FROM,WHERE,ORDER BY,DESC,LIMIT,AVG,GROUP BY,HAVING


【Python基础】第二十三课:SQLite数据库之数据存储

使用python链接数据库,透过SQLite做数据新增、查询,使用pandas存储数据


【Python基础】第二十二课:关系数据库-SQLite简介

数据库,SQL,关系数据库,ACID原则,SQLite


【Python基础】第二十一课:网页浏览记录资料分析

parse_dates,pandas.unique,pandas.reset_index,pandas.merge,pandas.Series.dt.date,pandas.concat


【Python基础】第二十课:使用pandas绘制统计图表

pandas.DataFrame.plot(),pandas.DataFrame.rolling()


【Python基础】第十九课:使用pandas产生叙述性统计

叙述性统计,pandas_datareader,pct_change


【Python基础】第十八课:时事新闻资料的爬取和处理

网络爬虫,数据处理


【Python基础】第十七课:正则表达式

正则表达式,re


【Python基础】第十六课:重塑资料

虚拟变量(Dummy Variable),建立透视表(pivot_table),长宽表格转换(stack&unstack)


【Python基础】第十五课:处理时间格式资料

datetime


【Python基础】第十四课:资料转换

向量化计算,Apply,Map,ApplyMap


【Python基础】第十三课:资料处理实战应用

资料处理实战应用,位运算符,逻辑运算符


【Python基础】第十二课:类

类,创建类,类的基本用法,继承,导入类


【Python基础】第十一课:处理缺失值

缺失值的产生,缺失值的表示,检测缺失值,舍弃缺失值,填补缺失值


【Python基础】第十课:DataFrame的相关操作

数据选取,新增数据,删除数据,数据的索引


【Python基础】第九课:使用Pandas和Numpy处理数据

Pandas,NumPy,zip函数,列表解析,NumPy数组,DataFrame,Series


【Python基础】第八课:网络爬虫

网络爬虫架构,开发者工具,BeautifulSoup


【Python基础】第七课:处理JSON、XML格式的数据

JSON,XML


【Python基础】第六课:处理CSV、Excel格式的数据

CSV,Excel


【Python基础】第五课:读写TXT文件

读txt文件,写txt文件


【Python基础】第四课:数据类型

定量数据,定性数据,离散数据,连续数据,结构化数据,半结构化数据,非结构化数据


【Python基础】第三课:Python应用之文本的词频统计

词频统计


【Python基础】第二课:for循环、定义函数和模块导入

Python语法,for循环,if语句,定义函数,模块导入


【Python基础】第一课:列表、元组、字典

Python语法,列表,元组,字典,引号的用法


OpenCV Series

【OpenCV基础】第二十五课:模板匹配

模板匹配,cv::matchTemplate


【OpenCV基础】第二十四课:直方图反向投影

直方图反向投影,cv::mixChannels,cv::calcBackProject


【OpenCV基础】第二十三课:直方图比较

直方图比较,cv::compareHist


【OpenCV基础】第二十二课:直方图计算

cv::split,cv::merge,cv::calcHist,cv::normalize


【OpenCV基础】第二十一课:直方图均衡化

图像直方图,直方图均衡化,cv::equalizeHist


【OpenCV基础】第二十课:像素重映射

像素重映射,cv::remap,最近邻插值,双线性插值


【OpenCV基础】第十九课:霍夫变换

霍夫变换之直线检测,cv::HoughLines,cv::HoughLinesP,霍夫变换之圆检测,cv::HoughCircles


【OpenCV基础】第十八课:Canny边缘检测算法

Canny边缘检测算法,cv::Canny


【OpenCV基础】第十七课:Laplace算子

Laplace算子,cv::Laplacian,cv::convertScaleAbs


【OpenCV基础】第十六课:Sobel算子

图像边缘提取,Sobel算子,Scharr算子


【OpenCV基础】第十五课:边缘处理

图像边缘处理


【OpenCV基础】第十四课:自定义线性滤波

算子,robert算子,sobel算子,拉普拉斯算子,filter2D


【OpenCV基础】第十三课:基本阈值操作

阈值二值化,阈值反二值化,阈值截断,阈值取零,阈值反取零,大津法,三角法图像二值化


【OpenCV基础】第十二课:图像的缩放

几何变换,图像金字塔,高斯不同


【OpenCV基础】第十一课:形态学操作的应用

提取水平线和垂直线,提取验证码


【OpenCV基础】第十课:形态学操作

膨胀,腐蚀,开操作,闭操作,形态学梯度,顶帽,黑帽


【OpenCV基础】第九课:图像模糊

均值模糊,高斯模糊,中值模糊,双边模糊,高斯分布


【OpenCV基础】第八课:绘制形状和文字

Point,Scalar,line,ellipse,rectangle,circle,fillPoly,putText,rng,waitKey


【OpenCV基础】第七课:调整图像亮度与对比度

图像变换,对比度,亮度


【OpenCV基础】第六课:图像混合

线性混合操作,addWeighted,add,multiply


【OpenCV基础】第五课:图像操作

读写像素值,与/或/非/异或操作,ROI


【OpenCV基础】第四课:Mat对象

Mat对象,复制


【OpenCV基础】第三课:掩膜操作

掩膜操作,分辨率,FOV,像素值,位图深度,计时函数,%d


【OpenCV基础】第二课:加载、修改、保存图像

加载图像,显示图像,修改图像,保存图像


【OpenCV基础】第一课:OpenCV环境配置

环境配置


C++ Series

【C++基础】第三十四课:函数基础

编写函数,调用函数,形参和实参,函数返回类型,局部对象,自动对象,局部静态对象,函数声明,分离式编译


【C++基础】第三十三课:try语句块和异常处理

throw,try,catch,标准异常


【C++基础】第三十二课:跳转语句

break语句,continue语句,goto语句


【C++基础】第三十一课:迭代语句

while语句,传统的for语句,范围for语句,do while语句


【C++基础】第三十课:条件语句

if语句,switch语句


【C++基础】第二十九课:简单语句

表达式语句,空语句,复合语句(块)


【C++基础】第二十八课:类型转换

隐式转换,显式转换,命名的强制类型转换,static_cast,dynamic_cast,const_cast,reinterpret_cast,旧式的强制类型转换


【C++基础】第二十七课:sizeof运算符

sizeof运算符


【C++基础】第二十六课:位运算符

位运算符,移位运算符,位求反运算符,位与、位或、位异或运算符


【C++基础】第二十五课:成员访问运算符和条件运算符

成员访问运算符,条件运算符


【C++基础】第二十四课:递增和递减运算符

递增和递减运算符


【C++基础】第二十三课:赋值运算符

赋值运算符


【C++基础】第二十二课:逻辑和关系运算符

逻辑运算符,关系运算符


【C++基础】第二十一课:算术运算符

算术运算符


【C++基础】第二十课:表达式基础

表达式基本概念,重载运算符,左值,右值,优先级,求值顺序


【C++基础】第十九课:多维数组

多维数组


【C++基础】第十八课:C风格字符串

C风格字符串


【C++基础】第十七课:数组

定义和初始化内置数组,访问数组元素,指针和数组


【C++基础】第十六课:迭代器

迭代器,迭代器的使用,迭代器运算


【C++基础】第十五课:标准库类型vector

标准库vector,定义和初始化vector对象,push_back,vector内对象的索引


【C++基础】第十四课:标准库类型string

标准库string,定义和初始化string对象,string对象上的操作,处理string对象中的字符


【C++基础】第十三课:命名空间的using声明

命名空间


【C++基础】第十二课:自定义数据结构

struct,预处理器,头文件保护符


【C++基础】第十一课:处理类型

类型别名,typedef,using,auto,decltype


【C++基础】第十课:const限定符

const变量,const引用,const指针,顶层const,底层const,常量表达式,constexpr


【C++基础】第九课:复合类型

引用,指针


【C++基础】第八课:变量

变量定义,初始化,变量声明,标识符,作用域


【C++基础】第七课:字面值常量

字面值,转义序列


【C++基础】第六课:类型转换

原码,反码,补码,类型转换,取模运算,取余运算


【C++基础】第五课:基本内置类型

算术类型,空类型,比特,字,字节,带符号类型,无符号类型


【C++基础】第四课:类简介

类,类类型,类对象,成员函数


【C++基础】第三课:循环语句与判断语句

while语句,for语句,if语句


【C++基础】第二课:C++的输入与输出

输入,输出,iostream库,命名空间,代码注释


【C++基础】第一课:函数

main函数,函数定义


Deep Learning Series

【深度学习基础】第四十八课:注意力模型

注意力模型


【深度学习基础】第四十七课:BLEU得分

BLEU得分


【深度学习基础】第四十六课:Beam Search

Seq2Seq,Beam Search


【深度学习基础】第四十五课:自然语言处理与词嵌入

词嵌入,Word2Vec,skip-gram模型,CBOW模型,GloVe,词嵌入除偏


【深度学习基础】第四十四课:深层循环神经网络

深层循环神经网络


【深度学习基础】第四十三课:BRNN

双向循环神经网络


【深度学习基础】第四十二课:GRU和LSTM

GRU,LSTM


【深度学习基础】第四十一课:RNN应用之语言模型

语言模型


【深度学习基础】第四十课:循环神经网络

循环神经网络


【深度学习基础】第三十九课:序列模型

序列模型


【深度学习基础】第三十八课:1D数据和3D数据

1D数据和3D数据的卷积运算


【深度学习基础】第三十七课:神经风格迁移

神经风格迁移,卷积网络的可视化,内容代价函数,风格代价函数


【深度学习基础】第三十六课:人脸识别

One-Shot Learning,Siamese网络,Triplet Loss Function


【深度学习基础】第三十五课:R-CNN中的候选区域

R-CNN,候选区域


【深度学习基础】第三十四课:YOLO算法

YOLO算法,交并比IoU,非极大值抑制NMS,Anchor Box


【深度学习基础】第三十三课:基于滑动窗口的目标检测算法

基于滑动窗口的目标检测算法


【深度学习基础】第三十二课:目标定位和特征点检测

目标定位,bounding box,特征点检测


【深度学习基础】第三十一课:Inception网络

$1\times 1$卷积,Inception模块,Inception网络,GoogLeNet


【深度学习基础】第三十课:残差网络ResNets

ResNets


【深度学习基础】第二十九课:经典的神经网络结构

LeNet-5,AlexNet,VGG-16


【深度学习基础】第二十八课:卷积神经网络基础

卷积运算,边缘检测,padding,stride,卷积层,池化层,全连接层,卷积神经网络示例


【深度学习基础】第二十七课:机器学习策略(下)

错误分析,数据集的划分,数据不匹配问题,迁移学习,多任务学习,端到端的深度学习


【深度学习基础】第二十六课:机器学习策略(上)

机器学习策略,正交化,单一数字评估指标,优化指标,满足指标,人的表现,贝叶斯最优错误率,可避免偏差


【深度学习基础】第二十五课:深度学习框架

深度学习框架


【深度学习基础】第二十四课:softmax函数的导数

softmax函数在神经网络中的反向传播


【深度学习基础】第二十三课:Batch Normalization

Batch Normalization


【深度学习基础】第二十二课:超参数调试

超参数调试,随机取值,精细搜索,搜索策略


【深度学习基础】第二十一课:局部最优问题

局部最优问题


【深度学习基础】第二十课:学习率衰减

什么是学习率衰减,为什么要进行学习率衰减,怎么进行学习率衰减


【深度学习基础】第十九课:Adam优化算法

Adam优化算法


【深度学习基础】第十八课:RMSprop

RMSprop


【深度学习基础】第十七课:Momentum梯度下降法

Momentum梯度下降法


【深度学习基础】第十六课:指数加权平均

指数加权平均,偏差修正


【深度学习基础】第十五课:mini-batch梯度下降法

batch gradient descent,stochastic gradient descent,mini-batch gradient descent,mini-batch,epoch


【深度学习基础】第十四课:梯度检验

梯度的数值逼近,梯度检验


【深度学习基础】第十三课:梯度消失和梯度爆炸

梯度消失,梯度爆炸,权重随机初始化


【深度学习基础】第十二课:归一化输入

归一化输入


【深度学习基础】第十一课:正则化

范数,L1正则化,L2正则化,dropout,inverted dropout,data augmentation,early stopping


【深度学习基础】第十课:神经网络模型的初步优化

数据集划分,偏差和方差


【深度学习基础】第九课:深层神经网络

前向传播,反向传播,超参数


【深度学习基础】第八课:神经网络的梯度下降法

神经网络的梯度下降法,网络参数的随机初始化


【深度学习基础】第七课:激活函数

激活函数,sigmoid函数,tanh函数,ReLU函数,Leaky ReLU函数,线性激活函数,非线性激活函数


【深度学习基础】第六课:浅层神经网络

双层神经网络


【深度学习基础】第五课:向量化

vectorization,numpy,broadcasting,logistic regression code


【深度学习基础】第四课:正向传播与反向传播

学习率,计算图,正向传播,反向传播,梯度下降法在logistic回归中的应用


【深度学习基础】第三课:什么是神经网络

神经网络的基本概念、神经网络的基本结构


【深度学习基础】第二课:softmax分类器和交叉熵损失函数

线性分类,softmax分类器,hardmax分类器,交叉熵损失函数


【深度学习基础】第一课:从KNN到深度学习

深度学习,KNN算法,CIFAR-10数据集,超参数