welcome to x-jeff blog

【机器学习基础】第三十课：集成学习之结合策略

平均法（简单平均法、加权平均法），投票法（绝对多数投票法、相对多数投票法、加权投票法），学习法（Stacking）

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.结合策略假定集成包含T个基学习器$\{h_1,h_2,…,h_T \}$，其中$h_i$在示例$\mathbf x$上的输出为$h_i(\mathbf x)$。本文介绍几种对$h_i$进行结合的常见策略。 2.平均法对数值型输出$...

Posted by x-jeff on November 24, 2021

【C++基础】第三十三课：try语句块和异常处理

throw，try，catch，标准异常

【C++基础】系列博客为参考《C++ Primer中文版（第5版）》（C++11标准）一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.前言异常处理机制为程序中异常检测和异常处理这两部分的协作提供支持。在C++语言中，异常处理包括： throw表达式（throw expression），异常检测部分使用throw表达式来表示它遇到...

Posted by x-jeff on November 19, 2021

【Python基础】第二十九课：分类模型之SVM

SVM基础知识，SVC()，numpy数组中冒号的使用

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.基础知识 SVM相关博客讲解：【机器学习基础】第十六课：支持向量机之间隔与支持向量【机器学习基础】第十七课：支持向量机之对偶问题【机器学习基础】第十八课：支持向量机之核函数【机器学习基础】第十九课：支持向量机之软间隔与正则化【机器学习基础】第二十课：支持向量回归【机器学习基础】第...

Posted by x-jeff on November 13, 2021

【机器学习基础】第二十九课：集成学习之Bagging与随机森林

Bagging，“包外估计”（out-of-bag estimate），随机森林（Random Forest）

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.前言由【机器学习基础】第二十七课：集成学习之个体与集成可知，欲得到泛化性能强的集成，集成中的个体学习器应尽可能相互独立；虽然“独立”在现实任务中无法做到，但可以设法使基学习器尽可能具有较大的差异。给定一个训练数据集，一种可能的做法是对训...

Posted by x-jeff on November 9, 2021

【C++基础】第三十二课：跳转语句

break语句，continue语句，goto语句

【C++基础】系列博客为参考《C++ Primer中文版（第5版）》（C++11标准）一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.前言 C++语言提供了4种跳转语句：break、continue、goto和return。 return语句后续博客会有介绍，在此不再详述。 2.break语句 break语句负责终止离它最近...

Posted by x-jeff on November 6, 2021

【Python基础】第二十八课：分类模型之Logistic Regression

LogisticRegression()

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.建立逻辑回归分析模型 1 2 3 4 5 6 7 8 from sklearn.datasets import load_iris from sklearn.linear_model import LogisticRegression iris = load_iris() clf = LogisticRegressi...

Posted by x-jeff on November 3, 2021

【论文阅读】Batch Normalization：Accelerating Deep Network Training by Reducing Internal Covariate Shift

Batch Normalization，BN-Inception

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Introduction 之前写过一篇博客简单的介绍了Batch Normalization：【深度学习基础】第二十三课：Batch Normalization。建议和本文搭配着看。当神经网络中某一层的输入分布改变时，我们称该层经历了covariate shift。每层固定不变的输入分布有利于高效的训练模型...

Posted by x-jeff on November 2, 2021

【机器学习基础】第二十八课：集成学习之Boosting

Boosting，AdaBoost

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Boosting Boosting是一族可将弱学习器提升为强学习器的算法。这族算法的工作机制类似：先从初始训练集训练出一个基学习器，再根据基学习器的表现对训练样本分布进行调整，使得先前基学习器做错的训练样本在后续受到更多关注，然后基于调整...

Posted by x-jeff on November 1, 2021

【论文阅读】Generative Adversarial Nets

GAN，maxout激活函数，KL散度，JS散度

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Introduction 生成模型（the generative model）可以比喻成假币制造者，而与之对抗的判别模型（the discriminative model）可以看作是假币鉴定者，二者互项博弈，促进对方改进自己的假币制造技术或鉴别水平，直至假币制造者所制造的假币和真币无法区分。这便是GAN（Generat...

Posted by x-jeff on October 30, 2021

【C++基础】第三十一课：迭代语句

while语句，传统的for语句，范围for语句，do while语句

【C++基础】系列博客为参考《C++ Primer中文版（第5版）》（C++11标准）一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.迭代语句迭代语句通常称为循环，它重复执行操作直到满足某个条件才停下来。while和for语句在执行循环体之前检查条件，do while语句先执行循环体，然后再检查条件。 2.while语句语法形式：...

Posted by x-jeff on October 27, 2021

x-jeff blog