welcome to x-jeff blog

【深度学习基础】第二十五课：深度学习框架

深度学习框架

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.深度学习框架至此，我们已经可以利用python以及numpy从零构建一个深度学习网络。但当网络非常大、结构非常复杂的时候，从零构建无疑是低效的。目前已经有了很多成熟的深度学习框架，帮助我们快速的搭建复杂的神经网络结构。常见的深度学...

Posted by x-jeff on May 21, 2020

【Python基础】第十三课：资料处理实战应用

资料处理实战应用，位运算符，逻辑运算符

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.前言利用之前几篇博客学习的资料处理的方法，对实际中遇到的资料进行处理。本文以一个储存学生信息的csv格式的资料为例。csv中存放的数据见下： 2.读入资料利用pandas读入csv： 1 2 import pandas as pd df=pd.read_csv("student.csv") 如果数...

Posted by x-jeff on May 20, 2020

【深度学习基础】第二十四课：softmax函数的导数

softmax函数在神经网络中的反向传播

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.softmax函数 👉softmax函数详解。 2.softmax函数的导数假设神经网络输出层的激活函数为softmax函数，用以解决多分类问题。在反向传播时，就需要计算softmax函数的导数，这也就是本文着重介绍的内容。我...

Posted by x-jeff on May 12, 2020

【数学基础】第十三课：参数估计

参数估计，点估计，区间估计，矩估计，极大似然估计，点估计的评判准则

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.参数估计参数估计是统计推断的一种。根据从总体中抽取的随机样本来估计总体分布中未知参数的过程。从估计形式看，可分为：点估计。区间估计。 1.1.参数估计和假设检验参数估计和假设检验是统计推断的两个组成部分，它们都是利用样本对总体进行某种推断，但推断的角度不同。参数估计讨论的是用样本统计量...

Posted by x-jeff on May 10, 2020

【深度学习基础】第二十三课：Batch Normalization

Batch Normalization

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.什么是Batch Normalization 原文：链接；博客讲解：链接。在【深度学习基础】第十二课：归一化输入一文中，我们提到了归一化输入可以加速学习过程。根据这个思路，同样的我们也可以将每个隐藏层的输入$a^{[0]...

Posted by x-jeff on April 28, 2020

【机器学习基础】第十三课：决策树的剪枝处理

剪枝，预剪枝，后剪枝

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.前言剪枝(pruning)是决策树学习算法对付“过拟合”的主要手段。决策树剪枝的基本策略有“预剪枝(prepruning)”和“后剪枝(postpruning)”。 👉预剪枝是指在决策树生成过程中，对每个结点在划分前先进行估计，若...

Posted by x-jeff on April 23, 2020

【深度学习基础】第二十二课：超参数调试

超参数调试，随机取值，精细搜索，搜索策略

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.前言通过前面的学习，我们了解到了深度学习中会涉及到很多超参数，那么该如何确定这些超参数的值呢？本文就来简单的探讨一下这个问题。 2.超参数的重要性排序在开始调试超参数之前，我们需要知道哪些超参数是需要优先被调整的，而哪些超参数是...

Posted by x-jeff on April 19, 2020

【C++基础】第十六课：迭代器

迭代器，迭代器的使用，迭代器运算

【C++基础】系列博客为参考《C++ Primer中文版（第5版）》（C++11标准）一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.前言我们已经知道可以使用下标运算符来访问string对象的字符或vector对象的元素，还有另外一种更通用的机制也可以实现同样的目的，这就是迭代器(iterator)。 ⚠️所有标准库容器都可以使用迭代...

Posted by x-jeff on April 16, 2020

【OpenCV基础】第十课：形态学操作

膨胀，腐蚀，开操作，闭操作，形态学梯度，顶帽，黑帽

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.形态学操作图像形态学操作：基于形状的一系列图像处理操作的合集，主要是基于集合论基础上的形态学数学。形态学有四个基本操作：膨胀、腐蚀、开、闭。 2.膨胀与腐蚀 2.1.膨胀跟卷积操作类似，假设有图像A和结构元素B，结构元素B在A上面移动，其中B定义其中心为锚点，计算B覆盖下A的最大像素值用来替换锚点的像素，...

Posted by x-jeff on April 8, 2020

【深度学习基础】第二十一课：局部最优问题

局部最优问题

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.局部最优问题人们总是担心优化算法会被困在局部最优。人们通常认为cost function的图像会像上图一样，存在很多局部最优点。而优化算法会被困在其中一个局部最优点，而无法达到全局最优点。但实际情况是，上述现象只在参数很少...

Posted by x-jeff on April 3, 2020

x-jeff blog