x-jeff blog

Make progress every day.

【深度学习基础】第十一课:正则化

范数,L1正则化,L2正则化,dropout,inverted dropout,data augmentation,early stopping

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.为什么要正则化? 正则化可以降低模型复杂度,防止过拟合。 2.范数 $L_1$范数、$L_2$范数和$F$范数都常用于正则化。 2.1.向量的$L_p$范数 \[\parallel \mathbf x \parallel _p ...

【数学基础】第十课:积分

黎曼积分,牛顿-莱布尼兹公式,分部积分法,多变量函数的积分

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.黎曼积分(Riemann Integral) 黎曼积分是积分学中一种比较基础且常见的积分概念。除此之外,还有勒贝格积分等。但是本文只讨论黎曼积分。 👉单变量函数黎曼积分: 令$f(x)$为开区间$(a,b)$上的一个连续函数,对于任何一个正整数$n$定义,$x_i=a+\frac{i(b-a)}{n}$求和式: ...

【深度学习基础】第十课:神经网络模型的初步优化

数据集划分,偏差和方差

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.设置验证集 我们在【深度学习基础】第九课:深层神经网络一文中提到了神经网络的超参数。那么超参数的确定有很多办法,其中设置验证集就是一个非常常用的办法,即把数据集分成训练集、验证集和测试集三部分。利用验证集确定模型的最佳超参数。 1.1...

【机器学习基础】第十课:类别不平衡数据

不平衡数据,阈值移动,欠采样,过采样

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.类别不平衡问题的困扰 ⚠️几乎大部分的分类学习方法都有一个共同的基本假设:即不同类别的训练样例数目相当。 如果不同类别的训练样例数目稍有差别,通常影响不大,但若差别很大,则会对学习过程造成困扰。例如有998个反例,但正例只有2个,那么学...

【Tensorflow基础】第一课:Tensorflow的简介与安装

Tensorflow的简介,安装Tensorflow

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.TensorFlow简介 TensorFlow是由谷歌开发的一款开源的深度学习框架。其底层代码为C++,提供CPU和GPU两种版本。并且可以通过TensorBoard可视化网络结构和参数。 2.安装tensorflow 本机环境为Mac OS。为了避免环境之间互相污染,方便管理,我们新建一个conda虚拟环境用于学...

【深度学习基础】第九课:深层神经网络

前向传播,反向传播,超参数

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.什么是深层神经网络? 深层(或者说深度)只是一个相对的概念。隐藏层越多的神经网络,其深度越深。 例如在上图中,含有5个隐层的神经网络就要比只含有1个隐层的神经网络要深。 有些函数只有非常深层的神经网络能够学习,而浅一些的模型通常...

【C++基础】第十三课:命名空间的using声明

命名空间

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.using声明 在之前的博客:【C++基础】第二课:C++的输入与输出中,我们已经提过了命名空间的作用和用法。 到目前为止,我们用到的库函数基本上都属于命名空间std。但是如果我们每次使用标准库中的函数时...

【OpenCV基础】第七课:调整图像亮度与对比度

图像变换,对比度,亮度

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.图像变换 图像变换通常有两种方式: 像素变换:点操作 邻域操作:区域 调整图像亮度和对比度属于像素变换(点操作)。 2.调整图像亮度与对比度 可以通过以下公式调整图像的亮度和对比度: \[g(i,j)=\alpha f(i,j)+\beta\] 通常情况下有$\alpha >0$,$\be...

【Python基础】第九课:使用Pandas和Numpy处理数据

Pandas,NumPy,zip函数,列表解析,NumPy数组,DataFrame,Series

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.简介 1.1.Pandas Pandas是一个强大的分析结构化数据的工具集;它的使用基础是Numpy(提供高性能的矩阵运算);用于数据挖掘和数据分析,同时也提供数据清洗功能。 英文官网:pandas。 中文官网:Pandas中文。 1.2.Numpy NumPy是使用Python进行科学计算的基础软...

【Conda】常用的conda命令

基本命令,包管理,虚拟环境,镜像源

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.环境 本机环境:Mac OS 2.基本命令 获取conda版本号:conda --version 获取帮助: conda --help conda -h 查看某一命令的使用方法(以upgrade 为例): conda upgrad...