x-jeff blog

Make progress every day.

【论文阅读】AN IMAGE IS WORTH 16X16 WORDS:TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE

Vision Transformer(ViT)

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.INTRODUCTION 基于自注意力机制的框架,尤其是Transformers,已经成为了NLP任务的首选模型。主流的方式是在大型文本语料库上进行预训练,然后在较小的特定任务数据集上进行fine-tune。由于Transformers的计算效率和可扩展性,使得训练超过100B参数数量的巨大模型成为可能。并且随着模型和...

【第1章:对程序员来说CPU是什么】CPU是寄存器的集合体

累加寄存器,标志寄存器,程序计数器,基址寄存器,变址寄存器,通用寄存器,指令寄存器,栈寄存器

博客为参考《程序是怎样跑起来的》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.CPU是寄存器的集合体 CPU的四个构成部分中,我们只需了解寄存器即可。因为程序是把寄存器作为对象来描述的。 首先我们来看一下代码清单1-1: 这是用汇编语言(assembly)$^{1}$编写的程序的一部分。汇编语言采用助记符(memonic)来编写...

【C++基础】第五十课:[顺序容器]顺序容器概述

顺序容器,vector,deque,list,forward_list,array,string

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.容器 一个容器就是一些特定类型对象的集合。顺序容器(sequential container)为程序员提供了控制元素存储和访问顺序的能力。这种顺序不依赖于元素的值,而是与元素加入容器时的位置相对应。与之相对...

【OpenCV基础】第三十四课:自定义角点检测器

cv::cornerEigenValsAndVecs,cv::cornerMinEigenVal

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.自定义角点检测器 我们利用Harris角点检测或Shi-Tomasi角点检测中的$\lambda_1$和$\lambda_2$可以定义自己的响应函数,从而构建自定义角点检测器。 2.相关API 2.1.cv::cornerEigenValsAndVecs 用于计算矩阵$M$的特征值$\lambda_1, \lam...

【C++基础】第四十九课:[IO库]string流

string流,sstream,istringstream,ostringstream,stringstream

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.string流 sstream头文件定义了三个类型来支持内存IO,这些类型可以向string写入数据,从string读取数据,就像string是一个IO流一样。 istringstream从string读...

【Python基础】第三十九课:使用Python实现DBSCAN聚类

sklearn.cluster.DBSCAN,PIL模块,sklearn.preprocessing.binarize,np.where,np.column_stack

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.DBSCAN算法 详见:【机器学习基础】第三十六课:聚类之密度聚类。 与K-means比较: 优点: 与K-means方法相比,DBSCAN不需要事先知道K。 与K-means方法相比,DBSCAN可以找到任意形状。 DBSCAN能够识别出噪声点。 D...

【C++基础】第四十八课:[IO库]文件输入输出

ifstream,ofstream,fstream,open(),close(),is_open(),in,out,app,ate,trunc,binary

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.文件输入输出 头文件fstream定义了三个类型来支持文件IO:ifstream从一个给定文件读取数据,ofstream向一个给定文件写入数据,以及fstream可以读写给定文件。 这些类型提供的操作与我...

【机器学习基础】第三十九课:[降维与度量学习]低维嵌入

多维缩放(MDS),线性降维方法,特征值分解(EVD)

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.低维嵌入 在高维情形下出现的数据样本稀疏、距离计算困难等问题,是所有机器学习方法共同面临的严重障碍,被称为“维数灾难”(curse of dimensionality)。 缓解维数灾难的一个重要途径是降维(dimension reduc...

【C++基础】第四十七课:[IO库]IO类

IO库,IO操作,IO类,iostream,fstream,sstream,wcin,wcout,wcerr,iostate,badbit,eofbit,failbit,goodbit,good(),eof(),fail(),bad(),rdstate(),clear(),setstate(),刷新输出缓冲区,unitbuf,nounitbuf,tie()

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 C++语言不直接处理输入输出,而是通过一族定义在标准库中的类型来处理IO。这些类型支持从设备读取数据、向设备写入数据的IO操作,设备可以是文件、控制台窗口等。还有一些类型允许内存IO,即,从strin...

【第1章:对程序员来说CPU是什么】CPU的内部结构解析

CPU,程序,机器语言,内存,寄存器,控制器,运算器,时钟,主存

博客为参考《程序是怎样跑起来的》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.第1章热身问答 程序是什么? 指示计算机每一步动作的一组指令。 程序是由什么组成的? 指令和数据。例如,C语言“printf(“你好”);”这个简单的程序中,printf是指令,”你好”是数...