welcome to x-jeff blog

【机器学习基础】第六十七课：[概率图模型]话题模型

话题模型，贝塔分布，狄利克雷分布

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.话题模型本部分没太理解，仅作记录。话题模型（topic model）是一族生成式有向图模型，主要用于处理离散型的数据（如文本集合），在信息检索、自然语言处理等领域有广泛应用。隐狄利克雷分配模型（Latent Dirichle...

Posted by x-jeff on April 9, 2026

【机器学习基础】第六十六课：[概率图模型]近似推断

近似推断，MCMC采样，变分推断

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.近似推断精确推断方法通常需要很大的计算开销，因此在现实应用中近似推断方法更为常用。近似推断方法大致可分为两大类：第一类是采样（sampling），通过使用随机化方法完成近似；第二类是使用确定性近似完成近似推断，典型代表为变分推断（var...

Posted by x-jeff on April 8, 2026

【机器学习基础】第六十五课：[概率图模型]学习与推断

变量消去，信念传播，边际分布

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书，自己所做的读书笔记。本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.学习与推断基于概率图模型定义的联合概率分布，我们能对目标变量的边际分布（marginal distribution）或以某些可观测变量为条件的条件分布进行推断。条件分布我们已经接触过很多，例如在隐马尔可夫模型中要估算观测序列$\math...

Posted by x-jeff on March 31, 2026

【论文阅读】NEURAL ARCHITECTURE SEARCH WITH REINFORCEMENT LEARNING

NAS

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.INTRODUCTION 本文提出了NAS（Neural Architecture Search），是一种用于搜索最优网络结构的方法，见Fig1。 2.RELATED WORK 不再详述。 3.METHODS 3.1.GENERATE MODEL DESCRIPTIONS WITH A CONTROLLER...

Posted by x-jeff on March 10, 2026

【论文阅读】RE-PARAMETERIZING YOUR OPTIMIZERS RATHER THAN ARCHITECTURES

结构重参数化，梯度重参数化，RepOptimizers，CSLA，RepOpt-VGG

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.INTRODUCTION GitHub地址：https://github.com/DingXiaoH/RepOptimizers。由于在设计模型结构时，我们并未接触到任何数据样本，因此我们将其称之为结构先验。高质量的结构先验对于神经网络至关重要。通常，更好的结构先验会带来更高的性能。除了结构设计之外，优...

Posted by x-jeff on January 28, 2026

【论文阅读】SIoU Loss：More Powerful Learning for Bounding Box Regression

SIoU

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Introduction 不再详述。 2.Methods SIoU的全称是SCYLLA-IoU。SIoU损失函数包含4部分：角度损失（angle cost）距离损失（distance cost）形状损失（shape cost） IoU损失（IoU cost） 2.1.Angle cos...

Posted by x-jeff on December 3, 2025

【论文阅读】Distance-IoU Loss：Faster and Better Learning for Bounding Box Regression

DIoU，CIoU

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Introduction IoU的计算见下： \[IoU = \frac{\lvert B \cap B^{gt} \rvert}{\lvert B \cup B^{gt} \rvert} \tag{1}\] 其中，$B^{gt} = (x^{gt},y^{gt},w^{gt},h^{gt})$为GT box，$B...

Posted by x-jeff on December 3, 2025

【论文阅读】Generalized Intersection over Union：A Metric and A Loss for Bounding Box Regression

GIoU

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Introduction IoU也称为Jaccard index。在本篇论文的背景中，大家常用的用于计算bbox回归损失的方式有两种：计算预测bbox和GT bbox对应角点之间的距离作为回归损失。这种情况下，通常用左上角和右下角的点坐标来表示bbox，即$(x_1,y_1,x_2,y_2)$。损失计算使用$...

Posted by x-jeff on November 19, 2025

【论文阅读】YOLOv7：Trainable bag-of-freebies sets new state-of-the-art for real-time object detectors

YOLOv7

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Introduction github源码地址：https://github.com/WongKinYiu/yolov7。本文提出的方法不仅在网络结构上进行优化，还将重点关注训练过程的优化。我们将引入一些优化模块和训练方法，虽然这些方法可能会增加训练成本，但不会提升推理成本，从而在不影响推理速度的前提下提高...

Posted by x-jeff on October 28, 2025

【论文阅读】RepVGG：Making VGG-style ConvNets Great Again

RepVGG

本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Introduction 经典的网络结构VGG由卷积、ReLU、pooling堆叠而成，结构非常简单，但在图像识别领域取得了巨大成功。随着Inception（Inception-v1、BN-Inception、Inception-v2/v3、Inception-v4/ResNet）、ResNet、DenseNet的出现...

Posted by x-jeff on October 9, 2025

x-jeff blog