x-jeff blog

Make progress every day.

【CUDA编程】【16】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.13.Call Stack】

Call Stack

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Call Stack 在计算能力2.x及以上的device中，可以使用cudaDeviceGetLimit()查询调用栈（call stack）的大小，并使用cudaDeviceSetLimit()...

Posted by x-jeff on December 8, 2024

【CUDA编程】【15】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.12.Error Checking】

Error Checking

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Error Checking 同步函数在任务完成后才返回，这意味着host可以在函数返回时确信任务已经成功或失败。异步函数（见：Asynchronous Concurrent Execution）会...

Posted by x-jeff on December 8, 2024

【CUDA编程】【14】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.11.Interprocess Communication】

Interprocess Communication，IPC

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Interprocess Communication 由host线程创建的任何device内存指针或event句柄都可以被同一进程中的其他线程直接引用。然而，它在该进程之外是无效的，所以无法被属于不...

Posted by x-jeff on December 8, 2024

【程序是怎样跑起来的】第12章：让计算机“思考”

猜拳游戏程序，随机数

博客为参考《程序是怎样跑起来的》一书，自己所做的读书笔记。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.作为“工具”的程序和为了“思考”的程序 👉第12章热身问答： 用计算机进行的模拟试验称为什么？ 计算机模拟。计算机模拟是指用软件来进行实际试验。 伪随机数指的是什么？ 通过公式产生的伪随机...

Posted by x-jeff on December 7, 2024

【C++并发编程】【2】【Hello, world of concurrency in C++!】Why use concurrency?

并发的优缺点

【C++并发编程】系列博客为参考《C++ Concurrency IN ACTION (SECOND EDITION)》一书，自己所做的读书笔记。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Why use concurrency? 在应用程序中使用并发有两个主要原因： 关注点分离（separation of concerns） 性能（perform...

Posted by x-jeff on December 6, 2024

【CUDA编程】【13】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.10.Unified Virtual Address Space】

Unified Virtual Address Space

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Unified Virtual Address Space 当应用程序以64位进程运行时，host和所有device（计算能力2.0以上）将共享一个单一的地址空间。通过CUDA API调用在该虚拟地...

Posted by x-jeff on December 1, 2024

【CUDA编程】【12】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.9.Multi-Device System】

Device Enumeration，Device Selection，Stream and Event Behavior，Peer-to-Peer Memory Access，Peer-to-Peer Memory Copy

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Device Enumeration host系统可以包含多个device。以下代码展示了如何枚举这些device、查询它们的属性并确定支持CUDA的device数量。 1 2 3 4 5 6 7...

Posted by x-jeff on December 1, 2024

【CUDA编程】【11】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.8.Asynchronous Concurrent Execution】

Concurrent Execution between Host and Device，Concurrent Kernel Execution，Overlap of Data Transfer and Kernel Execution，Concurrent Data Transfers，Streams，Programmatic Dependent Launch and Synchronization，CUDA Graphs，Events，Synchronous Calls

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Asynchronous Concurrent Execution CUDA将以下操作视为独立任务，这些任务可以并发执行： 在host上的计算。 在device上的计算。 从host...

Posted by x-jeff on November 30, 2024

【CUDA编程】【10】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.7.Memory Synchronization Domains】

Memory Fence Interference，Isolating Traffic with Domains，Using Domains in CUDA

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Memory Fence Interference 先介绍两个概念：内存屏障（memory fence）和内存刷新（memory flush）。 内存屏障的主要目的是控制内存访问的顺序，确保不同线...

Posted by x-jeff on November 18, 2024

【CUDA编程】【9】【3.Programming Interface】【3.2.CUDA Runtime】【3.2.6.Page-Locked Host Memory】

Page-Locked Host Memory，Portable Memory，Write-Combining Memory，Mapped Memory

【CUDA编程】系列博客参考NVIDIA官方文档“CUDA C++ Programming Guide（v12.6）”。 本文为原创文章，未经本人允许，禁止转载。转载请注明出处。 1.Page-Locked Host Memory 运行时提供了几种函数，允许使用页锁定（page-locked，也称pinned）host内存（和通过malloc()分配的常规的可分页host内存不同...

Posted by x-jeff on November 16, 2024

FEATURED TAGS
README Machine Learning Series Mathematics Series Image Segmentation Python Series Fundamentals of Computers OpenCV Series C++ Series Deep Learning Series Conda Tensorflow Series Algorithms Series AI Papers Object Recognition Natural Language Processing Aha! Algorithms Camera Calibration How Program Works Optical Flow Estimation How Networks Work Computer Vision Source Code CUDA C++ Programming Guide C++ Concurrency IN ACTION
ABOUT ME

Aspire to be an excellent artificial intelligence algorithm engineer!

✉️jeff.xinsc@gmail.com