Thanks to visit codestin.com
Credit goes to thysrael.github.io

0%

一、背景

在使用服务器等非非本地电脑的情况下,我们常常面临一个非常原始的 shell。这种原始的环境,不仅会降低开发的效率,而且还会导致操作错误的概率大大增加(比如还未激活某个 python 的虚拟环境,就进行一些包的安装等,或者在错误的路径下删除文件)。

img

在 LLM Agent 和 VSCode 自动化的背景下,大大降低了 shell 中需要优化的 cli 工具的数量,比如说 docker,文件管理器,编译命令,下载命令,direnv,手册查询命令,git 客户端等,这些都可以很好被 Agent 或者 VSCode 代替。

在这种严苛的环境下,这对 cli 工具提供了更加严苛的要求和品味,我总结为如下几点:

Read more »

一、总论

虽然我已经在之前的文章中讨论过一遍张量是如何求导的了,并且附上了详细的数学推导。但是我觉得那次的讨论还是有些过于偏向于数学的严谨,而忽略了实际使用中的直观。

所以我打算再推一遍,省略一些数学细节,但是更加注重实际的使用,包括对于计算和内存开销的估算,矩阵的形状等。


二、规律

Read more »

一、流浪

生活是无可避免的对抗,它是对无意义的对抗的对抗。

人一直在不可避免地流浪。

这次国庆出游只有我一个人。排除去天津那次单纯的为了干饭,这次的扬州之行可以说是我第一次自己一个人出游。

之所以选择自己一个人,是我感觉我之前对于旅游这件事情给予了太高的期望,需要一个人破一破妄。我希望旅游能够与爱人或者朋友一起去;还希望能玩遍所有著名的景点,吃遍所有的美食;还希望能深入了解本地人,在旅游滤镜扫射不到的地方,真实的生活文化;甚至还矛盾地期望着不期而遇的浪漫。我希望通过旅游,为我无意义的生活赋予意义,对抗虚无

冷静分析下来,这几项基本上是矛盾的,在多个人的前提下,就会出现众口难调的情况。之前的我一直不肯认清这一点,我一直在等待,等待着那个恰好满足所有条件的天赐良机的出现。

Read more »

一、总论

按理说,这种内容应该放到 Roam 中做一篇私人随笔,而不是作为一篇更为正式的博文。但是或许有些内容,在被人看见的时候,就能起到鼓舞作用呢。毕竟我也是被这样的文章所鼓舞。

认识自我的核心是认识到:“无论如何,只有真实的自己在那里”。


二、洪流

Read more »

一、Hardware

1.1 SM

采用我两年半前写下的博文开篇:“GPU 是一个由多个 SIMD 处理器组成的 MIMD 处理器。”

这句话的意思是说,GPU 是一个多核系统,它这里说的“核”,指的是像多核 CPU 中的 core,它对应的不是 CUDA Core,而是 SM。而 SM 本身是一个 SIMD 处理器,也就是说,SM 是一个 SIMD 处理器。CUDA Core 其实对应的是一个 ALU 。一个 SM 中有多个 CUDA Core,所以它可以用一条指令进行多个标量的计算(送入不同的 CUDA Core)。

人们常常将 CPU 比作一个无所不知的教授,GPU 比喻成成百上千个小学生。而实际上,GPU 更像是一组长着很多只不协调的手的大学生。这个比喻中,SM 对应“大学生”,而 CUDA Core 等 SM 中的计算单元对应“手”。

Read more »

一、总论

在形形色色的系统设计中,无论是嵌入式系统、个人桌面系统、分布式系统还是 LLM 推理引擎系统,通常有一些非常恒定的指标,或者说追求的目标。而且为了达到这些指标,采用的方法论甚至都是类似的。

image-20250102194609112

我想在这篇文章,去记录一下系统中涉及的那些指标,以及常见的方法论,进而分析一下这些指标的本质。


Read more »