Telegram Channel
记录和分享有趣的信息。

Record and share interesting information.

contact: [email protected]
读了一本很有趣的书,《漫步华尔街》。本书的核心思想可以概括为:市场是有效的,历史上的交易策略往往只是偶然成功,长期来看最有效的投资策略就是“买入并持有”,而最有价值的买入对象就是广泛分散的指数基金。(本书的出版时间早于指数基金的兴起)

本书的内容,就是以学者的审慎态度,对各种流行的投资策略进行了分析,破除那些以讹传讹的投资神话,以及各种泡沫和金融造假的案例,来论证上述观点。其中一个很有趣的例子是,作者还提到了广为流传的“市场与女士的裙摆高度有关”的分析方法,证明历史上牛市与否实际上与裙摆高度并无关系。 #book

- 摘抄
简单学习了一下 https://github.com/github/spec-kit,确实是一个很有趣的项目。

作为一个资深的开发者,在我看来,spec-kit 就是试图在扮演我每天都在做的事情,试图以标准化的方式完成从需求到产品的过程:

1. 模拟场景,撰写 user story。
2. 根据 user story,编写需求文档(相当于 /speckit.specify)。
3. 根据需求,撰写技术文档,进行可行性分析和系统设计(相当于 /speckit.plan)。
4. 根据技术文档,拆分开发任务。如果选择 TDD 的开发模式,则可以同步编写测试用例(相当于 /speckit.tasks/speckit.checklist)。
5. 各个开发人员和测试人员,认领任务,进行开发和测试(相当于 /speckit.implement)。

在我的实际上和 AI 协作 coding 的经验看来,实际上还少了一个很关键的步骤,应该可以视为 /speckit.clarify 的补充,就是收集相关 工具、SDK、API 的详细使用文档,以便于 AI 能够理解和正确地使用这些工具。

我之前使用 Augment Code 时,发现它对每一个项目,都会维护一个全局的 memory,从而让 Agents 能够在一个统一的上下文中工作。这个 memory 里面,包含了项目的概要,需要关注的重要功能点,相关规范等等,类似于一个专注于当前项目的 Agents.md 文件。这个文件,在 spec-kit 中被称为 constitution。

我可以理解,对于那些对标准开发流程比较陌生的初级开发者而言,或者对于那些纯粹 vibe coding 的人而言,spec-kit 无疑是一个巨大的进步,显著提高了开发结果的确定性。不过,有一个地方让我觉得有点奇怪,spec-kit 居然需要开发者手动来逐步执行 specifyplantaskschecklistimplement 这些步骤,而不是直接让 AI 来直接完成这些步骤,对于 vibe coder 而言可能过于繁琐。

从我个人来说,我不会考虑实际使用 spec-kit,有如下原因:

1. 作为一名资深开发者,我已经熟悉了标准的产品研发流程,不需要 spec-kit 用如此笨拙的方式来引导我,它的工作流在我看来过于粗糙。
2. 正如官方的视频介绍中所说,“spec-kit 让你只需要关心 What 和 Why,而不需要关心 How”。但是我认为,目前的模型能力还不足以让我完全不关心 How。
3. 为了降低成本,我倾向于尽可能减少和 AI 对话的次数,而 spec-kit 显然会大幅增加我和 AI 交互的频次。

综上,我认为 spec-kit 是一个很好的试图对 vibe coding 标准化的尝试。它就像一幅重型铠甲,如果你武艺平平,那么它会显著提高你的战斗力。但是对于那些武艺高强的武士而言,它反而会拖累你的身手,让你无法发挥出真正的实力。所以是否要采用它,取决于当前项目对于开发流程的 vibe 程度有多高。

我认为,spec-kit 的价值体现在:

1. 对于 vibe coder,作为一种提高标准化和确定性的工具,提高产品质量。
2. 对于和 AI 协作的开发者,提供了一个参考,可以用来优化开发流程和 prompt 设计。
3. 对于 agents 的设计者,提供了一个完整的和用户交互的流程,可以用来设计能够完成用户需求的 agents。

Ps. 我更倾向于认为,spec-kit 所提供的辅助,很快(或者已经)被强化学习或 fine-tuning 内化为模型本身的能力,而不需要外部的工具来辅助。

最后,我个人对开发模式的看法是,短期内 AI 编程 Agents 仍然和资深开发者存在一些本质上的差距,但是这并不影响它能够极大的提高开发效率,并且独立完成大量的产品。我认为,短期内两种不同类型的人类开发者角色将会并存:

1. 一种是白盒开发,人类开发者掌控核心的细节,AI 扮演辅助角色,帮助人类开发者提高效率。
2. 另一种是黑盒开发,也就是所谓的 vibe coding,AI 扮演主导角色,人类开发者主要负责提出需求和验收结果。

这两种模式都有其适合的场景和生存空间,具体选用什么工具和开发流程,还是要取决于具体的项目需求。 GitHub - github/spec-kit: 💫 Toolkit to help you get started with Spec-Driven Development
在计算机安全领域,我们将数据安全粗略分为三个维度:in-transit, at-rest, in-use。

HTTPS 可以保护 in-transit,AES 可以保护 at-rest,而 TEE 就是注重于保护 in-use 时的内存数据安全。理论上,一个妥善配置使用的 TEE,可以让用户放心地在不信任的环境中运行代码。

比如你作为一个版权所有方,可以要求对方提供可验证的 TEE 环境,然后你才会将重要的数据传输进对方的 TEE 加密环境中。即使这台机器完全在对方手中,TEE 硬件也会保障你数据的安全。

然而,这个安全神话最近被无情的打破了。研究者发现,SGX 的 CPU 和内存间的加密通信使用的是确定性的加密算法(deterministic)。那么通过运行一个自定义的 TEE 应用,然后再拦截内存总线上的加密数据流,就可以让 TEE 的内存加密芯片扮演一个 oracle 的角色,从而为攻击者提供充足的包含时序信息的密文,从而推断出 TEE 签名 QE REPORT 所使用的 ECDSA 私钥。

拿到签名私钥后,就可以为任意伪造的 REPORT 签名。而 SGX 正是通过 REPORT 来证明当前程序运行在一个可信的 TEE 环境之中。那么攻击者就可以实际在非加密环境中运行程序,但是仍然提供一个可信的 REPORT,从而骗取数据提供方的信任。

很可惜 Intel 也不打算修复这个问题,那么 TEE 安全性的基础(Trusted Computing Base, TCB)就得包含:

* TEE 硬件
* 可信的 host OS
* 可信的物理机器维护者

作为一个曾经的 TEE 开发者,说实话,前两者还可以通过软件手段来保障。但是最后一条,感觉完全扭曲了 TEE 的意义。如果你愿意信任机器的提供方,那么实际上 TEE 的意义就变成了防内贼而不是外贼。

作为一个开发者,你也可以从中吸取教训,谨记“一事一密”,利用随机数和密钥派生,不复用密钥,确保相同数据的每次加密结果都不一样。在加密以外,完整性验证也是非常重要的(integrity & authentic)。

扩展阅读:

* 我以前写过一系列介绍 TEE 的文章
* https://wiretap.fail/
* Intel 的回应: More Information on Encrypted Memory Frameworks for Intel Confidential Computing
* next
最近很迷莱姆(Stanislaw Lem)的科幻作品。但是他的书并不好读,除了个别外,很多书都没有跌宕起伏的剧情和宏大的背景设定,反倒是充斥大量颇为“艰深”的深层世界观阐述,需要经过一番费力的脑力搏斗才能理解那些看似随意的描述,从而获得最终的解题的快感。

我认为《真空》和《其主之声》这两部作品就能最好的解释莱姆自己的风格。路径曲折,但是却没有实际意义上的内核故事。读者不要期望会有一个具体的故事,只是在攀登的过程中去感受复杂性本身。

《星际旅行日记》中,通过对过去和未来的穿越,寥寥数语就阐述了未来宗教随着科学的发展而不断受到挑战并革新的进程,令人叹为观止。

有的作家靠一个点子就能写一本书。而莱姆则是用浩如烟海的点子堆出了一本本的书。 #book
学习了一下 Golang 1.25 的新特性,主要包括以下几点:

1. JSON v2。性能提升,支持自定义序列化反序列化。支持通过 options 参数控制序列化过程。
2. synctest 可以自动跳过时钟等待的时间,加快测试
3. GOMAXPROCS 原生自适应 CGROUP
4. 实验性质的 Green TEA GC 新算法,通过以 SPAN 为粒度的聚合来提高缓存局部性
5. os.Root 可以设定文件系统容器,防止路径逃逸
6. hash.Hash 支持 Clone() 方法

> READ MORE Go 1.25 interactive tour | Notion
读完这本著名的《Deep Learning》。此书专注于传统神经网络的数学解释,介绍了相关数学基础、感知器、深度网络、CNN、RNN,还有模型训练、评估、迁移学习、对抗网络等多方面的数学知识,可惜没有包含强化学习。

我不是算法研究员,只是一名工程人员,读的不是很细,也不追求理论上的完全掌握,只希望能对技术实现有高层次的理解,知道它们是什么,适用用来处理什么任务,就足够了。

阅读此书我还有个收获是,作者经常用寥寥数语就透彻地阐述了一些数学概念的实际意义。

比如我们如此执着于为矩阵计算特征值和特征向量的目的,就在于矩阵运算很复杂,而将向量投影到特征向量空间后,相对应的矩阵运算就成为了简单的特征值倍数的拉伸操作,极大简化了计算复杂度。

还有 CNN 里的卷积核,名字听上去很吓人,实际上就是用一个低维小张量(卷积核)取代一整层的权重参数,然后对着一层的每一组 input 重复使用这个核去求算下一层的输入。这种做法极大缩减了模型的总参数量,而且对于“计算相邻像素差值”之类的图像识别任务非常有效。

开卷有益,即使没读懂也能有所收获。 #book
读完了 Alvin Toffler 未来三部曲:

* 权力的转移(Power Shift)
* 未来的冲击(Future Shock)
* 第三次浪潮(The Third Wave)

《权力的转移》这本书让我更好的理解了《主权个人(The Sovereign Individual)》这本书中对国家暴力的阐述。权力的核心在于欲望,你能满足别人的欲望,你就掌握了对别人的权力。工业时代国家实现了对暴力的垄断,人们的一切争端都需要通过国家机器来解决。随着经济的增长,和自给自足被完全消灭,贪婪成为了权力的核心,国家通过对经济的控制来实现权力。

作者在《第三次浪潮》中还阐述了对人类社会影响最大的三次全球化变革:

1. 农业革命,代表村庄、城市的出现
2. 工业革命,彻底消灭自给自足,代表有国家机器、批量生产、工厂式教育。社会被区分为生产者和消费者。
3. 正在进行中的变革,随着信息技术和工业的发展,消费者再度取代了生产者的地位,变成产消合一者。

整个社会的趋势,似乎正在回归过去的小规模自治的村庄,只不过是通过更高的工业技术和信息技术实现的。 #book
读了两篇关于 prompt/context engineering 的文章:

* Manus 之外:实战笔记(1)薛定谔的缓存
* Context Engineering for AI Agents: Lessons from Building Manus

最重要的还是 KV-Cache,Manus 甚至称之为衡量 agent 框架的最重要的指标。因为 Transformer 的单向注意力机制 (Causal Attention Mask),每一个 input token 都只会使用它前面的全部 tokens 计算 KV。所以,保持 context prefix 稳定,可以极大提高 KV-Cache 的命中率,从而提高 LLM 输出效率和降低费用。

所以 Context Engineering 中的一个重要策略,就是在尽可能保持 context prefix 不变的前提下,实现各种功能需求:

1. 利用 LLM API 提供的 prefill 特性,利用 tool name 前缀来限定 tools 调用范围。而不是动态修改 context 中的 tools declaration。(OpenAI 不支持该功能,Claude 支持)
2. 使用 JSON schema 定义 tools 时,要注意使用确定性排序的序列化方法

除了提高 KV-Cache 命中率的各种工程方法外,Manus 还分享了一些其他的经验:

* 利用外部文件来提供无限上下文,并且保持 AI 对最初目标的关注
* 在 context 中保留犯错记录,避免重复犯错
* few-shots 需要添加噪音,预防 repetitive decision

很高兴地发现绝大部分内容和我自己的实践中总结出来的经验完全一致,甚至连用法也是一致的。不过 prefill 这个技巧我是第一次学到,我以前只关注 OpenAI 的 API,没想到实际上其他家,尤其是 Anthropic,已经有很长远的发展了。
我过去一直不太喜欢莫言,以前读过他的《丰乳肥臀》和《檀香刑》,都没找到太多共鸣。但最近读了他的《生死疲劳》,感觉很棒。

书的主要内容很简明,通过一名被枪毙的地主在自己土地上的六次转世,描写了中国从建国至 2000 年期间的制度变迁与乡民的命运。尤其其中各个主要人物的性格刻画与境遇,可谓是精准地抓住了时代的刻印。

回想起来,我很喜欢这种时代大背景下对个体命运的洞察与刻画。深受我喜爱的,类似题材的作品还有:

* 《静静的顿河》(And Quiet Flows the Don):苏维埃成立初期,顿河流域哥萨克农民的命运变迁。
* 《白鹿原》:抗战和内战背景下,陕西关中地区的农民的命运。
* 《荆棘鸟》(The Thorn Birds):澳大利亚的乡民家庭的命运。
* 《百年孤独》(One Hundred Years of Solitude):拉丁美洲的家族历史与命运。 #book
https://github.com/shopspring/decimal?tab=readme-ov-file#faq

搜索 decimal 的库时看到这段 README 很有意思,介绍了为什么在金融应用中不能用有理数(Rational)来替代 decimal。

都知道浮点数只能表示近似值,一般不用于金融领域。而 Golang 中没有内建的 decimal 类型,有些人就提议说可以使用有理数 big.Rat 来代替。但是此文中举了一个通俗易懂的例子来反对这一观点,假设有三个等于 1/3 的有理数 a、b、c,使用 .FloatString(3) 将其转化为 float64 后的值为 0.333,可以看到它们相加后的总额中的 0.001 就消失了。

说到底就是有理数本身虽然没有精度损失,但是将其转换为 float 时会导致精度损失,毕竟你不可能直接给用户显示一个有理数。所以在金融应用中,最好不要使用有理数,而是直接使用整数。而 decimal 存储的实际上就是整数和小数点位置的偏移量。
[ On | No ] syntactic support for error handling - The Go Programming Language

持续了数年之久的 Go Error Handling 之争,算是官方盖棺定论了,结论就是:摆烂。

自从放弃 Go2 方案后,兼容性就成了第一要务,非必要不修改语法。而 Error Handling 虽然长期以来都是社区最不满意的设计,但是关于具体的改进方案始终无法形成压倒性的共识,所以,官方决定,就这样吧,不改了。所有的历史讨论都到此为止,提案也逐步关闭。

并且对一些广受诟病的设计,做出了一些很牵强的解释:

* 语法啰嗦?反正你们有 AI 补全了
* 看起来碍眼?反正现代 IDE 都可以折叠。
* 没有 stack traces?打日志的时候多加一点参数嘛。

写 Go 的朋友喜欢怎么处理 error?我还在用古早的 github.com/pkg/errors 😂
「Here's how CockroachDB keeps your database from collapsing under load」

其实是一篇关于 Golang Goroutine Scheduler 的文章。众所周知,Go 的 Goroutines 并没有优先级,对于类似于数据库这样的应用,如何在高并发的情况下保证重要任务的执行就会面临挑战。这篇文章就是介绍了 CockroachDB 的做法,通过在原生的 Go Scheduler 外增加一层名为 Admission Control 的调度层,来实现了 Goroutines 的优先级调度。

核心思想就是不要再将大量的 Goroutines 直接交给 Go Scheduler 去排队。而是先在应用层的 Admission Control 内的优先级队列里排队,只将当前系统能够负载的高优先级任务交给 Go Scheduler 去执行,这样就可以保证在高负载下系统仍然能保证重要任务的可用性。

具体的优先级实现有很多很巧妙的设计。比如优先级系统区分为 Token Based 和 Slot Based。对于 CPU 型任务,采用令牌桶算法,根据可用资源的情况来生成令牌,并且分发给任务使用,如果有任务超额使用了令牌,则扣减总的令牌数。而对于 I/O 型任务,因为 I/O 操作会阻塞 Goroutine,所以采用了 Slot Based 的方式,根据当前系统的 I/O 负载情况来动态调整 slot 的数量。而且动态调整的时间间隔也是动态变化的,尽量减少 CPU 消耗。

还观察到,即使使用这个优先级系统提交任务,偶尔也还是会导致 Go Scheduler 过载。而优化方法是将调度下一个任务的逻辑放到 task 的执行逻辑中,这样就只有在 task 被 Go Scheduler 实际交给 P & M 运行时,才会进行调度下一个任务的逻辑,从而确保了 task 不会在 Go Scheduler 堆积。

Refs:

* Source Code: cockroach Admit
* Go scheduler: Ms, Ps & Gs
前阵子爆火的(过气网红) Manus AI 带火了 machine-use agent 的概念。然而众所周知,如果让 LLM 直接操作本地机器,会产生巨大的安全风险,所以各种沙盒技术也应运而生。正好趁着 https://github.com/trycua/cua 开源的机会,学习一下实现的原理。

首先,LLM 需要具备 vision 和 function calling 的能力。

接下来做的事情就很传统了,启动一个虚拟机,这个虚拟机内会启动一个 websocket server,这个 server 可以还可以通过 pyautogui 对虚拟机执行截图、鼠标和键盘操作。客户端通过 websocket 和 server 进行交互,获取截图并下达指令。

整个操作的循环是这样的:启动虚拟机,固定屏幕尺寸,截图,然后画上网格辅助线,交给 vision llm 识别,交代下一步需求,然后 llm 返回在 (x,y) 执行某个鼠标或键盘操作,然后通过 ws 传输进虚拟机内的 server 执行,并返回执行后的截图,继续循环。

将对虚拟机的所有操作,抽象为一系列的如 left_click(x, y) 这样的接口,然后让 LLM 根据截图和指令,以 function calling 的方式调用这些接口。这样就实现了一个 machine-use agent。

这个虚拟机其实不仅仅可以跑在本地,而是可以运行在任何网络可以连通的供应商上,只要让客户端能够通过 ws 与其通信就行了。
读完《程序员修炼之道:通向务实的最高境界》,书如其名,这是一本面向务实的程序员的经验之书,介绍了务实的哲学、方法、工具和团队协作等方面的内容。读这本书时常让我想起《The Art of Readable Code》,如果你真心热爱编程,并且希望编写可维护的代码,那么非常推荐阅读此书。 #book

* 📖摘抄
Back to Top Telegram Channel