最近几天都在读这篇文章，作者是大名鼎鼎的 Stephen Wolfram，就是创建数学软件 Wolfram 的那位。
此文从 GPT 开始谈起，实际上回溯了神经网络的主线发展历程，从最基础的权重计算，讲到 n-grams 最终到 transformer 的 attention 机制。
虽然我多年前就学习过神经网络，但是有很多细节更多的是知其然不知其所以然，这篇文章读来让我有醍醐灌顶的感觉，把关键的部分的意义都讲清楚了。
作者还很清晰地阐述了神经网络的几个天然局限，这是人脑能轻松做到而神经网络只能望洋兴叹的：
1. 神经网络不是图灵机，没有计算能力，无法准确地完成任何计算步骤
2. 世界是无穷复杂的（irreducible computation、NP 复杂度），而人类的理论都是简化的近似。AI 只能通过人类的简化理论来学习。
但是这些局限并不是不可逾越的，比如 function calling 就赋予了 AI 图灵机的能力。
关于第二点，涉及到 Polany's Paradox，人类无法描述世界的复杂性。这至少有两个理解方式：
1. 人类的语言没有客观标准，其意义由社会共识所决定
2. 世界的复杂性无法被理论描述
所以，GPT 的成功，实际上并不预示着计算能力的重大进步，而是人类能力的“巨大退步”。GPT 用事实证明了人类的语言能力并不是 irreducible computation，而是背后存在一些简单的规则，而且这个规则被 GPT 学会了。
然而作者也提到，GPT 的技术进步某种程度上只是无数人不断尝试的结果，人们发现通过一些设计能得到更好的结果。但是为什么要这么设计，GPT 是如何理解的？人们仍然一无所知。与其说人们发明了 GPT，也许说人类发现了 GPT 更为合适。
作者还试图构建一个大一统的计算语言，来抽象一切的事物，同时赋予 GPT 可解释性。我直观上觉得，这是否就是当年罗素的分析逻辑？
整理了一篇博客文章: https://blog.laisky.com/p/what-is-gpt/
原文笔记: https://laisky.notion.site/What-Is-ChatGPT-Doing-and-Why-Does-It-Work-6d390e2e44eb40498bd8b7add36bcc94?pvs=4
此文从 GPT 开始谈起，实际上回溯了神经网络的主线发展历程，从最基础的权重计算，讲到 n-grams 最终到 transformer 的 attention 机制。
虽然我多年前就学习过神经网络，但是有很多细节更多的是知其然不知其所以然，这篇文章读来让我有醍醐灌顶的感觉，把关键的部分的意义都讲清楚了。
作者还很清晰地阐述了神经网络的几个天然局限，这是人脑能轻松做到而神经网络只能望洋兴叹的：
1. 神经网络不是图灵机，没有计算能力，无法准确地完成任何计算步骤
2. 世界是无穷复杂的（irreducible computation、NP 复杂度），而人类的理论都是简化的近似。AI 只能通过人类的简化理论来学习。
但是这些局限并不是不可逾越的，比如 function calling 就赋予了 AI 图灵机的能力。
关于第二点，涉及到 Polany's Paradox，人类无法描述世界的复杂性。这至少有两个理解方式：
1. 人类的语言没有客观标准，其意义由社会共识所决定
2. 世界的复杂性无法被理论描述
所以，GPT 的成功，实际上并不预示着计算能力的重大进步，而是人类能力的“巨大退步”。GPT 用事实证明了人类的语言能力并不是 irreducible computation，而是背后存在一些简单的规则，而且这个规则被 GPT 学会了。
然而作者也提到，GPT 的技术进步某种程度上只是无数人不断尝试的结果，人们发现通过一些设计能得到更好的结果。但是为什么要这么设计，GPT 是如何理解的？人们仍然一无所知。与其说人们发明了 GPT，也许说人类发现了 GPT 更为合适。
作者还试图构建一个大一统的计算语言，来抽象一切的事物，同时赋予 GPT 可解释性。我直观上觉得，这是否就是当年罗素的分析逻辑？
整理了一篇博客文章: https://blog.laisky.com/p/what-is-gpt/
原文笔记: https://laisky.notion.site/What-Is-ChatGPT-Doing-and-Why-Does-It-Work-6d390e2e44eb40498bd8b7add36bcc94?pvs=4
Laisky
What is GPT and Why Does It Work?