10.14.24: 意义的分歧，分歧的意义

Neo Zhang -

这一周草草翻完了《Supremacy: AI, ChatGPT, and the Race That Will Change the World》一书。这本书出版于今年三月，由 Bloomberg 的商业记者 Parmy Olson 写就。他长期跟踪大型科技公司，因而能够错综复杂的时间线中找到几条主线。

Sam Altman 肯定是其中之一，但很少有人关注到他在成为 Y Combinator 的 CEO 之前都做过些什么：他创办过一家名叫 Loopt 的移动社交应用，其实不能算是找到了 PMF，但很幸运的卖掉并赚到了第一桶金，而后，他花了不少时间重新找寻自己的人生方向，这段经历在书中并没有详细展开，但可以知道的是：Altman 读完了几十种不同主题的书，从合成生物到和物理，同时并开始做一些早期投资，其中很大一部分都投给了 YC 支持的创业公司。

刚刚获得诺贝尔化学奖的 Demis Hassabis 在 11 岁时几乎夺得国际象棋冠军，他意识到这只是一个游戏。后来，他读到了另一位诺贝尔奖的主 Steven Weinberg 的《Dreams of a Final Theory》，触发了他希望打造终极科学工具的理想。但他又无法摆脱对游戏的痴迷，因此把计划制定为两者的结合：设计模拟真实世界的游戏。Hassabis 先是在著名的游戏公司 Bullfrog 担任游戏设计师，后来创办了自己的公司 Elixir，但后者开发的游戏并不成功，但 Hassabis 在过程中认识了后来创办 DeepMind 的核心团队成员。

Elixir 关闭之后，Hassabis 到伦敦大学攻读神经科学博士学位，他关于人类记忆的论文收获了很大的反响，但他不想当一个学者——他仍然希望打造一个终极的科学工具，强大到能够解决一切问题。他遇到了 Shane Legg 和 Mustafa Suleyman，三个人不约而同的看到了通用人工智能的前景。

分歧在 DeepMind 刚刚成立之初就存在：Hassabis 认为，DeepMind 的使命是“解决智能问题，并利用它来解决其他一切问题”；而 Suleyman 认为，他们的使命是“解决智能问题，并利用它让世界变得更美好”。

Hassabis 想要追寻人类的终极奥义，一个能够解决所有未解之谜的思考工具，他并不担心人工智能最终会失控，并对人类造成不可预知的后果。相比而言，Suleyman 则把问题限定在“让世界更美好”上，这是一个从人类主观视角出发的意义设定。

意义的分歧长期困扰着 DeepMind，这与人工智能研究所需要的巨额资本交织在一起，成为这家公司发展的决定性因素。Hassabis 和 Suleyman 都坚持 在 DeepMind 设立中立的委员会制度，以保证资本和利润不会干扰人工智能研究，但在与 Google 漫长的交涉中，这个制度从来没有真正实现过。Demis Hassabis 和 DeepMind 现在都是 Google 的一部分，主导开发了我们所熟知的 Gemini 模型。Suleyman 最终离开了 DeepMind，创办 Inflection AI，

Sam Altman 也将在 OpenAI 碰到类似的问题。书中用了一章的篇幅回顾了 OpenAI 的董事会“宫斗”戏码，虽然并没有太多超出媒体报道的额外细节，但不难看到，安全、伦理和商业利益在背后的博弈。

书中还讲到，Elon Musk 曾经和他的好友 Larry Page 发生过一次争吵，话题也来源于人工智能对人类社会是否足够安全。Elon Musk 掉进了人工智能毁灭人类的兔子洞，而 Larry Page 是一个科学家，和 Demis Hassabis 一样持有更乐观的看法，认为人工智能将塑造更加强大的“后人类”。

Larry Page 主导了 Google 对 DeepMind 的收购。

Elon Musk 与 Sam Altman 合作，创办 OpenAI。

Dario Amodei 和 Daniela Amodei 兄妹和同事们离开 OpenAI 创办 Anthropic。

Suleyman 的 Inflection AI 又被 Microsoft 收购，成为 Microsoft AI 的负责人。

Musk 与 Altman 分道扬镳，创办 xAI。

技术的进步不仅仅需要智力，也需要资本，而能够聚起这一切的意义，一定会产生分歧。分歧带来竞争，每一项新技术都需要天文数字的资本投入，但因为在意义上的分歧，人们仍然会坚持创造不同的版本，多样性就此而生。如果没有分歧，很可能是事不够大，撑不起来。

本周的 Links + Notes 分享了 5 篇文章：

  • Machines of Loving Grace: Anthropic CEO Dario Amodei 探讨 AI 如何影响人类未来，引入 "Rate of Discovery" 和 "Return of Intelligence" 概念，分析 AI 在多个领域的潜在影响。
  • The likeliest outcomes from the Google antitrust trial: Casey Newton 分析 Google 反垄断案可能的结果，探讨其对搜索市场和科技行业的潜在影响，以及 Google 与 Apple 之间的商业关系变化。
  • 谁也成为不了中国的 YouTube: 深入分析互联网视频平台的成本结构，解释为何中国难以复制 YouTube 的成功模式，揭示基础设施和商业模式的关键作用。
  • Ribbonfarm is Retiring: 著名博客 Ribbonfarm 创始人 Venkatesh Rao 宣布停更，反思博客时代的终结，探讨博客、newsletter 和社交媒体的演变。
  • Home-Cooked Software and Barefoot Developers: 探讨 AI 时代“自制软件”的兴起，分析小规模、个性化软件开发的可能性和挑战，思考技术民主化的未来。

Machines of Loving Grace

Anthropic 的 CEO Dario Amodei 的文字长文，关于人工智能将会如何影响人类的未来，周末已经有很多 中文翻译的版本 流传。

这篇文章从五个方面分析 AI 的未来影响：生物和健康、神经科学和新知、经济发展与贫困、和平与治理、工作和意义，但我认为这篇文章最有价值的地方是最开始的“基本假设和框架”。

在这个部分，作者提出了两个相关的概念：Rate of Discovery 和 Return of Intelligence，前者是指科学发现的速率，后者则是指在智力能力上进行投资的回报。结论显而易见，在智力能力上的投资能显著的提升科学发现的速率，在一些领域中，人类将在未来的 5-10 年内获得本来在 100 年中才获得的进步。

Rate of Discovery 将受到一些限制，这就联系到之前引用过的 Jerry Neumann 提出的 Rate of Adoption 的概念，也就是一项技术得到采用的速率，它受到多个因素的影响，大部分都是出于社会性因素的影响：

采用率受多项关键因素影响，包括创新的相对优势、兼容性、复杂性、可试用性和可观察性。此外，采用者的决策结构和传播意识的沟通渠道的有效性也在决定创新采用速度方面发挥着重要作用。

回到 Amodei 的文章，他也看到，影响智力投资回报的要素主要来自于现实世界的“惯性”，部分是物理性的，部分是社会性的：

  • 外部世界的速度：生物实验、硬件开发、人际沟通等过程有不可压缩的时间限制。即使智能不断提高，某些项目（如癌症治疗）的完成速度可能存在不可突破的下限。
  • 数据需求：在某些领域（如粒子物理学），即使拥有超级智能，缺乏足够的实验数据仍会限制进展。
  • 内在复杂性：对于混沌系统（如三体问题），即使是强大的 AI 也难以比现有技术预测得更远。
  • 人为约束：法律、伦理和社会结构等因素限制了 AI 的应用范围。例如，核能、超音速飞行和电梯技术的发展都受到了监管的影响。
  • 物理定律：光速限制、量子隧穿效应、朗道尔原理等物理法则为技术发展设置了绝对界限。

这个分析框架具有很强的普适性，Discovery 和 Adoption 是两个不同的过程，发现了不见得会被采纳，或者发现很快，但采纳不见得很快；如果不采纳，就不会造成实际影响，一切就都是科幻小说而已。

这样就证伪了很多莫须有的对技术的指责、猜疑和无病呻吟。

作者接下来用大量的篇幅应用上面的框架对 5 个方面进行分析，乐观程度逐次递减。

  • 生物和健康：这个领域的重大进步来自于少数发现，这些发现来自于少数人的反复独立研究，AI 可以通过并行研究等方式，对发现速率带来巨大提升。在采纳速率上， 虽然受到监管等社会性因素的影响，但由于治愈疾病和改善健康好处很明显，所以作者也比较乐观。
  • 神经科学和新知：这个领域与生物学有相似之处，少数发现能推动研究的重大进步，难点在于测量和精确干预的工具，通过人工神经网络模拟真实神经网络，提升可解释性，最终极大的改善人类的精神健康状况。
  • 经济发展与贫困：经济进步很大程度上受到社会性因素的限制，意识形态、政府治理、历史和文化等因素都会影响人工智能技术的应用，作者对这个领域的改进相对保守，但仍然认为在卫生、气候、粮食安全等领域上会看到明显进步。
  • 和平与治理：这个领域涉及到更多的社会性因素，作者的态度更加保守，一些改善的机会更多是由于经济状况的整体提升而带来的二阶效应，但并不能保证独裁、战争不会发生。
  • 工作和意义：作者认为这个问题更难解决，但他对人工智能可能带来的就业机会挑战保持开放性乐观——没有明确解决方案，但认为新的工作机会会被创造出来。这里的一个重要变量是“意义”，人工智能或许比人类做得更快，但人类活动并不应该 100% 以经济效益或效率来衡量。

这部分内容成功激发了我对生物和医学技术进展的兴趣，因为其智力回报的确定性。而对于工作的意义的看法，我的确比过去更加开放：工作将更多的在于人类对自身价值的看法，而不是一种换取经济回报的方式，这种回报将越来越不稳定，社会结构和个人心理都需要发生很大的变化——人工智能或许会产生多米诺效应，但第一块骨牌早就被推倒了。

The likeliest outcomes from the Google antitrust trial

联邦法官裁定 Google 非法维持其搜索和广告垄断。美国司法部建议采取措施打破 Google 的控制，包括限制其向 Apple 付费以获取 iOS 中默认搜索入口的能力。Google 对此强烈反对，并声称这些措施将对消费者和市场产生严重影响。

本文是 Casey Newton 的分析。