假期读书笔记，整理一下特斯拉 CEO Elon Musk 和 Google 创始人 Larry Page 因 AI 分歧交恶的全过程。 - 2010 年，Demis Hassabis 想创办一个公司做 AGI，DeepMind 还没成立，那时候他想到的第一个投资人是？不是 Elon，是 Peter Thiel。选择 Peter 没有什么特别的原因，只是因为他觉得 Peter 比其他硅谷风投更可能押注极端的 idea——比如打造 AGI 这么极端的 idea（这个目标被写在了 DeepMind 商业计划书的第一行）。 - Demis 的策略是对的，Peter 没觉得 DeepMind 野心过大，并投出了 DeepMind 天使轮 200 万英镑中的 140 万英镑。又过了几个月，Elon 作为 Paypal 黑帮的一员看到了这个项目，同样以天使投资人的身份加入，并一直跟投到了 2014 年 DeepMind 被谷歌收购。 - Elon 自己说，投资 DeepMind 和同期的 AI 公司 Vicarious 不在财务回报，而在方便近距离关注 AI 的改进曲线。「这可以让我更清楚地了解事物改进的速度，我认为 AI 改进的速度比人们意识到的快得多。」 - 2013 年，DeepMind 用强化学习打《越狱》，最后系统的速度和精度超过了所有人类玩家，DeepMind 把系统打《越狱》的视频发给了所有投资人，包括同为 Paypal 黑帮成员的 Luke Nosek（Paypal 联合创始人、SpaceX 天使投资人、董事）和 Elon。 - 比较戏剧的情节来了，当时 Luke 和 Elon 在 Elon 的私人飞机上收到了这段视频——飞机上还有第三个人，Google 创始人 Larry Page。他俩在讨论的时候 Larry 无意中听到了他们的对话。Larry 听完了解了 DeepMind 后动了收购的念头。 - Larry 出现在 Elon 飞机上非常合理，谷歌两位联合创始人虽然不是特斯拉的天使投资人，但却是 2008 年和 2013 年危机关头的救命投资人和收购洽谈方（虽然最后没收购），Elon 参加了 Larry 的婚礼，也一度经常在 Larry 家沙发上过夜，Larry 也公开说过，「如果我某天被公车撞了（指非正常死亡），我会把我的全部财富留给 Elon Musk」。 - 2013 年发生了很多事情，Larry 首次了解并最终决定收购 DeepMind；特斯拉陷入需求地狱，Elon 和 Larry 洽谈谷歌收购特斯拉；Elon 和 Larry 因对 AI 的分歧历史性的对峙晚宴。 - Larry 在一次和 Elon 的晚宴上为 AGI 辩护说，数字生命是宇宙中自然且令人向往的下一步，如果我们让数字意识自由发展，而不是试图阻止或奴役他们，结果几乎肯定是好的。Elon 反驳说，Larry 的立场总是基于这样一种假设，即谷歌所做的任何事情都对这个世界有益（谷歌的「不作恶」信条）。 - Elon 认为，谷歌无法确保 AGI 不会毁灭人类。Elon 并不孤独，包括 DeepMind 联合创始人、首席科学家 Shane Legg 在内的一大批 AI 专业人士都认同，确保 AGI 对人类有益而不是有害，直至最终毁灭人类文明，是当代最重要的一个挑战。 - Larry 认为所有的意识都应该被平等对待，无论是数字意识还是生物意识。Elon 对 AGI 的防备态度反应了 Elon 是一个 speciesist 物种主义者（即主张人类利益凌驾于其他一切同样生活在地球上的其他物种利益之上，歧视和虐待其他物种）。双方不欢而散。 - Demis 原本打算独立运营 DeepMind 20 年，但 Larry 找到他说，「看，过去 15 年里我一直在打造谷歌。这挺难的，既需要运气又需要能力，你为什么不利用所有这些基础设施和投入来走一个捷径，这样你可以专注于DeepMind 的使命？」Demis 说，「我想了很久，但没想到很好的反驳。」2014 年，谷歌正式收购 DeepMind。 - Elon 之前公开分享过一个 AI 领域很流行的观点：即以人类为首的碳基生命只是硅基生命（指 AGI）的引导加载程序（bootloader），bootloader 是一段很短的代码，没有 bootloader 计算机就无法启动。同样，硅基生命无法开启自我演化，而人类只是启动硅基生命，开启硅基生命演化的引导加载程序。Elon 拒绝仅成为 bootloader，试图做一些抵抗，他认为与其将 AGI 算法集中在技术精英或监管方手中——哪怕 AGI 算法的所有者恰好是他自己——也不如开源的形式共享给全人类。 - 2015 年，Elon 和 Sam Altman 创办了非盈利的 AI 研究组织 OpenAI，使命是「以最有可能造福全人类的方式推进 AGI」。Elon 认为，彼时已经收购 DeepMind 的谷歌拥有世界上大约 3/4 的 AI 人才（还有谷歌大脑）、行业第一的算力和巨额资金，接近垄断的单极世界，但那里的负责人似乎并不关心安全。 - 在那之后数年至今，Larry 再没有和 Elon 联系。比电影更戏剧的可能是，在 Elon 2018 年退出 OpenAI 董事会后，后者愈挫愈勇，成为 Elon 口中「似乎更领先」但放弃了非盈利、开源模式的 AGI 头部企业。