亿万富翁兼前谷歌 CEO 埃里克·施密特于 2023 年 11 月 17 日星期五在法国巴黎 Station F 科技园举行的 ai-Pulse 会议上。

前谷歌 CEO 埃里克·施密特正在思考人工智能——它如何与人类互动，以及它如何重塑民主。或者取代它。

施密特与前微软高管克雷格·蒙迪以及已故的亨利·基辛格（于 2023 年去世，即该书出版前约一年）合著了《创世纪》。

施密特说，基辛格“在我们出生之前”就已经开始思考现实的本质，并在他最后的几年里探索了技术如何扭曲我们对现实的理解。

《创世纪》包含一个历史故事：1519 年入侵当今墨西哥的西班牙征服者。统治者阿兹特克人似乎误将这些新来者当成了神。他们的皇帝最初会见了他们，采纳了他们的建议，然后成为了他们的人质，之后征服者干脆接管了一切。

这是一个令人不安的章节的开端，该章节提出了人工智能是否会征服我们的问题。

施密特在《早间版》节目中谈到了这本书。您可以使用上面的按钮收听我们谈话的更长版本。

以下是我们讨论的六个关键要点：

1. 人工智能将几乎对所有人开放。

施密特说，中国最近发布了新的、更便宜的大型语言模型 DeepSeek，这震惊了人工智能行业，造成了“扩散问题”。几乎任何人都可以享受“伟大的哲学家、伟大的博学者和伟大的达芬奇”的服务——但也包括我们这些“真正、非常邪恶”的人。

2. 人工智能可能成为煽动者的工具。

这些系统可能变成“伟大的上瘾机器和伟大的说服者”，政治领导人可以利用它们“向每个人承诺一切”，使用“专门针对每个人的”信息。

3. 人们正在与他们不完全理解的技术互动。

合著者们考虑了人类可能如何应对计算机日益增长的力量。他们特别关注两种情况：人们可能开始崇拜这种新的智能并“将其发展成一种宗教”，或者“他们会对它发动战争”。

比尔·盖茨于 2024 年 6 月 13 日在华盛顿特区 NPR 总部拍摄肖像。
能源
比尔·盖茨正在拥抱核能：他的最新项目如何为美国家庭和人工智能提供电力

4. 科技领袖可能也无法掌握其影响。

施密特说，“他们没有做对的原因”是“这些是真正的社会和道德问题。这些公司正在做公司会做的事情。他们正试图最大化他们的收入。”施密特说，缺失的是“什么是对的，什么是错的”的社会共识。

5. 人们可能会允许自己被人工智能统治。

这本书探讨了“哲人王”这个古老的想法，即一个强大而绝对的统治者，一个在历史上被广泛讨论但几乎从未实现的理想。如果机器变成了那个国王呢？

施密特说：“人工智能最终应该能够比人类更好地遵循推理。所以让我们想象一下，你采用了一个人工智能系统，然后你赋予它一部宪法。”他补充说，这个思想实验遇到了一个问题：谁来撰写宪法？

“人类社会有妥协。我们允许偏差。我们允许某些错误，但不允许其他错误。如果你编写了一个完美的计算机来告诉人们该做什么，人们会反抗。”

在进行了这个思想实验之后，施密特说他更喜欢民主。

6. 最近的总统就职典礼显示了权力的集中。

施密特在谈到 1 月 20 日与特朗普总统共享就职典礼舞台的科技高管时说：“在某种程度上，我为我的行业感到自豪，也对我的朋友们印象深刻。”“另一方面，我担心有一条界线是重要的，商业不能跨越。我希望我们的国家由我们的政治领导层来管理。”

施密特合著的这本书表明，在舞台上展示的这些企业对政治有着巨大的影响。