编译自 Elon Musk 起诉 OpenAI 的文件A. AI 的风险在 20 世纪,美国逐渐从一个以人力劳动为基础的经济转变为一个以人类知识为基础的经济,经济价值主要由人类智力创造。随着时间的推移,人工智能(AI)开始创造价值。早期的 AI 程序能够在某些特定任务上超越人类。几乎在可编程计算机发明后不久,AI 就能在像寻找网络中最快路径这样的高度形式化问题上展现出超人的表现。这些程序虽然有用,但基本上是专用的——它们的智力并不通用。Deep Blue 拥有大量处理器阵列,但只能下棋。用于路径查找的算法可以解决迷宫或规划汽车路线,但它们不能画画。从 21 世纪初开始,一个名为「深度学习」的旧算法首次在低成本硬件上变得实用。这导致了几乎所有 AI 项目性能的几乎一夜之间的革命。新的顶级算法被开发出来,用于将语音转换为文本、翻译语言,以及识别照片中展示的食物类型。深度学习的一个标志是,算法不需要理解针对手头任务的大量知识。它们通过训练示例学习每项任务,基本上是在自我编程。这意味着它们比早期的系统,如 Deep Blue,更具通用性。随着深度学习算法变得越来越复杂,世界上一些领先的 AI 研究人员开始关注所谓的人工通用智能(AGI)。AGI 的基本概念是一个通用目标的人工智能系统——一种机器,具有像人类一样处理各种任务的智力。Elon Musk 长期以来一直认为 AGI 对人类构成了严重威胁——也许是我们今天面临的最大生存威胁。他的担忧与 Stephen Hawking 和 Sun Microsystems 创始人 Bill Joy 等人提出的担忧相呼应。我们的整个经济都是建立在人类共同努力,为艰难任务找到最佳解决方案的基础上。如果一台机器几乎能