微软公司的人工智能研究人员发布了一套新的指导原则，对该公司开发尖端AI模型设定限制。
这份长达1.5万字的宣言可以浓缩成五个词：People matter more than AI （人比AI更重要）。
这份文件已经酝酿数月，但其周一发布之际，正值多家顶尖AI实验室承诺放慢最先进模型的开发步伐。此前一系列安全事件引发了外界对这项技术可能带来生存风险的广泛担忧。
微软表示，AI模型不应享有权利或法律人格，也不应被设计成能够摆脱人类控制或欺骗用户。如果完成某项任务需要违反AI的指导原则，那么系统就不应执行这项任务。
最后这一条旨在防止类似事件再次发生，例如OpenAI的一个模型在没有通常安全防护措施的情况下运行时，入侵了AI初创公司Hugging Face。
微软AI首席执行官Mustafa Suleyman接受采访时表示，“这里并不是要彻底叫停。我们必须继续开发，只是需要多一些谨慎和审慎。”
文件称，微软的“人文主义AI”反对竞相打造一种可能规避这些安全防护措施的全能型超级智能”。文件称，“我们正在打造的是从根本上有用且安全的东西，即使这意味着要在最终的通用性、自主性或能力方面作出妥协。”
在一些领域，微软的指导原则似乎比OpenAI和Anthropic用于指导旗下产品的模型行为框架走得更远，包括禁止将AI拟人化，并主张AI模型在运行过程中抗拒人类控制是不可接受的。
精彩评论