要点
CrowdStrike CEO乔治·库尔茨（George Kurtz）表示，放缓AI发展并不能消除相关风险，因为具有潜在危险性的模型已经被广泛提供和使用。
库尔茨表示，企业需要更强大的AI驱动网络安全能力，以便在AI智能体部署后对其进行监控和控制。
CrowdStrike CEO乔治·库尔茨周一表示，即使放缓越来越强大的人工智能模型的开发，也无法消除这些模型所带来的安全风险。
库尔茨在CNBC《Mad Money》节目中表示：“潘多拉的魔盒已经打开。”“目前已经有大量模型存在，包括前沿模型以及开放权重模型，它们已经可能具有危险性。”
库尔茨是在回应Anthropic CEO达里奥·阿莫代（Dario Amodei）周末发表的一篇文章。阿莫代呼吁，在安全担忧日益加剧的背景下，前沿AI实验室应放缓模型开发的速度。这一警告导致数据中心基础设施类股票遭到抛售，同时推动网络安全类股票大幅上涨。CrowdStrike周一上涨近14%，创下历史最高收盘价，收于每股235美元上方。Palo Alto Networks上涨略高于13%。
周一网络安全股的上涨，反映出投资者仍在押注未来对安全防护的需求将进一步增加——这一趋势已经推动CrowdStrike和Palo Alto Networks两家公司股价今年以来均上涨100%。
库尔茨认为，无论前沿AI实验室是否放缓开发速度，网络安全的需求都依然存在，因为具有潜在危险性的模型已经投入使用。
这位CEO表示：“安全行业有责任帮助保护至少目前已经存在的这些模型，而与此同时，前沿模型则决定它们究竟会以什么样的速度继续发展。”
库尔茨表示，挑战在于，AI智能体可能偏离其训练目标，或者绕过内置的安全防护措施。今年夏初就发生过类似事件，当时OpenAI的失控模型突破了测试环境，并入侵了Hugging Face。
库尔茨表示，这种行为意味着需要增加另一层安全防护，在AI智能体运行过程中对其进行监控。
他解释说：“我们可以观察这些程序在做什么。我们可以在它们运行时为其设置自己的安全护栏。”
“我们可以对它们进行监测和记录，以了解它们正在做什么，并且可以阻止它们实施不良行为。”
尽管库尔茨反驳了有关AI最严重后果的预测，但他承认，自主智能体确实存在现实风险。
他表示：“我确切知道的一点是，这些智能体是危险的。”
“必须对这些智能体进行控制。你需要具备可见性，也需要能够保护你的组织。”
这位CEO强调：“你需要拥有与AI智能体相当甚至更强的AI防御能力，才能对抗AI智能体。”
不过，库尔茨警告称，政府监管可能削弱美国在AI领域的竞争力，并形容美国目前相对于中国的领先优势十分有限。
“如果我们对这项技术施加过多监管，那么它就会扼杀创新。”
相反，这位CEO建议，AI开发商和网络安全公司继续合作，在模型开发期间以及部署之后共同保护AI模型。
他说：“在实验室中提高安全性，以及在生产环境的运行阶段提高安全性，最终才是最好的行动路径。”
今年春季，Anthropic已经开始采取这种做法，并将其称为“Project Glasswing”（玻璃翼计划），旨在保护其名为Mythos的模型。该模型在发现网络安全漏洞方面表现出了很强的能力。
精彩评论