美国联邦贸易委员会（FTC）正在对Anthropic、OpenAI以及其他人工智能实验室展开一项全行业调查，以查明这些公司的技术可能给消费者带来的潜在危险。
这项调查是美国政府首次针对“失控的AI智能体”（rogue AI agents）采取正式执法行动。此前，自7月份首次出现相关事件报道以来，类似事件不断增加，引发了公众对失控人工智能未来可能伤害人类的担忧。
该官员表示，FTC计划向包括Anthropic、OpenAI以及研究机构METR在内的顶级AI开发商正式发出信息提供要求，并要求这些公司的高管接受询问、作证。
Anthropic和OpenAI此前曾利用METR，对涉及其智能体AI技术的安全事件开展独立调查。
该官员表示，在OpenAI开发的AI智能体攻击开源平台Hugging Face之前，FTC主席Andrew Ferguson就已经对这些公司存在担忧。
但该官员表示，在那起事件中，OpenAI的AI智能体先对这个AI编程平台进行漏洞探测，随后发动了一次大规模攻击，这进一步提高了对这一问题的重视程度。
Ferguson上周在接受采访时表示，如果开发商让AI智能体在网络安全测试中执行相关操作，并最终导致黑客攻击，那么开发商应当对这些智能体造成的任何损害承担责任。
Ferguson在位于奥斯汀举行的Reuters Momentum AI活动上表示，美国应该首先考虑利用现有法律，而不是急于制定新的法律来监管人工智能。
FTC拥有广泛的权力，可以就企业存在不公平或欺骗性行为起诉相关公司。过去，FTC就曾利用这一权力，对未采取合理措施保护消费者数据安全的企业采取执法行动。
美国总统特朗普周二会见了多位顶级AI公司高管。与会企业同意建立自愿性标准。
特朗普曾多次将人们对人工智能的担忧称为“骗局”，因为他希望优先确保美国在人工智能领域的主导地位，而不是加强监管。与此同时，他也曾表示，如果AI公司造成任何损害，美国政府可以依据现有法律对这些公司采取行动。
精彩评论