随着市场对人工智能安全问题的担忧持续升温,网络安全板块成为有望从中受益的赛道。
过去两天,AI 行业头部企业高管接连发布风险警示,头部网络安全个股盘前应声走高。Okta 股价上涨 5%,克劳德斯特赖克(Crowdstrike)上涨 4.5%,帕洛阿尔托网络(Palo Alto Networks)同样收涨 4.5%。
此番上涨背后的逻辑是:各类企业会加大基础设施防护投入,网络安全公司或将迎来更快的业务增长。
网络安全板块的亮眼表现,与 AI 板块的受挫行情形成鲜明反差。
短短两天之内,Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官山姆・奥特曼,针对由他们主导、并带领顶尖研发团队全力迭代的这项强大技术发出警示,在科技圈掀起震动。
阿莫代伊周六在个人博客中写道:“过去几个月,我愈发确信,想要充分应对各类风险,需要秉持更高的审慎态度。不只是投入资金做风险防范,还需要管控 AI 能力的迭代速度,为风险防控争取追赶的时间。我们必须放缓人工智能模型的能力提升节奏。整体技术依旧会保持较快发展,我们要善用争取到的时间。”
博文发布后,奥特曼立刻表态认同这位竞争对手的观点。 周一凌晨,他又在 X 平台发布了一篇基调悲观的帖子。
美国东部时间凌晨 0 点 57 分,奥特曼在 X 发文称:“人工智能的发展存在两种必须规避的灾难性走向。第一,我们可能会被人工智能夺走对未来的掌控权。这是无法接受的。我们坚定站在人类这边,人工智能必须始终服务于人。要实现这一点,就要确保对齐技术与安全技术的发展,跑赢模型能力的迭代速度。”
他接着写道:“第二种风险,是世界出现权力的高度集中。如果某个人或者某家企业手握能力极强的人工智能,并把自身世界观强加给所有人,最终将酿成极度反乌托邦的局面。规避这两类威胁,需要走好一条狭窄的中间道路。例如某个国家获得过大权力,或是某一家实验室掌握过多话语权,都属于这类风险。”
克劳德斯特赖克创始人兼首席执行官乔治・库尔茨在今年早些时候一档播客节目中表示:“部分 AI 智能体带来的风险,就如同把全部权限交给一名喝醉的实习生,你根本预料不到它会做出什么事。”
库尔茨认为,企业应当以 AI 对抗 AI,用人工智能技术抵御人工智能带来的安全威胁。
精彩评论