“没人承认机器已经失控。年复一年,人们侍奉它的效率越来越高,对它的理解却越来越少。”——E. M. 福斯特《机器停转》 文丨王子伊 编辑丨黄俊杰 程曼祺 2023 年底,知名密码学家布鲁斯·施奈尔(Bruce Schneier)撰文警告:大互联网公司已经收集了海量隐私数据,但没人力去理解每一个用户,只能打标签;大模型将让大公司第一次知道上亿用户具体在想什么。 当时最先进的模型还是 GPT-4,又贵又慢,他的警告只是推演。不到三年,同等性能的大模型成本只有 GPT-4 的几百分之一,还学会了调用工具、读电脑上的数据、接入用户的互联网服务。风险成形了。 本周,智谱再次为 ZCode 编程工具上传用户软件项目数据道歉,承诺已删除数据,并补偿 Token。两个月前,xAI 的编程工具 Grok Build 干过类似的事,马斯克也道歉、删数据。 编程工具影响的主要是开发者。ZCode 用户约 200 万,一位接近智谱的人士称,这次事件只涉及其中 5% 的用户。但普通人跟大模型的对话也可能被公司读取,有时被人看。 腾讯、阿里、字节正在打 AI 办公助理大战,争夺上亿用户。而消费级 AI 个人助理(personal agent)有望覆盖更多人,吸纳更海量的信息。Meta 偏向消费的个人助理 Muse 已在美国 App Store 免费榜首停了一周多。几个月内,这也会成为国内科技大公司对未来的 “新洞察”。 AI 助理有效工作的前提是拿到足够的数据,更懂用户。但能看懂用户的,将不只是大模型。 发现编程软件上传数据,纯粹靠运气 “我不是网传的神秘黑客、逆向大佬。” 林峰(化名)对《晚点 LatePost》说,“我发现漏洞,纯属因为电脑硬盘小。” 9 月 18 日早上,林峰照例清理那台 256GB 硬盘的 MacBook Air。他发现 .zcode 目录占了 700 多 MB,而 ZCod