“曾负面缠身、让美国DARPA都为止头痛的"黑科技",已经大举入侵主流互联网平台,这究竟是好事还是坏事?”作者 | 椎名编辑 |梓首图来源:CNN古话说的"人怕出名猪怕壮",现今恐怕有了续集——人怕出名猪怕壮,出名之后怕deepfake。今年年初,受此困扰的是世界上被拍照次数最多的名人之一阿汤哥。你能分辨出下图中哪个是真的阿汤哥吗?答案揭晓:两者都不是。左图是汤姆·克鲁斯的模仿者费尔希,右图是由Tiktok用户创造的deepfake版汤姆·克鲁斯。这位名为Ume的用户创建的Deeptomcruise账号,只放了三条视频,便在一周时间吸引了38万的粉丝。这种效应,还只是deepfake视频野蛮生长的冰山一角。在许多人仍然相信"Seeing is believing"的时候,历史的进程已经按下快进键:数据统计,2019年到2020年这一年,Deepfake视频数量增长了大概6820倍,从14678个视频增长到1亿个视频。deepfake——这项曾负面缠身、让美国DARPA都为止头痛的"黑科技",已经大举入侵主流互联网平台,这究竟是好事还是坏事?01名声狼狈,被视为最严重的AI安全威胁不得不说,当一项技术被冠以"deepfake"这个名字,给人的印象不负面都不行:fake已经是造假了,还要深度地造假。但事实也确实如此,deepfake所代表的由深度学习 AI 系统生成的媒体内容,最早走红的用途非常负面。2018 年,Motherboard 记者 Sam Cole在互联网上发现了一个令人不安秘密角落:一位名叫"deepfakes"的 Reddit 用户,借助AI将色情片中主角替换成名人,发布了不少未经同意的色情假视频。一年之后, deepfake应用程序越来越易于访问,即便那个论坛因为充斥着大量合成的色情视频而被关闭,与之相关的换脸色情片增长已经蔓延开来。且deepfake名声扫地