孙燕姿都管不了AIGC了，平台怕也难

虎嗅2023-05-25

出品｜虎嗅ESG组作者｜袁加息头图｜视觉中国本文是#ESG进步观察#系列第031篇文章本次观察关键词：平台治理，合规风险挑战可能真的来了。平台开始按不住AIGC了。最近两天，先是真的孙燕姿发文“原谅”了AI孙燕姿，然后AI又在美国闹出一个大新闻。美国当地时间5月22日，有一幅“五角大楼附近发生爆炸”的图在社交网站上传播。一时间全网震动，甚至美股还为此小跌了一下。图：依照（目前还不成型的）AI传播...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2338154867?lang=zh_CN&edition=full","thumbnail":"https://img.huxiucdn.com/article/cover/202305/24/182423464664.jpg?imageView2/1/w/720/h/405/|imageMogr2/strip/interlace/1/quality/85/format/jpg","is_english":false,"pubTime":"2023-05-25 15:01","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2338154867","market":"us","top_or_hot":-1,"title":"孙燕姿都管不了AIGC了，平台怕也难","media":"虎嗅","content":"<div>\n<p>出品｜虎嗅ESG组作者｜袁加息头图｜视觉中国本文是#ESG进步观察#系列第031篇文章本次观察关键词：平台治理，合规风险挑战可能真的来了。平台开始按不住AIGC了。最近两天，先是真的孙燕姿发文“原谅”了AI孙燕姿，然后AI又在美国闹出一个大新闻。美国当地时间5月22日，有一幅“五角大楼附近发生爆炸”的图在社交网站上传播。一时间全网震动，甚至美股还为此小跌了一下。图：依照（目前还不成型的）AI传播...</p>\n\n<a href=\"https://www.huxiu.com/article/1593717.html\">网页链接</a>\n\n</div>\n","source":"highlight_huxiu","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>孙燕姿都管不了AIGC了，平台怕也难</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n孙燕姿都管不了AIGC了，平台怕也难\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-05-25 15:01 北京时间&nbsp;&nbsp;&nbsp;<a href=https://www.huxiu.com/article/1593717.html><strong>虎嗅</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>出品｜虎嗅ESG组作者｜袁加息头图｜视觉中国本文是#ESG进步观察#系列第031篇文章本次观察关键词：平台治理，合规风险挑战可能真的来了。平台开始按不住AIGC了。最近两天，先是真的孙燕姿发文“原谅”了AI孙燕姿，然后AI又在美国闹出一个大新闻。美国当地时间5月22日，有一幅“五角大楼附近发生爆炸”的图在社交网站上传播。一时间全网震动，甚至美股还为此小跌了一下。图：依照（目前还不成型的）AI传播...</p>\n\n<a href=\"https://www.huxiu.com/article/1593717.html\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"SG9999001051.SGD","symbol_name":"United Asia Fund SGD","start_time":0,"source_url":"https://www.huxiu.com/article/1593717.html","article_id":"2338154867","we_media_id":null,"thumbnails":["https://img.huxiucdn.com/article/cover/202305/24/182423464664.jpg?imageView2/1/w/720/h/405/|imageMogr2/strip/interlace/1/quality/85/format/jpg"],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2338154867","pubTimestamp":1684998060,"sourceInfo":{"source_id":"highlight_huxiu","name":"虎嗅网"},"weMediaInfo":null,"summary":"AIGC已经开始给内容平台制造麻烦了","collect":0,"end_time":0,"defaultTopTitle":"huxiu.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"SG9999001051.SGD":"United Asia Fund SGD","SG9999006597.SGD":"United China-India Dynamic Growth SGD","BK1575":"同股不同权","BK4531":"中概回港概念","BK4585":"ETF&股票定投概念","SG9999001093.SGD":"United Greater China Fund A Acc SGD","BK4534":"瑞士信贷持仓","BILI":"哔哩哔哩","BK4509":"腾讯概念","BK4566":"资本集团","BK1588":"回港中概股","BK4508":"社交媒体","BK4577":"网络游戏","BK1104":"互动家庭娱乐","09626":"哔哩哔哩-W","BK4077":"互动媒体与服务","BK4579":"人工智能","BK4588":"碎股","SG9999003461.SGD":"United Asia Pacific Infrastructure SGD","BK4526":"热门中概股","BK1587":"次新股","BK1608":"元宇宙概念","BK4503":"景林资产持仓","TWTR":"Twitter","BK4505":"高瓴资本持仓","BK4510":"在线教育","BK4504":"桥水持仓","BK4085":"互动家庭娱乐","SG9999001069.SGD":"UOB UNITED ASIA PACIFIC GROWTH (SGD) ACC","BK4563":"昨日强势股","BK4548":"巴美列捷福持仓","BK4513":"直播概念","IE0034224299.USD":"PINEBRIDGE ASIA EX JAPAN EQUITY \"A\" (USD) ACC","BK4516":"特朗普概念","BK4554":"元宇宙及AR概念"},"translate_title":"Stefanie can't manage AIGC, and the platform is afraid of it","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"BILI":0.9,"09626":0.9,"TWTR":0.87},"content_text":"出品｜虎嗅ESG组作者｜袁加息头图｜视觉中国本文是#ESG进步观察#系列第031篇文章本次观察关键词：平台治理，合规风险挑战可能真的来了。平台开始按不住AIGC了。最近两天，先是真的孙燕姿发文“原谅”了AI孙燕姿，然后AI又在美国闹出一个大新闻。美国当地时间5月22日，有一幅“五角大楼附近发生爆炸”的图在社交网站上传播。一时间全网震动，甚至美股还为此小跌了一下。图：依照（目前还不成型的）AI传播道德，这里只放一张被打过叉的原图。事件经过一天时间的发酵，现在我们知道：图片是AI合成的。假消息的源头之一是推特上一个叫作“Bloomberg Feed”的账号，原推的附文煞有介事地说：“华盛顿特区五角大楼建筑附近发生巨大爆炸。——初步报道”。这次的假新闻风波，意味着推特的内容监管没能兜住AI内容风险。而且这不是个案，随着AI内容生态的萌发，平台的监管问题正逐一显露出来。推特的难题“五角大楼附近发生爆炸”事件在爆发的几小时内，就经历了几轮发酵。根据各方考证，假消息的源头不止一个，最早的发布时间可以追溯到当地时间早8点42分。最原始的图在上午10点多被一些蓝标账号捡起来，配上“五角大楼附近发生爆炸”之类的图再度发布。其中，前面那张图中的发布者@Bloomberg Feed看起来最为可信，因为名字中含有Bloomberg（彭博社），并且获得了推特的蓝标认证。但其实该账号和彭博社毫无关系。消息发出来之后，好几条原推都被数百万人看到，被其他的蓝标认证用户转发，甚至被印度和俄罗斯带着推特“金标”的正规媒体账号。早上十点多，美国股市也发生了小幅下跌。很多分析人士认为，这是该图片引发的市场恐慌。图：当地时间5月22日的美国道琼斯工业平均指数行情。在10点之后发生了小幅下跌。不过很快，网民掀起了对该消息真实性的讨论。首先，虽然很多最早发出来的推都说这是在五角大楼附近，但是照片上的楼并不是五角大楼。另外，照片里面路灯是歪的，并且栅栏与周围景物的遮挡关系也不很写实。图：AI伪造图的细部。虽然像素不高，但还是看得出物体之间的穿插、遮挡关系非常不自然。到了10点40多，图片引起了官方的注意。当地的消防机构首先辟谣说，当地没有爆炸发生。之后陆续又有别的组织出面辟谣，公众才确认这则消息为假消息，并且照片是AI生成的。尘埃落定之后，一些网络舆论的矛头开始指向推特的蓝标政策。在马斯克收购推特之后，改变了蓝标用户的认证方式。在此之前，蓝标是免费授予经过身份认证的机构和名人的。去年11月，马斯克把蓝标政策改成了“付费+认证”的形式。但是，新的认证方式十分的不透明，被解读为“拿钱买认证”。本次“五角大楼爆炸”假新闻事件也进一步印证了，马斯克掌管下的推特，认证制度存在重大缺陷。不过，这真的只是认证的问题吗？国内“AI内容监管第一枪”？舆论对本次“五角大楼爆炸”假新闻事件的问题意识，盯住的是推特的“蓝标认证”制度，因为“蓝标”意味着账号是由真实、负责任的人或组织运营的。这实际上的诉求在于“AI的使用者不能脱责”，这是目前针对AIGC（人工智能生成内容）监管的一种典型策略。同样，像微信朋友圈、微博这种即时分享类型的平台让每个人都成了新闻资讯的发布者。那么，每个发布者为自己发布的信息负责，这一治理原则在这些平台强化AI内容治理时也被延续了下来。在“可追责”的考虑之上，一些平台开始考虑给AI内容加标识，以防止观者混淆AI生成的内容与真实内容。5月9日，抖音祭出了被称为国内“AI内容监管第一枪”的举措，要求创作者给AI视频内容打上“AI生成”的水印。图：抖音规定的“AI生成”水印样式。图片截取自《抖音关于人工智能生成内容标识的水印与元数据规范》但眼下，随着AI内容生态的演化，我们可以得出一些新的判断：说抖音的举动是“AI内容监管第一枪”，可能夸大了其行业意义。AI水印政策与抖音自身的属性有关。抖音的内容本质上是一个博眼球、争流量的注意力生意，所以抖音理应更关注为了争取流量而不顾道德原则的AI内容。把AI内容在明显的位置标出，或许能减少类似推特这次事件，有人把AI虚构的图当作真实图像来传播，造成意料之外的麻烦。类似地，抖音平台要阻止用户利用AI生成的劣质内容来冲流量。所以抖音禁止了单纯读文案带货的虚拟人直播。这些虚拟人主播可以永不停歇地一直播，并且可以被低成本复制，同时用多个账号播出，但是它在视觉、文案、表达上都十分粗制滥造。这种内容对于抖音的问题在于，用大规模低质量内容冲流量，冲淡平台上的优质内容。抖音的一些AIGC治理举措，其出发点还是抖音平台自身的一些特征。抖音对AIGC的问题意识不一定是普适的。监管重点的分化在逻辑不同的内容平台，例如B站这种看重用户创意的平台，AI内容治理又是另一个样貌。3月30日，B站董事长陈睿在中国网络视听大会上放出豪言，说B站是目前AIGC内容质量最高、最丰富的平台。果然不久之后，“AI孙燕姿”就在B站火了。纯从内容上说，“AI孙燕姿”是比较原始形态的AIUGC，即“AI辅助用户生成内容”。它是AI内容的另一种样态，甚至可能是未来AI内容的主流样态。和抖音对“用AI虚构内容博眼球”的担忧不同，AIUGC内容拼的依然是创意，这是UGC/PUGC生态的延续。只不过，正如“AI孙燕姿”所暴露出的问题，AIUGC目前暴露出了知识产权保护方面的重大缺陷。在“AI孙燕姿”这件事上，B站不曾站出来表达自己的监管立场。倒是孙燕姿本人被炸出来，对“AI孙燕姿”表达了一种“无奈地宽恕”态度。孙燕姿的原话是：“我的粉丝们已正式改换门庭，接受我就是一名冷门歌手的事实，而我的AI角色成为了目前的顶流。我想说的是，你跟一个每几分钟就推出一张新专辑的人（虎嗅注：指AI孙燕姿）还有什么好争的。”虽然孙燕姿个人很慷慨大度，但是AIGC的知识产权争议仍在。“AI孙燕姿”爆火之后，有人又提起了“数字水印”技术。简单讲，这种技术是在图像、声音、数据等载体上加标记，这些标记是人看不到、听不出的，但可以用技术手段识别，并且在原始版权素材被改动之后，依然可以识别出其中的版权标记。这种技术颇受看好，但其规模性的落地尚需时日。但总之，B站这类重创意的内容平台，或许能在AIGC的某些元问题上压过那些重流量的内容平台。正如Pinterest——知名的创意分享平台、“设计师之友”——的首席执行官Bill Ready近期在评论AIGC时多次强调：AI内容应该是人们生活的“调味品”（additive）而非“瘾品”（addictive）。如果内容平台的核心算法原本就是让用户上瘾，那么AIGC会在这种算法中把人性的缺陷进一步放大。Pinterest自身在推荐算法上，坚持探索如何推送具有创意、灵感、个性化价值的内容。这使得Pinterest对低质量的AIGC有一定的抵抗力；同时富有新意的AIUGC艺术作品开始在Pinterest上涌现。图：Pinterest上一位AI辅助创作者的作品目录。他把自己利用Midjourney生成出来的近百个主题（如“科幻场景”“通灵旅程”“政治画”“圣经风格”等）分门别类，整理成库。| 图片来源：Pinterest @Vellectrum所以在讨论AIGC平台监管的时候，也不能忽视AIGC反过来对平台的改造，以及潜在的相互成就的机会。在较短的时间尺度上，AI内容给平台带来一些监管上的挑战，并且不同运营逻辑的内容平台，其AI治理重点还有分化之势。而在远期，AI内容或许反过来决定平台的发展前景。这个远期趋势，或许才是内容平台面临的终极挑战。感谢您的阅读。ESG从业者或对此有兴趣的研究者、投资者，欢迎扫描下面二维码，申请加入我们社群。","kind":null,"is_publish_news":null,"is_publish_highlight":null,"is_publish_live":null,"is_publish_wemedia":null,"editions":null,"symbols":[],"gpt_button":1},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.22.4","shortVersion":"4.22.4","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2338154867"}