当AI批量生产“劣质假人”，小红书决定不再沉默

澎湃新闻04-28 17:47

4月27日，小红书在北京举办了首届AI治理开放日，首次公布小红书AI治理主张，系统讲解平台对AI的态度和原则，并邀请优质创作者来现场分享他们的创作思路。　　发布会的背后，一个难以回避的现实随之浮出水面：数据显示，2025年中国动画微短剧市场规模同比激增276.3%，在播AI剧突破12万部。与此同时，中央网信办已敦促6大平台清理违规视频3.7万余条，AI内容正在以惊人的速度吞噬数字空间。　　当...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2630725703?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2026-04-28 17:47","share_image_url":"https://static.laohu8.com/b0d1b7e8843deea78cc308b15114de44","id":"2630725703","market":"other","top_or_hot":-1,"title":"当AI批量生产“劣质假人”，小红书决定不再沉默","media":"澎湃新闻","content":"<div>\n<p>4月27日，小红书在北京举办了首届AI治理开放日，首次公布小红书AI治理主张，系统讲解平台对AI的态度和原则，并邀请优质创作者来现场分享他们的创作思路。\n　　发布会的背后，一个难以回避的现实随之浮出水面：数据显示，2025年中国动画微短剧市场规模同比激增276.3%，在播AI剧突破12万部。与此同时，中央网信办已敦促6大平台清理违规视频3.7万余条，AI内容正在以惊人的速度吞噬数字空间。\n　　当...</p>\n\n<a href=\"https://finance.sina.com.cn/jjxw/2026-04-28/doc-inhwaawe7238075.shtml\">网页链接</a>\n\n</div>\n","source":"sina","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>当AI批量生产“劣质假人”，小红书决定不再沉默</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n当AI批量生产“劣质假人”，小红书决定不再沉默\n</h2>\n\n<h4 class=\"meta\">\n\n\n2026-04-28 17:47 北京时间&nbsp;&nbsp;&nbsp;<a href=https://finance.sina.com.cn/jjxw/2026-04-28/doc-inhwaawe7238075.shtml><strong>澎湃新闻</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>4月27日，小红书在北京举办了首届AI治理开放日，首次公布小红书AI治理主张，系统讲解平台对AI的态度和原则，并邀请优质创作者来现场分享他们的创作思路。\n　　发布会的背后，一个难以回避的现实随之浮出水面：数据显示，2025年中国动画微短剧市场规模同比激增276.3%，在播AI剧突破12万部。与此同时，中央网信办已敦促6大平台清理违规视频3.7万余条，AI内容正在以惊人的速度吞噬数字空间。\n　　当...</p>\n\n<a href=\"https://finance.sina.com.cn/jjxw/2026-04-28/doc-inhwaawe7238075.shtml\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"AGIX","symbol_name":"通用人工智能 ETF-AGIX","start_time":0,"source_url":"https://finance.sina.com.cn/jjxw/2026-04-28/doc-inhwaawe7238075.shtml","article_id":"2630725703","we_media_id":null,"thumbnails":[],"rights":{"source":"sina","url":"https://finance.sina.com.cn/jjxw/2026-04-28/doc-inhwaawe7238075.shtml","rn_cache_url":null,"customStyle":"body{padding-top:10px;}.art_tit_h1{#titleStyle#}a{#lv2TextColor#}.art_time, .art_cite{#sourceStyle#;} .art_cite{margin-left: 3px;}","selectors":".module-article, article","filters":"header, .voice2, .tags, #norm_qrcode_link_auto, .unfold-box, .action","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2630725703","pubTimestamp":1777369620,"columns":[],"sourceInfo":{"source_id":"sina","name":"sina"},"weMediaInfo":null,"summary":"4月27日，小红书在北京举办了首届AI治理开放日，首次公布小红书AI治理主张，系统讲解平台对AI的态度和原则，并邀请优质创作者来现场分享他们的创作思路。与此同时，中央网信办已敦促6大平台清理违规视频3.7万余条，AI内容正在以惊人的速度吞噬数字空间。　　当人们开始质疑“屏幕对面是否还有人”时，内容平台赖以生存的信任根基就在动摇。","collect":0,"end_time":0,"defaultTopTitle":"sina.com.cn","property":[],"viewcount":null,"language":"zh","relate_stocks":{"AGIX":"通用人工智能 ETF-AGIX","ARTY":"ISHARES FUTURE AI & TECH ETF","CHAT":"ROUNDHILL GENERATIVE AI & TECHNOLOGY ETF","AIPO":"Defiance AI and Power Infrastructure ETF"},"translate_title":"When AI mass-produces \"inferior dummies\", Xiaohongshu decides not to be silent","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"ARTY":1.5,"AGIX":1.5,"CHAT":1.5,"AIPO":1.5},"content_text":"4月27日，小红书在北京举办了首届AI治理开放日，首次公布小红书AI治理主张，系统讲解平台对AI的态度和原则，并邀请优质创作者来现场分享他们的创作思路。\n　　发布会的背后，一个难以回避的现实随之浮出水面：数据显示，2025年中国动画微短剧市场规模同比激增276.3%，在播AI剧突破12万部。与此同时，中央网信办已敦促6大平台清理违规视频3.7万余条，AI内容正在以惊人的速度吞噬数字空间。\n　　当人们开始质疑“屏幕对面是否还有人”时，内容平台赖以生存的信任根基就在动摇。\n　　小红书这次选择站出来，试图回答那些令所有平台纠结的问题：AI究竟是创意的放大器，还是造假的生产线？那些曾经以“真实分享”为底色的社区，将如何面对？\n　　既不拒绝，也不放任\n　　内容为王的时代，AI却带来了“造假、侵权、低质内容”等新挑战，它悄悄瓦解的是人与内容之间的信任基础。仅2026年以来，小红书累计处置AI不良行为超百万例，其中AI托管账号超过80万个、AI造假笔记近15万篇。一个精心构思的内容，完全可能被一套AI模板快速复制，并在算法推荐下吞噬掉原创者的生存空间。\nAI托管账号自动发文\n　　更值得警惕的是“AI托管账号”这条灰色产业链。部分账号完全由AI工具完成注册、发布、互动，主页所有公开笔记均为代发。用户以为自己点赞的是一个有趣的灵魂，实际面对的是一段毫无感知的代码。比如曾被网安部门预警的OpenClaw，只需自然语言指令，就能自动完成内容生产和社交互动。而这被小红书认为是对社区底层价值观的根本性违背。\n　　当公众不再相信眼见为实，谁会因此受益？答案是，用户和平台都不会是受益者，问题根源不在于AI本身，而在于一个正在加速发生的悖论。\n　　AI越来越强，核心驱动力之一是海量高质量数据的持续供给。然而，高质量数据的稀缺性正在成为业界普遍担忧的问题，从AI诞生的那一刻起，低质量、同质化的AI生成内容就开始大量填充互联网，而用这些内容反复训练AI，研究显示可能导致模型性能退化，输出越来越趋于单一、重复、失真，这一现象在学界被称为“模型塌陷”。明白这个逻辑，结论就清晰了——真正源于人类经验、独立思考与原创表达的内容，其价值正变得前所未有地珍贵。\n　　所以，小红书在本次AI治理主张发布中点出了关键：平台不应在“完全拒绝AI”和“放任AI生长”之间二选一，而应把握好效率与真实、工具与底线之间的尺度。这句话之所以重要，是因为它承认了平台不能偷懒，也不能假装AI不存在。治理AI，本质上是在人工智能泛滥的时代里，重新为人的价值划出一条底线。\n　　一个主张，两张清单\n　　在这次治理主张中，小红书鼓励AI作为创意放大器，反对AI作为造假工具与低质内容生产机器，所有AI生成合成内容需主动标识。并明确了用“鼓励什么”和“反对什么”两张清单降低创作者的认知成本，这种清晰的态度在行业中并不多见。\nAI治理主张部分摘录\n　　核心内容并不复杂：鼓励内容包括如实标识AI参与和AI创意、以AI实现信息价值或角色创作、提升视觉审美；重点鼓励三类方向AI信息价值、AI角色创作、AI视觉创作。严禁行为则指AI造假、AI低质、AI侵权、AI账号扰乱秩序。\n　　这套治理框架的核心逻辑是把AI定位为“创意的放大器”，而不是“创意的替代品”。\n　　技术层面如何落地？小红书方在现场透露，平台已建立多重识别能力：如不断提升对图片和视频中AI生成、深度伪造、异常创作痕迹的自动识别水平；结合历史审核结果和账号信息，判断同类风险是否重复扩散；通过日常巡查和风险预警，实现“早发现、早拦截”。\n小红书上线了针对AI笔记提条提示的申诉通道\n　　当然，采取技术对抗并非就能高枕无忧，AI生成模型迭代速度极快，尤其是深度伪造技术。小红书的识别能力能否长期跑赢规避手段，还需要时间检验，“道高一尺魔高一丈”的状况可能长期存在。此外，“主动标识”依赖创作者的自觉，平台的后续稽查压力依然很大。\n　　行业样本，平台答卷\n　　央美国画毕业生一方专攻宋代院体画，一幅作品耗时近一个月。传统国画的精细笔触与晕染效果，让画动起来几乎不可能。从2024年末开始，她尝试用多个AI视频生成工具，将静态画作输入，配合简单分镜指令，就能让国画自然地动起来。在一方看来，画面的创作、原创性和整体想法，必须由手工完成，AI是最后阶段的放大器。\n创作者利用AI把国画作品“动起来”\n　　这个案例恰好呼应了小红书的治理主张：AI不是用来替代创作过程的，而是用来释放创作者原有能力范围之外的想象力的。更重要的是，一方没有隐瞒AI的使用，她主动标识，坦诚分享，这种态度本身就是对社区底色的正向强化。\n　　从行业角度看，小红书的策略提供了一种可参照的样本。它既没有对AI采取全面封杀，也没有放任自流，而是在效率与真实之间走了一条中间路线，并率先给出了态度鲜明、规则清晰的治理原则，这本身就是对行业的一种推动。\n　　对其他平台而言，小红书的方案提供了一个可参考的模板。这套方案当然未必完美，但至少直面了一个基本命题：平台能成为什么样子，取决于它如何与AI共处。如果平台的治理长期缺位，结果必然是劣币驱逐良币。\n　　对普通创作者来说，这次治理主张则传递了一个清晰信号，只要坚持原创、合理使用AI工具，不仅不会受到影响，反而会获得更清晰的成长路径。\n　　正如一方所说，AI只能呈现一瞬间的结果，无法替代绘画过程本身的治愈。毕竟，人们最终沉淀在一个社区里，不是因为那里有最丰富的信息，而是因为那里有最真实的人。AI不会停下进化的脚步，平台能做的，就是让“在场”的人被看见，让“不得不在场”的机器不会喧宾夺主。\n\n\n海量资讯、精准解读，尽在新浪财经APP\n\n责任编辑：刘万里 SF014","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"tenantId":"TBCN","deviceId":"web-server-community-laohu8-v3","version":"4.42.0","shortVersion":"4.42.0","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2630725703","isCrawlerRequest":true}