看着这个 AI 奶奶把骗子耍得团团转，可把我高兴坏了

爱范儿2024-11-18

你好，骗子，我是你的噩梦。眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体，却是一个反诈 AI 高手。与传统的反诈宣传不同，Daisy 不会苦口婆心地提醒你谨防上当受骗，而是从源头抓起，与骗子聊些家长里短的话题，不断消耗骗子的耐心。天上不会掉馅饼，但骗子会给你扔一个诱饵。打造 Daisy 的初衷在于，要用骗子的执着消耗骗子的时间，减少后者扔诱饵的机会，从而更好地保护其他潜在的受害者。应了...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2484307698?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2024-11-18 10:39","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2484307698","market":"us","top_or_hot":-1,"title":"看着这个 AI 奶奶把骗子耍得团团转，可把我高兴坏了","media":"爱范儿","content":"<div>\n<p>你好，骗子，我是你的噩梦。眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体，却是一个反诈 AI 高手。与传统的反诈宣传不同，Daisy 不会苦口婆心地提醒你谨防上当受骗，而是从源头抓起，与骗子聊些家长里短的话题，不断消耗骗子的耐心。天上不会掉馅饼，但骗子会给你扔一个诱饵。打造 Daisy 的初衷在于，要用骗子的执着消耗骗子的时间，减少后者扔诱饵的机会，从而更好地保护其他潜在的受害者。应了...</p>\n\n<a href=\"https://tech.ifeng.com/c/8ebeqz6Zyly\">网页链接</a>\n\n</div>\n","source":"ifeng_tech","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>看着这个 AI 奶奶把骗子耍得团团转，可把我高兴坏了</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n看着这个 AI 奶奶把骗子耍得团团转，可把我高兴坏了\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-11-18 10:39 北京时间&nbsp;&nbsp;&nbsp;<a href=https://tech.ifeng.com/c/8ebeqz6Zyly><strong>爱范儿</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>你好，骗子，我是你的噩梦。眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体，却是一个反诈 AI 高手。与传统的反诈宣传不同，Daisy 不会苦口婆心地提醒你谨防上当受骗，而是从源头抓起，与骗子聊些家长里短的话题，不断消耗骗子的耐心。天上不会掉馅饼，但骗子会给你扔一个诱饵。打造 Daisy 的初衷在于，要用骗子的执着消耗骗子的时间，减少后者扔诱饵的机会，从而更好地保护其他潜在的受害者。应了...</p>\n\n<a href=\"https://tech.ifeng.com/c/8ebeqz6Zyly\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"TTS","symbol_name":"Tile Shop Hldgs","start_time":0,"source_url":"https://tech.ifeng.com/c/8ebeqz6Zyly","article_id":"2484307698","we_media_id":null,"thumbnails":[],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2484307698","pubTimestamp":1731897576,"columns":[],"sourceInfo":{"source_id":"ifeng_tech","name":"凤凰网财经"},"weMediaInfo":null,"summary":"于是他们想出了一个妙招，那就是打造出一个 AI 奶奶——Daisy，并让其主动出击，与骗子进行最高可达 40 分钟的通话。O2 欺诈部门主管 Murray Mackenzie 杀人诛心地指出，Daisy 的作用在于，她彻底扭转了与骗子的博弈态势。据外媒 techspot 报道称，这个 AI 工具已经被列入诈骗者常用的易骗号码列表。Daisy 能够在 24 小时不间断地与来电者互动，且无需人工干预。吊诡的是，电话一头连着 AI 骗子，电话一头连着 AI Daisy，一个捧哏，一个逗哏，双方无限循环。","collect":0,"end_time":0,"defaultTopTitle":"ifeng.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"TTS":"Tile Shop Hldgs"},"translate_title":"Watching this AI grandmother fool the liar around makes me very happy","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"TTS":1},"content_text":"你好，骗子，我是你的噩梦。眼前这位慈眉善目的奶奶叫 Daisy。它没有真人的躯体，却是一个反诈 AI 高手。与传统的反诈宣传不同，Daisy 不会苦口婆心地提醒你谨防上当受骗，而是从源头抓起，与骗子聊些家长里短的话题，不断消耗骗子的耐心。天上不会掉馅饼，但骗子会给你扔一个诱饵。打造 Daisy 的初衷在于，要用骗子的执着消耗骗子的时间，减少后者扔诱饵的机会，从而更好地保护其他潜在的受害者。应了那句话，真正的反诈胜利不是打败骗子，而是让诈骗变得不划算。与其教会一个人防骗，不如浪费一个骗子的时间Daisy 的幕后开发者源自一家英国的电信公司 O2。与 Vodafone、EE 和 Three 并列，O2 是英国四大电信运营商之一。O2 的数据显示，67% 的英国人表示担心成为诈骗的受害者，四分之一的人每周都会遭遇不同程度的诈骗。面对诈骗分子的兴风作浪，O2 也很头疼。于是他们想出了一个妙招，那就是打造出一个 AI 奶奶——Daisy，并让其主动出击，与骗子进行最高可达 40 分钟的通话。方法有些舍己为人却又很实用，折腾完骗子，这样骗子就没有时间去诈骗别人了。Daisy 的角色设定是一位慈祥的老奶奶，映照到现实生活，老年人也恰恰是诈骗分子最常针对的下手群体。在官方发布的演示 demo 中，Daisy 跟电话那头的骗子唠唠家常，绘声绘色地分享她的爱好——编织毛衣，聊聊家里可爱的猫等等。无它，通话时间拖得越久越好。当涉及银行卡账号/密码等要紧信息时，这位 AI 奶奶还会凭空杜撰，主打一个句句有回应，事事没着落，睁着眼睛说瞎话。O2 欺诈部门主管 Murray Mackenzie 杀人诛心地指出，Daisy 的作用在于，她彻底扭转了与骗子的博弈态势。“我们通过让他们一直在线上，巧妙地在他们的“游戏”中击败并超越了他们。”实际上，在 Daisy 之前，也已经有不少类似的工具诞生。据外媒 The Guardian 报道，澳洲麦考瑞大学团队也曾研发了一个专门和电信诈骗骗子“聊天”的 AI 机器人 Apate。当澳洲警方辨析并拦截了电信诈骗电话，他们就会转接给这位“受害者机器人”创作者 Kafaar 也曾经透露过 Apate 的诞生故事。他和两个孩子在外面野餐时，给诈骗来电者讲了一个笑话。之后，他因此受到启发，开始思考如何用无意义的闲聊来消耗骗子的时间，从而阻止他们去欺骗更多的人。我当时想，这样做的目的是欺骗骗子，浪费他们的时间，这样他们就不能和其他人通话了。Apate 还拥有几百个不同的身份，这些身份各自带有不同的口音，有不同的个性，有的假装懵懵懂懂，有的就跟老人家一样讲话爱重复，也有的脾气比较暴躁，整体比较多样，主要是为了不被骗子认出模式。简言之，与其教会一个人防骗，不如浪费一个骗子的时间。技术在升级，人类的判断力永远是最后的防线AI 的飞速发展为 Daisy 的诞生提供了一个绝佳契机。Daisy 基于定制训练的大型语言模型（LLM）构建，其工作原理与 Google Gemini Live 或早期版本的 ChatGPT Voice 相似。具体原理就是，AI 会转录来电者的声音，接着这位 AI 奶奶会根据预设的角色性格来调整回答的风格和内容，最后再次转换成 AI 奶奶的声线：转录语音为文本：将捕捉到的声音转换成文本的过程称为“转录”。这样，Daisy 可以理解来电者所说的内容，并准备相应的回应。生成回应：Daisy 使用一个定制的大型语言模型（LLM）来生成回应。这个模型不仅能够理解文本信息，还能够根据上下文和预设的角色性格层（character personality layer）生成合适的回答。角色性格层：“角色性格层”是指 Daisy 在生成回应时，会根据预设的角色性格来调整回答的风格和内容，使其更符合角色设定，比如像一个祖母那样亲切和耐心。文本转语音：生成的文本回应需要再次转换成语音，以便 Daisy 可以通过电话与来电者进行交流。这个过程也就是“文本转语音”（TTS），Daisy 使用一个定制的 AI 模型来完成这一步。并且，在训练的过程中，Daisy 还得到了一位 YouTube 博主 Jim Browning 的帮助。该博主在 YouTube 上拥有 400 万+ 粉丝，是该平台最具影响力的反诈骗者之一。他的视频不仅展示诈骗手法，还会通过详细的技术分析和实例，来揭示了整个诈骗产业的运作方式。毕竟最了解你的人永远是你的敌人，骗子也不例外。而在 Daisy 与骗子对话的整个流程，由于从听取声音、转录文本、生成回应到文本转语音都是实时进行，所以几乎没有明显的延迟。不过，Daisy 并不直接提供给 O2 的用户使用。原因很简单，O2 担心用户利用它对诈骗者进行报复行动，在他们的内部研究表明，71% 的英国人有过想要报复那些诈骗了他们或他们亲人的骗子的念头。据外媒 techspot 报道称，这个 AI 工具已经被列入诈骗者常用的易骗号码列表。Daisy 能够在 24 小时不间断地与来电者互动，且无需人工干预。但问题是，现在的骗子分两种，一种是不懂 AI 的，一种是懂 AI 的。前不久，初创公司 Bland AI 在 X 平台宣称，在大模型的加持下，其产品将成为全球最快的对话式 AI，且可以在没有“幻觉”的情况进行沟通。另外，Bland AI 机器人还拥有极其自然的生成式语音、以及多种语言切换。除了非常擅长模仿人类真实对话的语调、停顿，在外媒 WIRED 的技术测试中，Bland AI 机器人甚至可以否认自己是 AI，并谎报其真实身份。包括 APPSO 此前也利用 AI 定制生成了一些 0 成本但很真的数字双胞胎。在 AI 技术的增益之下，这些工具都能轻而易举地被诈骗不法分子反过来欺骗我们。吊诡的是，电话一头连着 AI 骗子，电话一头连着 AI Daisy，一个捧哏，一个逗哏，双方无限循环。懂行的人都知道，这里面的道行有多深。而更早些时候，智能电话系统已经相当完善。只需向服务商提出需求，后者就能快速搭建管理平台。用户通过简单的界面操作，就能设置话术、模板、通讯线路等参数，导入联系人信息后即可启动自动外呼功能。为此，国内手机厂商也在这方面做出了不少努力。比如，国内大多数手机系统提供智能识别和拦截伪基站的功能。并且，你还可以在来电拦截设置中，开启“在线识别陌生号码”功能，让系统更准确地识别并拦截骚扰电话。诈骗本质上是一场筛选游戏，骗子不在乎失败 999 次，他们只需要成功 1 次。被骗了，一切归零。诚然，诈骗手法或许千变万化，但下面这条官方的反诈公式永不过时。人物（陌生人）+沟通（各种通信工具，反正就是见不到面的）+要求（转账汇款，反正就是谈钱的）=诈骗。在 AI 时代，骗子和反诈技术都在升级，而人类的判断力永远是最后的防线。","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":1,"need_auth":false,"code":"91000000","status":"200"},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"tenantId":"TBCN","deviceId":"web-server-community-laohu8-v3","version":"4.36.2","shortVersion":"4.36.2","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2484307698","isCrawlerRequest":true}