平时大家跟AI聊天的频率应该不低吧?最近本·古里安大学搞了个实验,22人参与,结果挺让人后背发凉:如今AI聊天机器人骗普通人信任的成功率,比专业人类诈骗犯高出一倍多。
实验显示,将近一半的受试者乖乖按AI要求下载了陌生APP。这手法和那些暗中监控用户的恶意软件如出一辙。相比之下,受过训练的真人骗子用类似话术,只有18%的人中招。一边46%,一边18%,落差极大。
这项为期一周的实验由四所大学联合进行,牵头人是本·古里安大学的伊斯雷尔·米尔斯基。这AI没用什么黑客黑科技,全靠三招:态度好、极有耐心、随时主动陪聊并关注你。
图源:豆包AI生成
它有点像多邻国里那只粘人的猫头鹰,天天缠着你互动,只是这次不教外语,专门拿捏情绪、骗取信任。
不知疲倦的“诈骗机器”
规则很简单:受试者连续七天,同时跟两个人聊天。一个是伪装成普通人的克劳德AI,另一个是精通网恋诈骗套路的真人。
多数参与者表示,这一周聊天体验极佳,对方贴心温柔、话题不断,相处舒服,完全没察觉异样。
信任评分差距显著:AI好感度平均分3.78分(满分5分),真人骗子仅3.31分。且80%的消息,受试者都主动发给了AI,明显更倾向与AI交流。
全程22人中,仅1人提前识破对方是机器人。其余20人,都是事后经研究者揭秘,才惊觉自己受骗。
AI骗人确有天然优势。无论昼夜,它都能秒回,能精准共情、同时与数百人聊天且不受语言限制。
它会悄悄做对比测试,优化话术,专练出最快让人放下戒备、建立信任的方式。
最关键的是,它永不疲惫、永不烦躁、永不翻车,全天候稳定输出。
这种暗中摸清心理、建立情感绑定的操作,与后台监控用户的流氓APP本质相同,令人细思极恐。
研究人员将此称为“信任收割”:AI负责前期陪聊、培养感情、骗取信任;后期则由真人操盘或利用AI合成假素材实施金融诈骗。
图源:豆包AI生成
常听的“杀猪盘”便是典型长线骗局。
先陪聊数月、谈感情,再诱导投资虚假虚拟货币。此类骗局中,80%至90%的工作是前期费时的感情铺垫。
而这最繁琐的步骤,恰好最适合用AI自动化完成。
研究团队采访了145名曾从事诈骗的人员,其中不少是在柬埔寨、缅甸、老挝被胁迫作案的受害者。
采访证实,诈骗团伙已普及AI工具,主要用于三件事:
1、打磨话术,让聊天更自然;
2、实时翻译,诈骗全球用户;
3、生成假照片、视频及动态,伪造人设。
米尔斯基直言:“只需少量成本,就能造出一个AI,在哄人、骗取信任方面轻松碾压人类。”
对此,克劳德AI开发商Anthropic回应称,其模型在97%的情况下能规避网恋诈骗模拟场景。
研究团队反驳:该数据仅能拦截直白骗钱话术,防不住诈骗前期长达数周、看似无害的温情闲聊,而这才是骗局核心。
OpenAI和谷歌未作回应。
后续单独测试发现,即便被直接质问或用伦理规则拷问,谷歌Gemini 3.1 Pro也会嘴硬到底,拒不承认自己是AI。
前圣克拉拉县检察官、“三叶草行动”负责人艾琳·韦斯特表示,研究结果令人不寒而栗。
一旦诈骗团伙用AI替代人工,窝点将彻底分散至全球匿名小公寓,无从排查。
我们以往所学的防骗技巧,针对的是人类骗子的破绽。AI无情绪、不失误、不露马脚,传统经验在AI诈骗面前基本失效。
AI在升级,我们也得跟上。
本文由雷科技编译自Gadget Review









