别让AI造假蒙蔽老人双眼

    西装革履的小伙子舌灿莲花兜售保健品，背景和神态总是雷同；视频中的妙龄女子声称要做老人的“好妹妹”，却明显声画不同步；手机那头，呼喊求助的儿孙经求证压根不存在……

    如今，AI（人工智能）工具被一些别有用心的人滥用，专门用来围猎对新技术不熟悉的老人。AI主播播报着各种无处查证的惊天“好消息”，只为博取关注；数字人嘴里说着土味情话，“心里”想的却是老人的钱包。

    混淆视听

    惊天“好消息”哪都查不到

    “儿子，手机上说70岁以上的老人坐火车打折了，”前几天，市民刘先生接到母亲打来的电话，说她刷到了一则铁路部门为老年人推出五大福利的短视频，“视频中说，7月1日起老年人坐火车有优惠。有这样的好事，我和你爸抓紧去海边找你姑，顺便旅旅游！”

    可当刘先生帮父母网购火车票时，却发现并无折扣。他给中国铁路官方客服12306打去电话，被告知近期并未推出过针对70岁老人的火车票优惠政策。刘先生细查才知道，母亲是刷到了用AI手段编造的假消息。

    从折扣优惠到科技进步，社交平台上，AI主播播报着各种在主流媒体上无法查询到的“惊天好消息”。

    不久前，公婆转发来的一条短视频令林女士哭笑不得。视频中的女主播称，马斯克研发出了一款能生育的女性机器人，3年内就会实现量产上市。“机器人能生孩子，而且只要14万元。”

    这些AI制造的假消息或混淆视听，或匪夷所思，在短视频平台上流传甚广。早在去年，相关部门就提出，人工智能生成合成内容需进行标识。

    然而，记者调查发现，这些AI生成的视频与音频，要么压根没标识；要么虽然标注了“内容由AI生成”等字样，但提示信息字体很小，即便是年轻人也很容易忽略，视力差一些的老年人更难发现。

    匪夷所思

    为了数字人老人要离婚

    “我好想成为你的妹妹。可我每次扯破嗓子喊你，你就像根本没听见似的。”当手机屏幕里一位年轻靓丽的女孩含情脉脉地说出这样一番话，75岁的蒋大爷忍不住在视频下留言：“有你这样的好妹妹，是我的荣幸。”尽管视频中女孩的语音和口型明显对不上，有明显的人工智能生成痕迹，蒋大爷却看着高兴，把这个“AI女孩”视为自己交到的真实网友。为此，蒋大爷每天都守在手机前，等着女孩发布新视频。

    像蒋大爷这样被AI数字人牵动心绪的老年人不在少数。

    “家里老人沉迷AI视频，已经疯魔了。”网友青合讲述了自家老人的遭遇。他的爷爷身体不好，很少外出活动，自从去年他给老人买了智能手机，老人就迷上了刷视频。“一会儿说自己的评论被采纳了，变成网红了；一会儿又说自己中了几千万元的奖，全世界都认识他。还说什么某著名女主持人向他表白，他要跟我奶奶离婚。”青合告诉爷爷，这类视频都是人工智能合成的，可老人家就是不信。

    一位梳着背头、身着正装的中年男子微笑着注视镜头，在屏幕里唱歌跳舞——这是今年很火的“王建国”弟弟。他不时通过“宝宝姐姐”等土味情话和关怀撩拨着屏幕前无数阿姨的心，还常用言语暗示粉丝购买商品支持他。然而，不少阿姨们可能不知道，令她们心动的“王建国”其实是个数字人。

    防不胜防

    AI假儿子一下骗走20万元

    除了骗取老年人的情感与诱导消费，还有一类针对老年人的AI技术滥用令子女们忧心——那就是AI诈骗。

    “妈！我被公司派去沙特谈项目了，这是咱们家附近公园的视频，你看看！”65岁的张阿姨看着视频里“儿子”熟悉的面孔，背景音是金桔树在沙沙作响，她当即转过去20万元“应急资金”。

    三天后，她才从社区民警那里得知，视频里的“儿子”是AI合成的，所谓的“沙特项目”根本不存在。

    利用语音克隆和深度伪造技术，通过模拟特定人员的音视频特征进行“AI换脸”“AI换声”并冒充亲友等骗取老年人钱财，这样的新型诈骗案例日渐增多。

    前不久，央视新闻报道，刘女士接到“孙子”打来的座机电话，称自己打伤了同学，对方要求私了。由于电话中的声音与孙子一模一样，护娃心切的刘女士被骗走了两万元。

    民警分析认为，犯罪嫌疑人可能是通过多次拨打刘女士家的座机电话，逐步收集了她孙子的声音信息，进而利用这些信息进行AI语音合成并实施了诈骗犯罪。

    不久前，北京市老龄协会、北京律维银龄研究与服务中心也发布专项报告，提醒老年人注意防范AI换脸诈骗。报告指出，老年人因为缺乏分辨能力，已成为被AI诈骗的重灾区。

    鉴别方法

    三招辨别AI数字人

    如何治理技术滥用？DCCI互联网研究院院长、工信部信息通信经济专家委员会委员刘兴亮呼吁，要“用AI识别AI”，相关技术团队可开发和部署针对欺诈模式的AI系统，通过话语特征、行为模式等进行识别并报警，利用AI检测辅助老人辨识深度伪造内容。

    一看神态是否雷同，声画是否同步。

    记者发现，无论AI数字人的形象如何变幻，这些账号往往具有以下特征：同一账号下，背景高度相似、人物形象雷同，甚至一二十条视频中，主人公的坐姿和神态都如出一辙；而且，不少AI生成的视频中，人物的语音和口型往往难以准确对应。

    二可要求对方动起来，观察有无破绽。

    安全算法专家朱凯建议，如果遇到疑似数字人直播，可以通过遮挡结合“动起来”的方式，来识别这到底是真人还是数字人——比如，要求主播在摁鼻子或摁脸的同时左右摇晃头部。此外，可以要求对方在脸部挥手、用手指比数字等。真人做这些动作时，脸部表情、手部动作很自然，而如果是“数字人”，可能会出现破绽。

    三是遇反常的“好事”“坏事”都要多求证，认准官方渠道。

    老人在网上浏览信息、刷短视频时还应警惕“好事”和“坏事”。首先，如果信息听起来“太好了”，比如“免费领大奖”“重大优惠政策”等，一定要多方求证。再者，如果看到的信息让人感到恐慌或不安，比如看到与“重大灾难”“紧急情况”等有关的信息，也要保持警惕，不要轻易相信，可第一时间告诉子女，通过官方渠道进行核实。

    据《北京晚报》报道