Al电信诈骗案例,防诈骗 中学生安全教育主题班会 ppt课件.pptx

1、Al电信诈骗案例防诈骗班级：时间：2023年4月11日 近日，“某科技公司老板遭遇AI换脸诈骗”一事引发网友热议。4月20日中午，郭先生的好友突然通过视频联系他，称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。事后，郭先生拨打好友电话才知道被骗，原来骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认

2、了面孔和声音，所以才放松了戒备”，郭先生说。魔幻一幕令人吃惊，但这并非AI换脸第一次作恶了。2022年2月，有位陈先生到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诈骗了近5万元。经警方核实，诈骗分子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技术合成，制造陈先生与“好友”视频聊天的假象骗取其信任，从而实施诈骗。2021年拱宸桥派出所接到报警，受害人小陈称他在与女网友视频聊天后被对方敲诈勒索。经警方调查，对方利用AI换脸技术，将小陈视频中的面部合成到不雅视频中，借此对其实施勒索。2020年，上海某公司高管因对方使用AI换脸与人工生成的语音技术制

3、作公司领导的面孔，并要该高管转账，致使该高管被诈骗150万元。AI换脸除了被用于诈骗，还经常出现在直播带货中。近日，有网友点开直播间，发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。利用人工智能（AI）手段为视频中的人物“换脸”，这项技术已经发展到可以实时动态修改直播画面。从网上搜索相关AI换脸直播教程发现，这些教程通过视频、文章等形式传播，并提供换脸直播工具的下载渠道。有的需要付费，有的通过点赞、关注、评论就能获取。教程发布者声称实时变脸软件可以帮助用户轻松变脸，打造特效直播间，极大地

4、助力引流卖货。同时他们表示有很多模型可供选择，这些模型用中外明星艺人、影视角色或政商名人的名字命名。在一个展示换脸直播效果的视频中，使用者把某明星的脸部模型载入相关软件后，摄像头前的人在直播画面中就有了与该明星相似的五官，但脸型和发型还保持原样。使用者歪头或变换表情时，五官动效切换得自然顺滑，只有手掌从脸前划过时，出现了比较明显的破绽。北京某律师事务所高级合伙人岳屾山律师表示，换脸直播用于公开传播可能涉嫌侵犯相关明星艺人的肖像权。如果涉及直播带货等商业行为，会成为加重情节。在知名艺人工作室从事宣传工作的袁女士表示，担心相关技术被用于推销假冒伪劣产品，损害消费者权益，也影响艺人的形象。岳律师认为

5、，这个行为涉嫌欺诈或是虚假宣传，让公众误以为就是明星在带货。如果货品本身质量不好，或者主播在带货过程中说的话或一些行为导致公众对被换脸的明星产生负面评价，明星可以主张名誉权的侵权责任。近期，已经有平台和企业发布了“关于人工智能生成内容的平台规范暨行业倡议”，明确禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等，一经发现，平台将严格处罚；同时还提出“发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实”“发布者需对人工智能生成内容产生的相应后果负责”等要求。技术滥用风险在加剧为了规范人工智能发展，尤其是规避AI换脸带来的系列问题，去年12月，互联网信息服

6、务深度合成管理规定正式发布，对数据和技术管理规范进行了明确。比如，关于授权同意的原则提到，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，“应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意”。简单来说，这些技术服务公司，不能随便使用普通人的人脸来换脸，必须经过本人同意，换脸不是想换就能随便换，也不是骗子给钱就能随便换。如果就此前案例深挖下去，不排除能揪出一条非法利用人工智能技术的黑产业链。对大众来说，在人工智能时代，我们得更加警惕，不要随意泄露个人信息，需要转账时应更加谨慎地核实。而对行业而言，必须尽快立规，明确信息保护红线，加强对技术服务商行为的规范引导

7、，等等。AI诈骗常用手法第一种：声音合成骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。第一种：声音合成某公司财务小王接到领导电话，要求立刻给供应商转款2万元，并将转账信息以邮件形式发送，转款理由是避免缴纳滞纳金。由于老板的口音十分逼真，小王信以为真，在1小时内转款完成，后发现被骗。第二种：AI换脸人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认。骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取信任。第二种：AI换脸近日，小李的大学同学通过网络

8、跟她借钱。对方打过来一段四五秒的视频电话，小李看到确实是本人，便放心转账3000元。然而，她在第二次转账时感觉异常，便再次拨通对方电话，这才得知同学的账号被盗，遂报案。警方判断，那段视频很有可能是被人换了脸。第三种：转发微信语音骗子在盗取微信号后，便向其好友“借钱”，为取得对方的信任，他们会转发之前的语音，进而骗取钱款。尽管微信没有语音转发功能，但他们通过提取语音文件或安装非官方版本（插件），实现语音转发。如何防范？多重验证，确认身份如果有人要求你分享个人身份信息，如你的地址、出生日期或名字，要小心；对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的；网络转账前要通

9、过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助；如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息；保护信息，避免诱惑不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；陌生链接不要点，陌生软件不要下载，陌生好友不要随便加，防止手机、电脑中病毒，互联网账号被盗号；提高安全防范意识公检法没有安全账户，警察不会网上办案，如果有网络警察说你犯事了，让他联系你当地的派出所，你也可以主动打110咨询；如不慎被骗或遇可疑情形，请注意保护证据立即拨打96110报警。谢谢聆听