据财联社 5 月 24 日报道,中国互联网协会今日发文,今年以来,ChatGPT 和 GPT-4 等技术的应用,成为了信息科技领域的热点,引起公众对 AI 技术的广泛关注和热情。但伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI 换脸”“AI 换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜。近期,包头市公安局电信网络犯罪侦查局发布一起使用智能 AI 技术进行电信网络诈骗的案件。不法分子利用 AI 技术,通过声音合成,伪造成特定人物的声音,通过 AI 换脸,伪装成特定人物,实时与他人进行视频通话。更换后的面部表情自然,以假乱真,能够冒充他人身份联系被害人,博取被害人信任后实施诈骗。面对利用 AI 技术的新型骗局,广大公众需提高警惕,加强防范。
此前报道,AI 诈骗正在全国爆发,骗子使用 AI 换脸冒充好友诈骗 430 万。 [原文链接]