AI冒充“总统”来电，你能识别吗？

当地时间1月21日

　　美国新罕布什尔州一些选民

　　接到了由机器人拨打的语音电话

　　在神秘电话中

　　“拜登总统”以经典口头禅开头

　　对他们发出见解

　　“拜登”给我打电话？

　　真的假的？

　　当地时间22日

　　美国白宫方面紧急澄清

　　语音疑似由AI“深度伪造”

　　（Deepfake）技术合成


　　《纽约杂志》网站报道截图

　　从AI拟声、合成虚假照片

　　再到生成视频

　　随着人工智能技术的快速发展

　　各种以假乱真的情况

　　在世界多地频频上演

　　近期，美国流行乐歌星

　　泰勒·斯威夫特的

　　“AI伪造照片”事件

　　掀起轩然大波

　　甚至惊动了美国白宫

　　这种生成合成图像、音频或视频的技术

　　引发了人们对虚假信息传播的思考

　　怎么防止AI“深度伪造”的事故

　　再三发生？

　　各界人士在积极行动

　　美国白宫发言人卡琳·让-皮埃尔表示

　　虽然社交媒体公司

　　在内容管理方面有独立决策权

　　但它们在严格落实其监管制度上

　　应起到重要作用


　　图源：讯飞星火生成

　　生成式人工智能公司OpenAI

　　日前表示

　　在竞选活动中

　　政界人士及其竞选团队

　　不得使用该公司的AI工具

　　用户也被禁止创建假扮政治候选人

　　或政府机构和官员的

　　聊天机器人

　　此次伪造拜登语音所用的工具背后

　　是语音克隆初创公司ElevenLabs

　　该公司也已暂停利用

　　AI“深度伪造”技术

　　发布信息的账户

　　并警告

　　不得将克隆声音用于

　　欺诈、歧视、发表仇恨言论

　　或任何触犯法律之事


　　图源：讯飞星火生成

　　美国消费者技术协会首席执行官

　　夏皮罗提出

　　政府需要在AI领域扮演重要角色

　　确保设置安全屏障和护栏

　　让产业内人士知道

　　哪些能做、哪些不能做

　　针对近期的AI“深度伪造”事件

　　当地时间2月1日

　　美国联邦通信委员会（FCC）主席

　　杰西卡·罗森沃塞尔提议

　　把使用AI生成的

　　语音拨打机器人电话（robocall）

　　定为非法

　　FCC的委员们将在未来几周内

　　对该提案进行表决


　　图源：讯飞星火生成

　　尽管AI技术给我们带来了新挑战

　　但国际社会普遍认为

　　不能“因噎废食”

　　不能拒绝发展相关技术

　　毕竟，在技术进步的过程中

　　AI技术本身就可用来对抗

　　AI“深度伪造”行为

　　比如

　　有开发者建议平台

　　给AI生成软件加上隐形水印

　　以快速识别AI并进行溯源

　　去年12月发布的

　　一款名为mist的隐形图片水印

　　则能极大程度干扰AI模型

　　使之生成的图片遭受不同程度的破坏


　　图源：讯飞星火生成

　　还有专家认为

　　法律手段也要有所作为

　　对一些技术解决不了的问题

　　进行立法追责

　　中国发布的

　　《互联网信息服务深度合成管理规定》

　　已于2023年1月10日起施行

　　《规定》强调

　　深度合成服务提供者需要

　　对深度合成内容进行显著标识

　　任何组织和个人

　　不得采用技术手段

　　删除、篡改、隐匿相关标识

　　作为普通用户

　　假如接到来自名人的电话

　　你能识别出真假吗？

　　面对AI的“深度伪造”

　　我们该如何避免危害呢？

稿件来源：网信浙江