乐清上班族网

标题: AI冒充“总统”来电，你能识别吗？ [打印本页]

作者: 苏心何 时间: 2024-2-22 13:15
标题: AI冒充“总统”来电，你能识别吗？
当地时间1月21日

　　美国新罕布什尔州一些选民

　　接到了由机器人拨打的语音电话

　　在神秘电话中

　　“拜登总统”以经典口头禅开头

　　对他们发出见解

　　“拜登”给我打电话？

　　真的假的？

　　当地时间22日

　　美国白宫方面紧急澄清

　　语音疑似由AI“深度伪造”

　　（Deepfake）技术合成

(, 下载次数: 26)
　　《纽约杂志》网站报道截图

　　从AI拟声、合成虚假照片

　　再到生成视频

　　随着人工智能技术的快速发展

　　各种以假乱真的情况

　　在世界多地频频上演

　　近期，美国流行乐歌星

　　泰勒·斯威夫特的

　　“AI伪造照片”事件

　　掀起轩然大波

　　甚至惊动了美国白宫

　　这种生成合成图像、音频或视频的技术

　　引发了人们对虚假信息传播的思考

　　怎么防止AI“深度伪造”的事故

　　再三发生？

　　各界人士在积极行动

　　美国白宫发言人卡琳·让-皮埃尔表示

　　虽然社交媒体公司

　　在内容管理方面有独立决策权

　　但它们在严格落实其监管制度上

　　应起到重要作用

(, 下载次数: 21)
　　图源：讯飞星火生成

　　生成式人工智能公司OpenAI

　　日前表示

　　在竞选活动中

　　政界人士及其竞选团队

　　不得使用该公司的AI工具

　　用户也被禁止创建假扮政治候选人

　　或政府机构和官员的

　　聊天机器人

　　此次伪造拜登语音所用的工具背后

　　是语音克隆初创公司ElevenLabs

　　该公司也已暂停利用

　　AI“深度伪造”技术

　　发布信息的账户

　　并警告

　　不得将克隆声音用于

　　欺诈、歧视、发表仇恨言论

　　或任何触犯法律之事

(, 下载次数: 21)
　　图源：讯飞星火生成

　　美国消费者技术协会首席执行官

　　夏皮罗提出

　　政府需要在AI领域扮演重要角色

　　确保设置安全屏障和护栏

　　让产业内人士知道

　　哪些能做、哪些不能做

　　针对近期的AI“深度伪造”事件

　　当地时间2月1日

　　美国联邦通信委员会（FCC）主席

　　杰西卡·罗森沃塞尔提议

　　把使用AI生成的

　　语音拨打机器人电话（robocall）

　　定为非法

　　FCC的委员们将在未来几周内

　　对该提案进行表决

(, 下载次数: 43)
　　图源：讯飞星火生成

　　尽管AI技术给我们带来了新挑战

　　但国际社会普遍认为

　　不能“因噎废食”

　　不能拒绝发展相关技术

　　毕竟，在技术进步的过程中

　　AI技术本身就可用来对抗

　　AI“深度伪造”行为

　　比如

　　有开发者建议平台

　　给AI生成软件加上隐形水印

　　以快速识别AI并进行溯源

　　去年12月发布的

　　一款名为mist的隐形图片水印

　　则能极大程度干扰AI模型

　　使之生成的图片遭受不同程度的破坏

(, 下载次数: 31)
　　图源：讯飞星火生成

　　还有专家认为

　　法律手段也要有所作为

　　对一些技术解决不了的问题

　　进行立法追责

　　中国发布的

　　《互联网信息服务深度合成管理规定》

　　已于2023年1月10日起施行

　　《规定》强调

　　深度合成服务提供者需要

　　对深度合成内容进行显著标识

　　任何组织和个人

　　不得采用技术手段

　　删除、篡改、隐匿相关标识

　　作为普通用户

　　假如接到来自名人的电话

　　你能识别出真假吗？

　　面对AI的“深度伪造”

　　我们该如何避免危害呢？

稿件来源：网信浙江

欢迎光临乐清上班族网 (http://bbs.5iyq.com/)