当前位置:主页 > 财经 > 经济 > AI生成的合成图像泛滥且真假难辨 政策监管势在必行

AI生成的合成图像泛滥且真假难辨 政策监管势在必行

2023-04-04 11:31:02来源:科技日报

文章导读
近日,美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛滥,但这些看似细节丰富的图片却与事实毫不相干,这些图片出自人工智能(AI)驱动的图像生成技术。 专家们警告说,这些图片昭示出一个新现实:在重大新闻事件发生后,虚假图片和视频有可能充斥社交媒体,进一步混淆事实,因此亟须部署相关技术并制订相关政策,对类似技术进行监管。 合成图像真假难辨 据美国《财富》杂志网站报道,这些“特朗普被捕...

  近日,美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛滥,但这些看似细节丰富的图片却与事实毫不相干,这些图片出自人工智能(AI)驱动的图像生成技术。

  专家们警告说,这些图片昭示出一个新现实:在重大新闻事件发生后,虚假图片和视频有可能充斥社交媒体,进一步混淆事实,因此亟须部署相关技术并制订相关政策,对类似技术进行监管。

  合成图像真假难辨

  据美国《财富》杂志网站报道,这些“特朗普被捕”的图片由总部位于荷兰的开源调查媒体“响铃猫”网站的创办人艾略特·希金斯生成。

  当希金斯看到有关特朗普可能被捕的消息时,决定将其可视化。为此,他使用最新AI绘画工具Midjourney制作了关于特朗普被捕的图片。他表示,最新工具比之前的版本复杂得多,极大地改进了图像的视觉效果。随后他在推特上分享了合成结果:前总统被警察包围的图片,其中徽章做了模糊处理。据美国《华盛顿邮报》网站报道,仅两天,希金斯发布的这条帖子被浏览了近500万次。

  人工智能专家表示,虽然处理并生成虚假图片的技术并不新鲜,但该领域技术的进展速度以及人们对技术的滥用值得关注。数字内容分析公司Truepic的穆尼尔·易卜拉欣指出,“合成内容正在快速发展,融易新媒体,真实和虚假内容之间的差距变得越来越难分辨”。

  《财富》杂志指出,如今各种AI图像生成工具变得触手可及,它们可在用户发出简单指令后,迅速生成海量栩栩如生的图片。例如,Midjourney这款文本到图像模型现在可生成模仿新闻机构照片风格的图像,如此一来,这些AI生成的图片有望在混乱的新闻环境中“浑水摸鱼”,混淆视听。

  关注错误信息传播的华盛顿大学教授杰文·韦斯特说:“这的确会在危机期间增加‘噪音’。”

  专业人士强调称,大量制作虚假但看似可信的图像的能力已有了巨大进步,而且很容易用于欺骗目的。很多时候,视觉信息会在没有提供关键背景的情况下被快速转发。事实上,一个关于“特朗普被捕”的虚假图片帖子获得的点赞数超过了7.9万,“就好像这些照片是真的一样”。

  技术打击“深度伪造”

  希金斯认为,随着合成图像越来越难辨真假,对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育,社交媒体公司可把重点放在开发能够辨别AI生成图像的新技术上,并将这种技术融入自己的平台。

  比如,推特出台了相关政策,禁止用户分享可能造成伤害的欺骗性和操纵性媒体内容,例如可能导致暴力、广泛内乱或威胁个人隐私的推文。今年2月,推特推出了“社区笔记”功能,允许用户在推文下方添加注释,并且以长内容的形式进行解释。有观点认为,“社区笔记”或将能够帮助推特成为更可信、让更多人积极发言的平台,并帮助减少假消息、误导性内容的比例,以此吸引更多广告投放。

  另据《华盛顿邮报》报道,从2019年开始,主要科技公司加强了打击“深度伪造”的政策。2020年,元宇宙平台公司禁止用户发布高度修改的视频,但仍允许发布旨在模仿或讽刺的修改视频。

  不过,有专家表示,技术正在变得更加复杂,也更难监测。况且这些互联网巨头都没有在如何发现这些问题,以及如何执行相关政策方面作出任何重大投资。

  政策监管势在必行

  “特朗普被捕”虚假图片在互联网泛滥还提供了一个案例研究,表明目前缺乏企业标准或政府法规来解决使用AI制造和传播谎言的问题。

  纽约卡内基国际事务伦理委员会的研究人员阿瑟·霍兰·米歇尔说,他担心这个世界还没有准备好迎接即将到来的铺天盖地的虚假信息。

  专家们一致认为,特朗普的名气使虚假图片很容易被发现,但识别出普通人相关的虚假图片可能困难重重,而且生成虚假图片的技术一直在进步。从政策角度来看,亟待以立法形式对深度合成技术的应用进行规制。

免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 需求不及预期 国内锂盐价格持续回调

2023年以来,海内锂盐价值一连下探,电池级碳酸锂均价跌破26万元/吨。业内人士暗示,海内新...

2 AI生成的合成图像泛滥且真假难辨 政策监管势在必行

近日,美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛...

3 困在投诉里的小哥,怎么“跳”出来?

面对不合理的投诉和差评,不少快递员、外卖骑手、网约车司机等新就业形态劳动者反映,通...

4 马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发

最近,有关ChatGPT和人工智能,几乎每天都有新闻。随着更“聪明”的GPT-4发布,人们对技术的...

5 287万人次,13915车! 长三角铁路单日客发量、装车数创新高

记者从中国铁路上海局集团有限公司获悉,4月1日,长三角铁路发送旅客287万人次,创今年以来...

6 AIGC规模风险事件频发 亟须立法保障财富可一连成长

连日来,AIGC(基于人工智能生成内容)规模产生多刮风险事件,激发社会各界高度存眷。 海内法...

7 造车新势力3月份交付后果普涨 海内汽车市场有望加快苏醒

截至4月2日,国内造车新势力陆续公布3月份成绩单。《证券日报》记者注意到,从同在纽交所...

8 湖北省最强“政企购车补贴”满月效果显现 国六A车型销售期或

湖北省史上最大力度汽车“政企补贴”于3月31日落下帷幕。4月1日,记者走访位于湖北省洪山区...

9 工业互联网点亮数字经济 创新激活数据潜能

热力表远程计量检定及故障排查、库存平台提醒动态补货、露天矿场无人驾驶汽车保持安全作...

10 摆脱锂依赖 电池企业押宝钠离子

4月2日,2023中国电动汽车百人会(以下简称“百人会论坛”)上,孚能科技董事长王瑀表示,目前...

1 需求不及预期 国内锂盐价格持续回调

2023年以来,海内锂盐价值一连下探,电池级碳酸锂均价跌破26万元/吨。业内人士暗示,海内新...

2 AI生成的合成图像泛滥且真假难辨 政策监管势在必行

近日,美国前总统特朗普被全副武装的纽约防暴警察按倒在地的图片在推特等社交媒体平台泛...

3 困在投诉里的小哥,怎么“跳”出来?

面对不合理的投诉和差评,不少快递员、外卖骑手、网约车司机等新就业形态劳动者反映,通...

4 马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发

最近,有关ChatGPT和人工智能,几乎每天都有新闻。随着更“聪明”的GPT-4发布,人们对技术的...

5 287万人次,13915车! 长三角铁路单日客发量、装车数创新高

记者从中国铁路上海局集团有限公司获悉,4月1日,长三角铁路发送旅客287万人次,创今年以来...

6 AIGC规模风险事件频发 亟须立法保障财富可一连成长

连日来,AIGC(基于人工智能生成内容)规模产生多刮风险事件,激发社会各界高度存眷。 海内法...

7 造车新势力3月份交付后果普涨 海内汽车市场有望加快苏醒

截至4月2日,国内造车新势力陆续公布3月份成绩单。《证券日报》记者注意到,从同在纽交所...

8 湖北省最强“政企购车补贴”满月效果显现 国六A车型销售期或

湖北省史上最大力度汽车“政企补贴”于3月31日落下帷幕。4月1日,记者走访位于湖北省洪山区...

9 工业互联网点亮数字经济 创新激活数据潜能

热力表远程计量检定及故障排查、库存平台提醒动态补货、露天矿场无人驾驶汽车保持安全作...

10 摆脱锂依赖 电池企业押宝钠离子

4月2日,2023中国电动汽车百人会(以下简称“百人会论坛”)上,孚能科技董事长王瑀表示,目前...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 融易新媒体