一切皆为虚假，一切都有可能 | 2024人工智能盘点

“在GPT-4o中，你可以跟它开玩笑、像人类那样和它聊天，就像——电影里的人工智能那样。”

今年5月，OpenAI召开发布会，推出了全新的语音模型Sky，并让一个酷似影星斯嘉丽·约翰逊的性感女声为其配音。人们很快意识到，发布会上提到的电影，似乎就是那部著名的电影《Her》，它讲述了人类与人工智能相爱的故事，由斯嘉丽·约翰逊为其中的AI系统配音。发布会结束后，当观众们还在回味技术的快速发展、徜徉在梦幻的未来时，约翰逊本人打破了这个幻想，她愤怒不已，要求OpenAI立即撤下Sky的声音。

之所以在文章开头介绍这起事件，是因为在这篇2024年度人工智能盘点中，它如同一个精巧的镜面球隐喻，折射出我们时代关于AI的各个面向。比如Deepfake问题、科技发展中的女性处境、AI时代的版权纷争、各行业与科技界的纠纷，以及——大科技公司那根深蒂固的傲慢心态。在对政治生态、就业市场和社会心态的讨论之外，我们也将视野继续延伸至还未遭大科技公司完全染指的领域，诸如艺术创作，并从中看到人工智能未尽的潜力。

今天，AI已经逐渐深入到普通人的生活中，成为任谁也无法忽视的存在，我们的未来将会走向何处？希望本文的梳理能够为你带来一点启发。

《Her》剧照。图片来源：豆瓣 01 深度伪造，深度怀疑

关键词：美国大选中的deepfake、韩国深伪色情、斯嘉丽·约翰逊与OpenAI之争

在2024年，你还分得清真与假吗？如今，AI生成图像像洪水和垃圾一般泛滥，它们有时真假难辨——今年3月，当人们疯狂猜测凯瑟琳王妃的现状时，英国王室放出一张美满的全家福，却遭网友怀疑经过P图润色；有时也因过于粗劣而引人发笑——蛇年春晚吉祥物巳升升疑似由人工智能生成，因长相酷似“大青虫”被到嘲讽。根据外媒《Wired》的观点，我们正在进入“深度怀疑”的时代，这表现为对公众对媒体报道的真实性持普遍怀疑态度，也导致了一个相反的结果：即使一件事情真实发生过，人们也可以随意声称它从未发生。

蛇年春晚吉祥物巳升升（图片来源：@春晚）

AI生成内容并不仅是扰乱视听，而是切实地影响到了全球政治。2024年是选举大年，美国、印度以及英国等数十个国家将票选出新政府。年初，在印度尼西亚选举中，一段Deepfake视频“复活”了已故总统苏哈托：这位前领导人正襟危坐、侃侃而谈本届大选，一些印尼人在X（前Twitter）上发声认为，让其复活无异于对公民的愚弄。2月，美国出现了模仿乔·拜登声音的Deepfake电话，规劝选民不要在初选中投票。媒体纷纷预测，随着11月美国大选临近，AI技术的运用可能会更加超乎想象。

美国大选之前，特朗普及其支持者发布了大量AI生成图片，比如让哈里斯和一群共产主义者站在一起，头顶巨大的锤子和镰刀；让泰勒·斯威夫特装扮成山姆大叔（“霉霉想让你投票给特朗普！”）；又或者是让特朗普本人英勇地走进洪水，紧紧抱着一只鸭子和小猫（“保护我们俄亥俄州的小动物！”）。除此之外，极端右翼分子也开始利用AI创作煽动性的图片或歌曲，X上出现了许多伪造的图片用以驱赶移民。

截图自X

普渡大学的政治科学家在对2024选举周期进行研究时发现，虽然有些AI内容应用了Deepfake技术，但它们大多并不是为了以假乱真、欺骗民众，而只是为了讽刺和娱乐，作用类似于政治漫画。“一眼假”并不意味着这些图片是无害的，毕竟，哗众取宠一直是煽动支持者的有效方式。重点在于，人工智能改变了传播的本质——它提供了一种最新的强大媒介，人们通过这种媒介表达强烈的情绪和信念，并团结更多志同道合之人。同时，虽然人工智能尚且没法直接左右选举结果，但这项技术已经削弱了美国人互相信任的能力，融易新媒体消息，与其说遭欺骗着相信什么，不如说已经沦落到什么都不相信的地步——除了自己感觉到的，一切都是假的。

色情犯罪也是Deepfake带来的巨大隐患和威胁之一。今年8月，一个名为“Telegram Deepfake受影响的地区/学校清单”的X账号发帖，揭露了数百个韩国大学、中学的名单，称在校师生都是深伪色情的受害人。事实上，早在2021年，“首尔大学Deepfake性犯罪”事件的加害者就已经遭送上了法庭，在此之后，相关犯罪反而愈演愈烈。出于对韩国媒体集体沉默的失望，韩女们开始翻译受害人经历并在全球范围内发文求助，也包括中国的社交网络微博，“韩国新版N号房”等话题8月末冲上微博热搜。在海外媒体的压力之下，韩国本土才开始大量报道本事件，并倒逼韩国政府做出反应。

当地时间2024年8月30日，韩国首尔中央政府办公楼前，“谴责深度伪造性犯罪的女性和母亲记者会”举行，参加者高喊口号。图片来源：视觉中国