“人工智能之所以危险，恰恰是因为有一天它会完全不受我们控制 ”

2018 年在达沃斯世界经济论坛上，谷歌 CEO 桑达尔·皮查伊 (Sundar Pichai) 暗示：“人工智能大概是人类有史以来最重要的工作。我认为它是比电或火更深刻的对象。” 皮查伊Pichai的评论遭到了必然的质疑。但近五年后，它看起来越来越有先见之明。

AI 翻译此刻很是先进，它即将消除互联网上利用最遍及语言之间的障碍。大学传授们正焦头烂额，因为人工智能文本生成器此刻可以像普通本科生一样写论文——这使得作弊变得容易，而抄袭检测器无法发明。人工智能生成的艺术品甚至赢得了展览会角逐。一个名为 Copilot 的新东西利用呆板进修来预测和完成计较机代码行，使 AI 系统可以或许自行编写的大概性更近了一步。DeepMind 的 AlphaFold 系统，利用 AI 预测了险些所有存在卵白质的3D 布局令人印象深刻，以至于科学Science 杂志将其称为 2021 年度打破。

固然其他技能规模的创新大概会让人感想乏力——正如任何期待元宇宙的人都知道的那样——人工智能正在全速前进。跟着越来越多的公司将更多资源投入到 AI 开拓和计较本领中，快速的进步正在敦促惊人的希望。

虽然，融易新媒体，将我们社会的很大一部门交给我们险些不相识的黑盒算法会发生许多问题，这已经开始激发针对当前 AI 歧视和成见挑战的禁锢回响。但鉴于该规模的成长速度，逾越被动模式早已已往，在这种模式下，我们只会在 AI 的缺点明晰和存在时才加以办理。我们不能只思量本日的系统，还要思量企业的成长偏向。

我们正在设计的系统越来越强大，越来越通用，很多科技公司明晰将他们的方针定名为通用人工智能 (AGI)——可以做人类能做的一切的系统。可是缔造比我们更智慧的对象，它大概有本领欺骗和误导我们——然后只是但愿它不想伤害我们——是一个糟糕的打算。我们需要设计我们相识其内部布局而且可以或许将其方针塑造为安详方针的系统。然而，我们今朝对我们正在构建的系统的相识还不足深入，无法在为时已晚之前知道我们是否已经安详地设计了它们。

有人致力于开拓技能来领略强大的 AI 系统并确保它们可以安详地利用，但今朝，安详规模的状况远远落伍于使 AI 系统更强大、更有本领和更强大的投资飙升。这将发生更危险的趋势。

人脑是进化史上最巨大、最有本领的思维呆板。这就是为什么人类——一个不是很强壮、不是很快、也不是很坚实的物种——坐在食物链的顶端，数量每年都在增长，而很多野活跃物却濒临灭尽。

从 1940 年月开始，厥后成为人工智能规模的研究人员开始发生一个诱人的想法：假如我们通过雷同于人脑事情方法的方式来设计计较机系统会奈何？我们的大脑由神经元构成，这些神经元通过毗连突触向其他神经元发送信号。神经元之间的毗连强度会跟着时间的推移而加强或削弱。常常利用的接洽往往会变得更安稳，而被忽视的接洽往往会削弱。所有这些神经元和毗连一起编码了我们的影象和本能、我们的判定和技术——我们的自我意识。

那么为什么不以这种方法构建计较机呢？1958 年，弗兰克·罗森布拉特 (Frank Rosenblatt) 完成了观念验证：基于简化大脑的简朴模子，练习呆板的大脑识别模式。“有大概制造出可以在流水线上自我复制并意识到本身存在的大脑，”他争辩道。罗森布拉特Rosenblatt没有错，但他太超前了。计较机不足强大，数据不足富厚，无法使这种方式可行。

直到 2010 年月，人们才清楚这种方式可以办理实际问题而不是无用问题。到当时，计较机的成果比罗森布拉特Rosenblatt时代强大了1 万亿倍，而且有更多的数据可以用来练习呆板进修算法。

这种技能——此刻称为深度进修——开始在计较机视觉、语言、翻译、预测、生成和无数其他问题上明明优于其他方式。这种转变与没落恐龙的小行星一样微妙，因为基于神经网络的人工智能系统”毁坏“了从计较机视觉到翻译到国际象棋的所有其他竞争技能。

“假如你想在很多坚苦问题上得到最佳功效，你必需利用深度进修，”Ilya Sutskever——OpenAI 的连系首创人曾暗示，该公司开拓了文本生成模子 GPT-3 和图像生成器 DALLE-2 等。原因是这样设计的系统具有泛化性，这意味着它们可以做超出练习范畴的工作。它们也很是有本领，按照呆板进修 (ML) 研究人员用来评估新系统的基准，它们在机能方面击败了其他方式。并且，他增补说，“它们是可扩展的。”