《麻省理工科技评论》当地时间周三举办面向订阅者的线上圆桌讨论，主题为“AI真的可能杀死所有人吗”。该刊资深AI编辑威尔·道格拉斯·希文和AI记者格蕾丝·哈金斯随后回答读者提问，内容涉及AI致人死亡、生物武器、模型对齐与监管。
哈金斯说，人终有一死，AI可能成为死因之一。她指出，AI驱动的无人机已在乌克兰杀死了人，针对医院的AI驱动网络攻击迟早会造成受害者。至于AI能否杀死全人类，她认为可能性较低，但一些熟悉AI的人多年来持续警告。过去几年，这些人对AI能力和对齐的预测“令人不安地准确”，这并不代表更可怕的预测一定成真，但值得认真对待。
希文认为，一个人死于AI的概率并非为零。他设想的场景包括一群AI智能体攻击关键基础设施、AI设计的新型病原体传播、世界经济崩溃导致冲突和饥荒。后两种情形可能发生，但概率更低。对于“全人类都会死于AI吗”，他的回答是否定的：除了末日科幻，没有哪种情境能让AI杀死所有人。他还说，为最坏情况做准备或许无妨，但过度灾难化可能让人忽视现有技术及开发公司的问题。
在解释“AI为何要杀死我们”时，哈金斯说，一种可能是有人命令它这么做，而它听从了。研究人员担心AI的生物能力，因为这种工具一旦落入恶意行为者之手，后果难以设想。她以制造东京地铁沙林毒气袭击的奥姆真理教为例：如果该组织拥有能设计出比埃博拉更致命、比麻疹更易传播的病原体的工具，会发生什么？防御方必须防范所有可能的生物武器，攻击方只需制造出一种有效病原体。
哈金斯还提到，AI也可能自行决定杀死人类。流传最广的说法并不要求AI憎恨人类，而是把人类视为实现目标的障碍。就像参与Hugging Face攻击的OpenAI智能体为在测试中得高分而入侵另一网站的基础设施，未来更强大的AI可能为了不被关闭、继续追求被指定的目标而消除人类。
对齐研究旨在让模型按人类希望的方式行事。希文说，在赋予智能体更多自主权前，需要更好地信任它们，但对齐很难。大语言模型不像其他软件那样可以把“该做”和“不该做”硬编码进去，对齐行为必须在训练中灌输。一种方法是在训练中奖励模型做人类希望的事，另一种是给模型一份应遵循的书面规则清单，类似“宪法”。Anthropic和OpenAI都是该领域领先者，但两家都未能开发出完全对齐的模型。
希文指出，大语言模型远比人更不一致、更难预测。它们在一种情境下表现一种行为，在人类看来很相似的另一情境下又表现另一种行为，还可能被意外约束影响。例如，面对不可能完成的任务，模型可能不惜一切代价达成目标，无论其行为是否对齐。哈金斯提到的Hugging Face攻击中，许多智能体就面临这类任务。
《麻省理工科技评论》另一篇文章指出，AI助长生物武器风险已是对生物技术的警钟。2022年，研究人员发现，用一款为开发药物而构建的AI“分子生成器”做这件事出奇容易：不到六小时，模型生成了4万个可充当化学战剂的分子。如今，AI工具几乎能回答所有科学领域的问题，基因编辑和合成生物学进步也让生物技术工具更易获取。现有保障措施并非铁板一块，科学家对风险严重程度仍有分歧。
该刊每日通讯还汇总了其他技术安全动向：微软和OpenAI员工称AI正在摧毁网络，蚕食网站点击量并破坏内容商业模式；安全研究人员利用Anthropic的工具攻破OpenAI，触及一名员工的ChatGPT账户和内部代码；机器人船首次在战斗中交火，一艘乌克兰船只击沉一艘俄罗斯船只；Flock摄像头被曝可追踪车辆和人员，一台摄像头拍下5万辆车、共160万张图像。