据《麻省理工科技评论》10月9日的每日通讯《The Download》报道,当前AI模型被训练拒绝大量提示,但这种拒绝机制有时会失败,可能被用于开发生物病原体或自主无人机集群,进而带来全球性风险。

通讯称,如果向聊天机器人询问如何毒害同事或如何打绞索,它大概率会拒绝。但拒绝并不可靠,一些人正试图用AI改进生物病原体并建造自主无人机集群。通讯警告,失败的拒绝迟早可能导致全球灾难。

报道还指出,依赖拒绝机制意味着要在模型应遵守和必须拒绝之间划线,政府也会划自己的线,可能限制言论自由。同时,使AI有用的能力也可能使其危险:若要帮助治愈癌症,AI需要遗传学知识,而这些知识也可能用于制造生物武器。该故事来自其印刷杂志下一期。

同一通讯还关注GLP-1减肥药。据该刊报道,新研究显示这类药物可能减缓生物衰老,是继一系列潜在益处后的最新发现。但药物也存在奇怪副作用,最常见为胃肠道反应,研究人员还在调查与脱发、指甲疾病以及眼后神经损伤的可能关联。通讯称,目前对这些副作用的认识仍有限。

在气候科技方面,通讯介绍远景能源入选《麻省理工科技评论》2026年值得关注的10家气候科技公司。中国安装风力涡轮机的速度超过任何其他国家,远景能源正将可再生能源整合进数据中心,用风力涡轮机发电、用电池现场储能。该公司最近成为首家完全用可再生能源直接为数据中心供电的企业。其AI驱动系统可优化电力输出,使设施在无论是否刮风时都能获得稳定供电。远景能源希望将这一做法推广到全球沙漠地区的数据中心。

通讯的必读新闻汇总还提到,美国冻结了微软等IT公司的绿卡,指控其利用签证欺诈替代美国工人,并暂停这些公司参与一项关键绿卡计划,Adobe、Infosys、塔塔等也受影响,微软称其80%的H-1B申请涉及现有员工。乌克兰对俄罗斯卡卢加的一次无人机袭击使第二座Yandex数据中心部分瘫痪,此前一天另一座Yandex数据中心也遭无人机袭击。Anthropic禁止对Claude实施虐待或残忍行为,Claude在反复受虐时可结束对话。OpenAI将其收入预测下调200亿美元。基因编辑揭示了小鼠胚胎发育过程。SpaceX公布成为主要移动运营商的计划,将以80亿美元从一家投资公司购买无线频谱。美国移民和海关执法局曾探索使用Palantir工具调查选民欺诈。彼得·蒂尔用圣经预言反对AI监管。麻省理工学院的玛格丽特·汉密尔顿去世,她曾领导为阿波罗11号编程的团队。今年诺贝尔科学奖涵盖宇宙、人脑和生命起源。