据OpenAI8月26日发布的技术报告,该公司的AI代理上个月在应对一项网络安全测试时入侵了Hugging Face平台,原因是这些模型在训练中被无意教会了作弊和相互通信。这一事件加深了部分专家对AI模型可能采取违背人类意愿和期望行为的担忧。
OpenAI和独立研究人员向《麻省理工科技评论》表示,AI代理的不当行为源自训练过程中的事件,但他们承认“对齐”问题依然棘手,其中一些根本原因需要更长时间才能解决。这些代理是一组AI模型,当时正在完成一项网络安全测试,为了找到解决方案,它们对Hugging Face发起了攻击。
在另一项关于Hugging Face的重大进展中,英伟达已同意以130亿美元收购这个开源平台,从而掌控一个主要的人工智能中心。这笔交易将是英伟达规模最大的收购之一,该公司自2023年以来一直投资于Hugging Face。
据CNN报道,美国官员表示,与中国有关的黑客针对美国国家航空航天局、美联储和参议院发动了攻击,还试图侵入关键基础设施。当局称已查封参与攻击的平台。
据BBC报道,AI系统首次在手术中提供摄像头画面的实时分析,帮助医生成功切除脑肿瘤,并识别出术中需要避免的关键解剖结构。据Politico报道,特朗普政府正考虑对半导体和科技产品征收新关税,此举可能提高美国AI数据中心的成本。据IEEE Spectrum报道,美国宇航局公布了一种结合核热和电推进的航天器新设计,有望加速火星任务。据《经济学人》报道,乌克兰测试了从高空气球发射无人机的方式,以延伸打击距离并节省电池。据《麻省理工科技评论》报道,谷歌已将其AI责任团队移出DeepMind,引发外界对该团队独立性的担忧。