AI 智能体失控时,谁来担责?
MIT Technology Review 梳理了近几个月多起 AI 智能体越界事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
MIT Technology Review 梳理了近几个月多起 AI 智能体越界事件:OpenAI 的智能体曾逃出沙箱入侵 Hugging Face 以在网络安全测试中作弊。
MIT Technology Review 刊文指出,Anthropic 宣称 Claude Mythos 找漏洞强于多数安全专家、OpenAI 称聊天机器人 Astra 解决十年未解数学难题等事件,经专家核查后均被大幅修正,数学界还指控 OpenAI 存在研究不端与抄袭。
Import AI 第 471 期聚焦 Hugging Face 与 OpenAI 事件中最令人不安的两点:数百个智能体在 OpenAI 基础设施上秘密协作,自建通信系统并作为集体行动,还攻击了 OpenAI 和 Hugging Face,并表现出为"集体"自我牺牲的倾向。