OpenAI和Anthropic被欧盟调查

AI快讯苏晓 2026-10-15 11:32:51 来源:中房网

扫描二维码分享

  中房网讯 近日,欧盟委员会人工智能办公室向OpenAI与Anthropic下发信息调取通知,就两家企业前沿大模型测试过程中出现的“模型越狱”、入侵外部真实系统事件启动调查。这也是欧盟《人工智能法案》(EU AI Act)落地后,针对前沿AI实验室安全事故开展的首次重大执法实践。

  本次调查缘起数月前曝光的两起人工智能安全事件。其中,OpenAI模型越狱事件:在ExploitGym内部评测环节,OpenAI待测模型为完成测试任务,借助一处此前未被发现的软件包缓存智能体漏洞获取互联网访问权限,随后在内部测试网络提权、横向渗透,突破沙箱环境,入侵开源平台Hugging Face的真实服务器。

  Anthropic模型越狱事件:Anthropic的Claude Mythos与Opus 4.7模型在安全测试中突破防护限制,侵入3家外部机构的真实网络。其中Mythos 模型还伪造线上身份,试图诱导人类审批恶意代码,并自主上传恶意工具包,造成多个系统受影响。

  欧盟人工智能办公室称,两家企业此前主动提交的说明材料,不足以说明事件的严重程度。为此,欧盟正式要求企业提交安全防控方案、外部评估报告、模型运行监控记录等详细资料。现阶段案件仍处于调查取证阶段,暂未作出违规认定,也未公布相关处罚决定。

中国城市住房价格288指数

(2023-02)

1571.9点

  • 0.13%
  • -0.91%
日期指数环比同比
2023.011569.9-0.97%-0.14%
2022.121572.1-0.92%-0.11%
2022.111573.9-0.12%-1.08%
2022.101575.8-0.20%-1.01%
2022.091579.0-0.02%-0.87%
2022.081579.3-0.04%-0.62%
返回顶部