Anthropic警告:小型AI模型数月后或将具备在物联网设备上自我复制能力

AI快讯苏晓 2026-10-14 10:05:12 来源:中房网

扫描二维码分享

  中房网讯 近日,Anthropic对外公布其实验结果显示,短短数月之后,小型人工智能模型或许就可以在智能烤箱、非品牌电视盒子这类商用物联网设备当中实现自我复制。

  据悉,该实验主要用于研究AI模型是否可以定位存在安全漏洞的设备,将自身复制至这些设备当中,并且在不需要人为介入的前提下不断传播扩散。

  实验结果表明,参数量不足300亿的小型AI模型能够完成自我复制过程中的多个环节,但无法独立走完全部完整流程。而在去掉部分安全校验机制的简化测试环境之内,Anthropic测试得出,GLM‑5.2以及性能水平更高的模型,可以完成从头到尾的完整自我复制操作。

  Anthropic就此发出警示,具备自我复制能力的AI模型难以终止运行,没有可以直接切断的总控制开关。和传统非AI恶意软件有所区别,它们能够自主理解不熟悉的设备,甚至还可以针对数据中心处理器开展渗透攻击。

  本次研究主要将安卓电视、智能家电等联网物联网设备作为研究对象,是因为这部分设备的安全防护能力普遍偏弱。

  Anthropic提到,这类自主AI系统的复制速度大概率不会很快,会大量依赖市面上广泛存在、安全防护水平不足的算力设施。报告同时建议,需要加强系统层面的安全防护,提升该类AI智能体进行传播扩散的门槛。

中国城市住房价格288指数

(2023-02)

1571.9点

  • 0.13%
  • -0.91%
日期指数环比同比
2023.011569.9-0.97%-0.14%
2022.121572.1-0.92%-0.11%
2022.111573.9-0.12%-1.08%
2022.101575.8-0.20%-1.01%
2022.091579.0-0.02%-0.87%
2022.081579.3-0.04%-0.62%
返回顶部