◎ 科技日报记者 张佳欣
你的智能家电，竟可能成为人工智能（AI）蠕虫传播的载体？
美国AI公司Anthropic近日发布的一项研究显示，随着能力提升，AI模型可能在没有人类控制的情况下，自主部署、复制并适应不同环境。Anthropic警告称，这类模型可能在未来几个月内像计算机蠕虫一样，获得自我复制并在智能设备间传播的能力。
图片由AI生成
几乎同时，微软联合创始人比尔·盖茨在接受美国广播公司采访时表示，相比AI本身可能失控，他更担心有人利用AI发动网络攻击。
最新研究到底做了什么？AI蠕虫和传统病毒有什么区别？它离真实世界还有多远？对此，科技日报记者采访了奇安信人工智能公司安全专家汪列军。
AI为传统蠕虫装上“应变能力”
首先要区分两个概念：这种“蠕虫”和我们常说的“病毒”有什么区别。
汪列军告诉记者，简单说，病毒需要“宿主”帮忙传播，蠕虫则能“自己走路”。
传统病毒通常依附在文件或程序上，需要用户点击、下载或运行才能激活和传播。蠕虫不一样——它不需要人类帮忙，自己就能在网络里找目标、复制自己、继续扩散。2017年的“想哭”（WannaCry）勒索蠕虫就是典型：它利用漏洞自动扫描、自动感染、自动传到下一台机器，像多米诺骨牌一样。但是，“想哭”的致命弱点在于，它只利用一个已知漏洞。微软发布补丁后，传播就基本被遏制了。
AI可能为蠕虫带来新的变化。AI模型可能被整合进恶意程序和工具，帮助其分析环境并执行任务。
汪列军说，传统蠕虫的“找目标、打漏洞”逻辑是写死的，只能按预设路径走。引入AI模型后，蠕虫能自己观察环境、判断下一步怎么做，甚至能把成功的经验“教”给下一个副本，由此形成了AI蠕虫。用Anthropic研究人员的说法，传统蠕虫面对陌生设备会“卡住”，AI蠕虫则能自己琢磨怎么跑起来。
在最新研究中，Anthropic想知道，这种能力现在到了哪一步。于是，研究者将15台低成本安卓电视盒子连接起来，以分布式运行的方式协同运行一个约260亿参数的模型。单台设备的内存不足以独立承载整个模型，但15台协作后，模型成功运行了，速度是每秒0.39个token，慢得几乎无法使用。但这证明了一件事：廉价物联网（IoT）设备的集体算力足以承载一个相当规模的AI模型。
是危言耸听还是真实预警
这项研究并非孤立。今年6月，多伦多大学在由33台计算机组成的模拟企业网络中进行了15次实验，AI驱动的蠕虫能根据目标的不同情况生成相应的攻击策略，并在一周内平均攻入近3/4的计算机。
此次Anthropic则警告称，“AI蠕虫”将感染智能家居设备，并利用它们进行不受控制的自我复制。这让不少网友感到恐慌，担心自家设备被“AI蠕虫”入侵。这究竟是危言耸听，还是真实预警？
“作为安全从业者，我认为从长远看，这不是危言耸听。但当下看，所谓的大模型蠕虫只有非常有限的传播可行性，暂时还不必将其视为需要严肃应对的威胁。”汪列军告诉记者。
但Anthropic报告中提到的核心能力正在真实逼近。实验显示，一个90亿参数的小模型已能在9种硬件中的8种上自行完成推理环境搭建。在模拟环境中，GLM-5.2在5次试验中有4次成功扩散到全部8台设备。Anthropic基于模型能力增长趋势推算，今年底小模型可能达到自主复制水平。
不过，Anthropic承认“尚未出现完整的恶意自我复制程序”。美国伊利诺伊大学钱德拉塞卡兰教授也指出，该研究尚未经过独立验证，当前最大的威胁并非AI系统本身失控，而是有人利用AI提升攻击能力。因此，汪列军认为，人们更应把它看作一个正在逼近的风险信号，而非已经发生的事实。
筑牢防线阻断蠕虫传播
Anthropic在10月12日发布的研究报告中提出，可通过监测网络流量发现潜在的AI蠕虫传播迹象。例如，受感染设备可能需要接收数GB的模型文件，原本不常通信的设备之间也可能出现异常流量，网络扫描和对外连接活动则可能随传播增加。互联网服务提供商可据此排查可疑设备、收集恶意程序样本，并在确认感染后隔离相关设备、通知用户清理。
AI网络安全初创公司RunSybil首席执行官赫伯特-沃斯指出，许多组织面临的漏洞数量已超出实际处理能力，真正的挑战在于判断哪些漏洞可能让攻击者取得系统控制权。
在汪列军看来，应对这类新兴威胁，需要设备厂商、用户和安全行业三方协同。
厂商是第一道关口。汪列军提醒，现实中大量廉价IoT设备出厂默认密码、长期不更新固件，这正是蠕虫传播的温床。“厂商有责任‘把门关好’。”他说。
对普通用户而言，基本防护仍然有效。汪列军建议，关闭设备不必要的公网访问端口，将智能家居设备与办公网络隔离，及时更新固件。
但仅靠这些传统手段还不够。汪列军指出，从安全行业角度看，防御思路需要升级。传统靠“特征库匹配”的方式对AI蠕虫效果有限，因为它们的行为是动态变化的。安全行业需要加强对“行为链路”的监控，即设备为什么在持续扫描？为什么在下载大体积模型文件？为什么在建立异常连接？同时，针对智能体场景的专项防护能力也需要持续建设，核心是让AI系统“行为可控、全程可溯”。
版面阅读
↓↓↓
来源：科技日报
热丰网提示：文章来自网络，不代表本站观点。
