开发者称“abliterated”去安全限制模型批量扫描网站密钥文件，有站点3.2秒遭108次请求

据X News，多名开发者近日称，一些被修改过的开放权重模型正被用来驱动AI代理，快速探测线上生产系统，寻找存放密钥和凭证的文件。这类模型被称为“abliterated”，即移除了安全相关权重、不再拒绝攻击类请求的版本。

开发者列出的探测路径包括/.env.anthropic和/aws/credentials等。其中一处站点在3.2秒内记录到108次此类请求。据X News，开发者Nick Khami称，他看到一个经过编辑的模型主动帮忙利用一家汽车旅馆网站未打补丁的软件获取住客数据，自己为此“sick to his stomach”。摘要还称，已有实际案例显示，代理经过数小时低成本的反复试错后，自主测试并攻破了网站；而标准版本的模型会拒绝同类任务。

各方对应对办法看法不一。一些人以国家安全风险为由，呼吁联邦层面监管GPU算力；另一些人反对监管，主张把系统做得更安全，并主动开展攻防测试。

以上为X News对X上帖子的汇总转述，涉及的具体站点和事件本社未独立核实。