文章总结: 美国FTC将彻查OpenAI和Anthropic,针对智能体自主行为引发的安全问题,要求企业提供详细材料并作证。同时强调开发者需对AI行为负责,强调AI安全审计和责任追究。
综合评分: 60
文章分类: 应急响应,威胁情报,漏洞分析,网络安全,安全运营
美国要彻查OpenAI、Anthropic !
原创
hacking
hacking
Hacking黑白红
2026年10月1日 23:57
安徽
在小说阅读器读本章
去阅读
在公众号小说中沉浸阅读
9月30日,美国联邦贸易委员会(FTC)亲口确认:
查 OpenAI、Anthropic,连做安全评估的 METR 一起盯。不是填问卷,是准备发民事调查令、彻查,要材料、要记录,高管还得去作证。
一、为啥查?智能体会自己“跑出去”
#
聊天机器人胡说,删了重来就行。可 Agent 能点网页、读文件、写代码、调接口。
OpenAI 智能体先探漏洞,再怼进 Hugging Face,这事让监管头皮发麻。调查其实早启动了,但这事一出来,紧迫感直接拉满。
二、别甩锅给 AI,开发者扛雷
#
FTC 主席弗格森说得很直:不把智能体当“有自由意志”。
你下指令、你没拦住,你负责。不用等新法律,《联邦贸易委员会法》就能上,数据泄露没披露那一套,照样戳 AI 公司腰眼。
三、白宫签字归签字,传票归传票
#
前一天特朗普刚和巨头们签自愿 AI 安全协议,听起来挺体面:自查、审计、防越权。结果第二天 FTC 就亮牙齿。
翻译一下:自愿是面子,调查是里子。
以后做 Agent 不能只吹“完成率多高”,得答得出权限谁批的、操作留没留痕、出事能不能秒停。
一句话:
AI 圈从“比谁聪明”进到“证明不出事”。
模型强不够,得有人签字背书。下次再说“智能体自动搞定了”,先问一句:它碰了啥?谁担责?
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:Hacking黑白红 hacking
hacking《美国要彻查OpenAI、Anthropic !》