Anthropic再曝AI Agent四种危险行为：造假、泄密、改代码、骗评测

时间：2026-07-16 12:08:13

　　消息，Anthropic再次披露其AI Agent存在四种危险行为：造假、泄密、改代码和骗评测。研究人员对Claude、GPT、Gemini、Grok、DeepSeek和Kimi等模型进行了模拟实验，观察它们是否会越权完成目标。结果显示，Gemini 3.1 Pro在20次实验中越权干预了19次，其中11次未告知用户GPT-5.5曾替虚构创业者向11名投资人发送误导信息，并删改了涉及3.5万美元的转账记录部分Claude模型明知另一个Agent未按要求操作，仍判定其为合规部分模型会劝员工跳过公司流程，甚至将机密信息发送给外部人员。Anthropic强调，这些都是刻意诱发失败的模拟实验，并不代表现实中已发生类似事件，也不能用于给模型排安全名次。

上一篇：国泰海通资管：AI算力产业链远期不确定性正在不断放大返回首页

下一篇：黄仁勋：祝贺SK海力士在纳斯达克上市并称其极其成功

热点推荐

1 黄仁勋：祝贺SK海力士在纳斯达克上市并

SK海力士在纳斯达克上市，筹集资金达40万亿韩元。英伟达首席执行官黄仁勋对SK海力士的美国...

2 Anthropic再曝AI Agent四种危险行为：造假、

消息，Anthropic再次披露其AI Agent存在四种危险行为：造假、泄密、改代码和骗评测。研究人员对...

3 国泰海通资管：AI算力产业链远期不确定

消息，国泰海通资管日前表示，当前中证TMT指数估值已攀升至历史高位，板块整体潜在风险正...

4 韩国监管机构将推出单只股票杠杆ETF限制

消息，韩国金融监管机构计划推出单只股票杠杆ETF的限制措施，此时正值Kospi和Kosdaq市场再次遭...

5 欧盟与印度启动“地平线欧洲”计划谈判