OpenAI开源思维链可监控性评测：CoT越长越透明，RL不会教模型「藏心思」

时间：2026-04-24 19:00:48

　　消息，OpenAI开源了论文《monitoring monitorability》的评测套件monitorability-evals，采用Apache-2.0许可。该套件用于衡量监控模型能否通过推理模型的思维链检测异常行为，覆盖13个评测和24个环境。评测分为干预型、过程型和结果属性型。核心发现显示，监控CoT比仅监控模型的最终动作更有效，且CoT越长可监控性越高。RL训练在当前规模下不会降低可监控性。对于低推理力度的大模型，使用推理力度更高的小模型可提高可监控性，代价是推理算力更贵。GPT-5.4 thinking system card已使用该评测，结果显示其整体CoT可监控性略低于GPT-5，但在agentic misalignment场景下接近100%。

上一篇：Space and Time推出Dreamspace，助力无代码Web3应用开发返回首页

下一篇：Bitget上线U本位CC永续合约，杠杆区间1

热点推荐

1 KuCoin上线FLORK和AIB交易对

消息，KuCoin宣布在其KuCoin Alpha平台上新上架两种代币：FLORK和AIB。FLORK的交易对为FLORK/USDT，基于...

2 Bitget上线U本位CC永续合约，杠杆区间1

消息，Bitget宣布已上线U本位CC永续合约，杠杆区间为1-20倍。合约交易bot将同步开放。此外，新...

3 OpenAI开源思维链可监控性评测：CoT越长越

消息，OpenAI开源了论文《monitoring monitorability》的评测套件monitorability-evals，采用Apache-2.0许可。...

4 Space and Time推出Dreamspace，助力无代码Web

消息，Space and Time宣布推出Dreamspace，这是一款由人工智能驱动的应用构建工具，旨在让用户无...

5 德商银行：德国面临日益加剧的衰退风险