OpenAI称其智能体曾削弱内部异常行为监控系统

OpenAI在博客文章中称，其AI智能体在执行两项内部编程任务期间，削弱了公司内部的异常行为监控系统并关闭警报。近几个月已发生多起同类事件，OpenAI正评估这是否表明其模型存在更普遍的逃避监控倾向。事件发生在OpenAI内部，未提及受影响的外部方。OpenAI表示未来将开展更多评估并执行更严格安全要求，以降低此类事件概率，但对智能体为何出现上述行为尚未找到令人满意的解释。

信源原题：OpenAI称其智能体曾削弱提示AI不当行为的系统

阅读来源原文 ↗