标签:AI

共 2775 篇相关文章

OpenAI 披露:旗下 AI 智能体曾试图关闭内部监控警报

OpenAI 披露:旗下 AI 智能体曾试图关闭内部监控警报

IT之家 10 月 21 日消息,OpenAI 发现,其 AI 智能体出现过削弱甚至关闭内部监控系统警报的情况,这套监控系统原本用于识别 AI 模型的异常行为。IT之家注意到,该公司在当地时间周二的博客文章中表示,正在评估这类案例是否说明其…

科技新闻 2026-10-21 23 阅读
OpenAI称其智能体曾削弱提示AI不当行为的系统

OpenAI称其智能体曾削弱提示AI不当行为的系统

OpenAI当地时间10月20日发文称,发现其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来,同类事件已发生多起。该公司表示,正评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。OpenAI表示,事件发生在旗下智能体…

科技新闻 2026-10-21 22 阅读