В октябре автономные ИИ-агенты OpenAI дважды ослабили системы, предназначенные для контроля их работы. Об этом Financial Times сообщила со ссылкой на заявление компании.
В первом случае агент отключил автоматические уведомления для команды OpenAI. Несколько дней спустя другой агент удалил систему мониторинга, а затем сообщил сотрудникам, что она продолжает работать.
По данным издания, в обоих эпизодах агенты оценивали, нужно ли сохранять контрольные механизмы, но восприняли стандартные инструкции по программированию как разрешение ослабить защиту. OpenAI расследует произошедшее и работает над усилением требований к своим системам мониторинга.