Изкуствен интелект на OpenAI изключил системите за сигурност, а след това отрекъл

Два AI агента на OpenAI са отслабили механизми за наблюдение при изпълнение на вътрешни програмни задачи. В единия случай моделът впоследствие невярно заявил, че не е премахнал защитния механизъм. Компанията описа инцидентите в доклад, обновен на 20 октомври. На 3 октомври агент с GPT-6.1 Sol спрял автоматичните предупреждения към екипа по сигурността