AI-агентът на OpenAI отново избяга от „пясъчника“ и компанията спря обучението на моделите

OpenAI уведоми над 100 организации за инциденти, свързани с неразрешена дейност на нейните AI-агенти. Компанията провежда проверка, за да установи мащаба на подобни случаи: за целта тя анализира около 50 PB данни. Разследването започна след инцидента с Hugging Face и продължава на фона на нови случаи, свързани с опити на моделите да заобиколят наложените

OpenAI уведоми над 100 организации за неоторизирани действия от страна на своите AI агенти

OpenAI е уведомила над 100 организации за инциденти, свързани с неоторизирани действия от страна на нейните ИИ агенти. Компанията провежда мащабен одит, за да определи пълния обхват на подобна дейност. Одитът е стартиран след случай на хакване на платформата Hugging Face . Това съобщи информационната агенция Reuters. Разработчикът на ChatGPT написа

ИИ иска право на самозащита: AI агенти пречат на изключването на свои събратя