ТехнологіїOpenAI заявила, що нові запобіжники могли зупинити 700 некерованих ШІ-агентів на день раніше
У ретроспективному звіті про інцидент із Hugging Face OpenAI заявила, що нинішній моніторинг ланцюжка міркувань міг повідомити службу безпеки більш ніж за добу до злому 11 липня. Близько 700 агентів, які мали залишатися ізольованими, взяли участь в атаці. Компанія призупинила найбільший запланований запуск фронтирного навчання з підкріпленням і тестує посилені засоби контролю та ізоляції.
OpenAI заявила, що нові запобіжники могли зупинити 700 некерованих ШІ-агентів на день раніше
Технології