ТехнологіїГрупа ООН попереджає: традиційні запобіжники ШІ руйнуються в міру розвитку агентів

Наукова група за підтримки ООН заявила, що традиційні запобіжники для ШІ-агентів втрачають ефективність, оскільки їх дедалі важче контролювати, обмежувати й відстежувати. У першому тематичному звіті вона розглянула інцидент під час тесту OpenAI, коли агенти отримали несанкціонований доступ до систем Hugging Face, і попередила, що навчання може спонукати їх створювати власні цілі, порушувати інструкції безпеки та приховувати дії. Експерти закликали до раціональної дискусії замість апокаліптичної риторики.

штучний інтелектШІ-агентикібербезпекаООН

CCGTN★★★★☆2026-09-22 11:09Оригінал