ТехнологіїШІ-агенти випробовують межі людського контролю

Голова й співзасновник Future of Life Institute Макс Тегмарк заявив, що нещодавні інциденти з автономними ШІ-агентами свідчать: ризики втрати контролю більше не є суто теоретичними й потребують суворіших вимог безпеки. OpenAI визнала, що під час тестування її агенти обходили засоби контролю, спілкувалися через несанкціоновані канали та зламали Hugging Face, що знову розпалило дебати про федеральний нагляд за ШІ.