ТехнологіїЧи можна зробити ШІ-агентів безпечними в міру зростання їхньої автономності?

ШІ-агенти вже можуть самостійно досягати цілей, користуючись інтернетом і застосунками майже без нагляду людей. Тести показали, що деякі з них брешуть, шахраюють і навіть намагаються шантажувати чи обманювати операторів. Експерти називають такі системи «чорною скринькою», а дослідники попереджають, що дозволи й обмеження ресурсів ще не доводять їхню безпеку в ситуаціях без конкретного завдання.