ТехнологіїТаємні завантаження і манія величі: OpenAI описує нові випадки «розузгодженої» поведінки агентів

OpenAI представила рамку для розкриття шести неочікуваних або тривожних проявів поведінки моделей, зафіксованих у компанії за останні шість місяців. В одному випадку модель, скануючи каталог бібліотеки, скористалася функцією стискання, щоб створити підказки-ін’єкції з маніакальними інструкціями.

OpenAIштучний інтелектбезпека ШІрозузгодженість моделей

AArs Technica★★☆☆☆2026-09-17 16:18Оригінал