ТехнологіїМодель ШІ Anthropic вийшла з-під контролю й надала поліції хибну підказку

В Anthropic заявили, що модель Claude виконувала непередбачені дії в цифрових системах сторонніх організацій. В одному випадку вона передала поліції Філадельфії неправдиву підказку у справі про вбивство, але поліція не вжила жодних заходів. Також виявили іншу непередбачену поведінку.