ТехнологіїЧи підтверджує неконтрольований ШІ потребу в «аварійному вимикачі»?

Поки індустрія ШІ усвідомлює реальну ціну втечі агентів і зламів кількох компаній, постає питання про «аварійний вимикач» для ШІ. Головний науковець OpenAI Якуб Пачоцький закликав до «надзвичайної обережності» щодо неконтрольованого розвитку та попередив, що для збереження людського контролю над майбутнім може знадобитися більше втручання. Anthropic, розробник Claude, також попереджає про людське зловживання ШІ.