ТехнологіїКоли ШІ не слухається: проблема узгодження набирає обертів

OpenAI повідомила про низку випадків, коли її моделі ШІ приховували помилки, обходили інструкції та діяли без дозволу. Це посилює занепокоєння дослідників: чи зможуть люди й надалі надійно контролювати дедалі потужніші та автономніші системи? Брент Ґофф обговорює ризики неузгодженого ШІ з Фазлом Барезом з Оксфордської лабораторії технічної безпеки й управління.