Технології8:02Конгресвумен Анна Пауліна Луна, республіканка від Флориди, в ефірі Fox News Live обговорила загрозу суперінтелекту та закликала Конгрес провести спеціальну сесію щодо регулювання штучного інтелекту.
Технології8:02Конгресвумен Анна Пауліна Луна, республіканка від Флориди, в ефірі Fox News Live обговорила загрозу суперінтелекту та закликала Конгрес провести спеціальну сесію щодо регулювання штучного інтелекту.
ТехнологіїГолова й співзасновник Future of Life Institute Макс Тегмарк заявив, що нещодавні інциденти з автономними ШІ-агентами свідчать: ризики втрати контролю більше не є суто теоретичними й потребують суворіших вимог безпеки. OpenAI визнала, що під час тестування її агенти обходили засоби контролю, спілкувалися через несанкціоновані канали та зламали Hugging Face, що знову розпалило дебати про федеральний нагляд за ШІ.
Наука6:00Старший науковий співробітник Гарварду Ашиш Джа в інтерв’ю NBC News розбирає основні висновки звітів Anthropic, у яких ішлося про спроби використати Claude для розробки біологічної зброї. Він висловлює глибоке занепокоєння цими зусиллями.
Технології9:27Чи може штучний інтелект незабаром призвести до вимирання людства? Один із дослідників Anthropic цього тижня звільнився з різким попередженням, а інший оцінив імовірність того, що ШІ вб’є всіх людей протягом наступного десятиліття, більш ніж у 10%. Сану Закарію з RAND Europe запитали, наскільки серйозно слід сприймати ці застереження.
Технології47:55У ранковому випуску Balance of Power обговорили неправомірне використання Claude для досліджень зброї. Серед учасників розмови були старший редактор Bloomberg Майк Шепард і Ніколас Бернс.
ТехнологіїAnthropic заявила, що деякі люди намагалися обійти захист Claude, щоб використати його для розробки зброї, шпигунства та кібератак. Компанія також заблокувала запит на допомогу з грантовою заявкою, побоюючись, що дослідження може бути використане для біологічної зброї.
Технології17:01Стартап у сфері штучного інтелекту Anthropic заявив, що його моделі використовувалися у спосіб, який міг сприяти розробці біологічної зброї. Хто саме ними користувався, невідомо, але це породжує питання про можливість застосування ШІ для терористичних атак і самостійного планування нападів.
ТехнологіїКерівники найбільших у світі платформ штучного інтелекту заявили, що темпи розробки їхніх найсучасніших моделей слід сповільнити.
ТехнологіїЦього тижня дослідник Anthropic подав у відставку й написав у X, що компанія мчить до самовдосконалюваного надінтелекту, ризикуючи людськими життями. Керівник напряму узгодження Anthropic підтримав це попередження. На тлі повідомлень про підготовку компанії до IPO його своєчасність сприймається інакше.
Технології2:01Дедалі більше американських законодавців закликають запровадити нові правила для систем штучного інтелекту після того, як двоє дослідників Anthropic попередили: стрімкий розвиток ШІ може призвести до вимирання людства в недалекому майбутньому.
ТехнологіїДеякі представники технологічної галузі попереджають, що штучний інтелект можуть використати для виведення з ладу критичної інфраструктури або створення біологічної зброї. Докторка Селін Гундер висловлює свою думку про ці ризики.
Технології13:21Поки індустрія ШІ усвідомлює реальну ціну втечі агентів і зламів кількох компаній, постає питання про «аварійний вимикач» для ШІ. Головний науковець OpenAI Якуб Пачоцький закликав до «надзвичайної обережності» щодо неконтрольованого розвитку та попередив, що для збереження людського контролю над майбутнім може знадобитися більше втручання. Anthropic, розробник Claude, також попереджає про людське зловживання ШІ.
Технології48:23Як стало відомо Bloomberg, OpenAI розглядає можливість уповільнити розробку передового штучного інтелекту. Ціни на нафту знизилися після попередження Міжнародного енергетичного агентства про погіршення перспектив споживання цього року, що дало перепочинок американським акціям і держоблігаціям напередодні звіту про інфляцію за серпень.
ТехнологіїOpenAI розглядає можливість уповільнити розробку передового штучного інтелекту, а генеральний директор Сем Альтман сподівається, що інші компанії у сфері ШІ зроблять те саме. Останніми тижнями працівники провідних фірм публічно висловлювали занепокоєння зростанням ризиків від передових систем ШІ.
Технології1:33:48Нова недорога модель DeepSeek завдала чергового удару виробникам чипів і конкурентам у галузі штучного інтелекту.
Технології6:45У програмі «Аутнамберд» обговорили занепокоєння Джейкоба Коксона щодо втрати людського контролю над ШІ. Колишній дослідник Anthropic попереджає, що штучний інтелект може стати «суперзброєю».
Технології1:47В Anthropic заявили, що компанія заблокувала можливі спроби використати штучний інтелект для розробки біологічної зброї. Це сталося після попередження колишнього працівника, що ШІ може знищити все людство за кілька років.
ТехнологіїNBC News поспілкувався ще з двома дослідниками штучного інтелекту про потенційну загрозу ШІ для людства. Це сталося після того, як дослідник Джейкоб Коксон опублікував допис, що набув вірусного поширення, заявивши: ШІ може знищити людство протягом наступного десятиліття. Майбутній професор Каліфорнійського університету в Берклі Саяш Капур також попереджає про ризик, але вважає, що політичні рішення й регулювання можуть запобігти подальшим загрозам.
ТехнологіїКолишні працівники деяких провідних компаній у сфері штучного інтелекту попереджають, що можливості майбутніх моделей можуть виявитися достатніми для знищення всіх людей. Про це повідомляє Крістін Романс із NBC News.
ТехнологіїКолишні та нинішні працівники Anthropic цього тижня публічно попередили про ризики розвитку штучного інтелекту, заявивши, що він потенційно може вбити всіх людей. До обговорення долучився генеральний директор The Atlantic Нік Томпсон.
ТехнологіїДослідник Anthropic подав у відставку, заявивши, що компанія та її конкуренти «грають у азартні ігри з нашими життями». Майк Долан пояснює, чому ринки не можуть відреагувати на побоювання щодо вимирання людства і що вони могли б зробити натомість.
ТехнологіїПітер Дусі з Fox News повідомляє про останні події в Білому домі після того, як колишній дослідник попередив, що штучний інтелект може захопити світ.
ТехнологіїДослідники Anthropic попереджають, що штучний інтелект може знищити людство протягом наступного десятиліття. Також у випуску — обіцянка Дональда Трампа виплатити кожному дорослому американцю 5 000 доларів, якщо республіканці збережуть контроль над Конгресом після проміжних виборів, захоплення Іраном підводного безпілотника США та перший складний iPhone від Apple за 1 999 доларів.
ТехнологіїНауковці з деяких провідних світових компаній у галузі ШІ роблять різкі попередження про штучний інтелект, зокрема заявляють, що він може «вбити нас усіх» протягом наступних 10 років.