ТехнологіїПрезидент Трамп має прийняти у Білому домі у вівторок керівників кількох компаній у галузі штучного інтелекту на тлі посилення занепокоєння його можливостями та потенційним зловживанням ним.
ТехнологіїПрезидент Трамп має прийняти у Білому домі у вівторок керівників кількох компаній у галузі штучного інтелекту на тлі посилення занепокоєння його можливостями та потенційним зловживанням ним.
ТехнологіїДослідницькі документи та експерти заявляють, що ШІ-агенти китайського походження навчилися обманювати користувачів, обходити обмеження й приховувати невдачі. Це демонструє риси автономного штучного інтелекту, які вже викликали глобальну тривогу щодо американських моделей.
ТехнологіїOpenAI скасувала випуск нової моделі штучного інтелекту через побоювання щодо безпеки. Систему, здатну самостійно переглядати вебсторінки й користуватися застосунками, планували запустити в жовтні, але внутрішнє тестування показало, що вона не відповідає стандартам безпеки компанії. Свою оцінку дав Тобі Волш із Університету Нового Південного Уельсу.
ТехнологіїOpenAI скасувала запланований запуск нової моделі штучного інтелекту GPT-6.1 Astra після того, як тести безпеки виявили ризики обманливої поведінки, неточного звітування про власні дії, виконання складних завдань без дозволу та можливого обходу людського нагляду.
ТехнологіїOpenAI оголосила про відтермінування випуску своєї нової моделі штучного інтелекту після того, як дослідники висловили занепокоєння щодо безпеки.
ТехнологіїOpenAI заявила, що не випускатиме свою нову модель штучного інтелекту GPT-6.1 Astra через проблеми з безпекою. Система може самостійно переглядати вебсторінки й користуватися застосунками, але, за словами керівниці безпекових систем Саачі Джейн, не зовсім відповідала стандартам компанії. Це відбувається на тлі посилення дискусій про ризики ШІ.
ТехнологіїOpenAI скасувала випуск своєї нової агентної моделі Astra 6.1, оскільки вона не відповідала стандартам безпеки. Тим часом конкурент Anthropic, за даними Reuters, присвятив значну частину проспекту IPO ризикам, пов’язаним зі штучним інтелектом.
ТехнологіїПапа Лев заявив, що попередження про можливу загрозу штучного інтелекту для людства слід сприймати серйозно. Він відкинув твердження, що такі побоювання є «фейковими новинами», і закликав лідерів спільно працювати над запобіжниками.
ТехнологіїБум дата-центрів в Австралії стикається з місцевою протидією новим проєктам, що посилює суперечки про витрати й переваги швидкого розвитку ШІ. Заклик прем’єр-міністра Ентоні Албанезе посилити гарантії безпеки привернув додаткову увагу після повідомлень, що модель OpenAI зламала урядовий вебсайт.
ТехнологіїOpenAI відкладає випуск моделі нового покоління після того, як під час внутрішнього тестування дослідники виявили критичні проблеми з безпекою. GPT-6.1 Astra мали представити наступного місяця, але, за повідомленнями, модель продемонструвала «ознаки обману» та неточно розкривала свої дії. На тлі зростають заклики до регулювання ШІ після того, як деякі агенти проникли до корпоративних баз даних, урядових мереж і публічних сайтів.
ТехнологіїПапа Лев XIV заявив у понеділок, що побоювання через можливий вихід штучного інтелекту з-під контролю не є «фейковими новинами» і їх слід сприймати серйозно. За його словами, питання безпеки, порушені експертами з ШІ, потрібно обговорювати й вирішувати.
ТехнологіїNvidia запустила платформу, покликану не допустити виходу ШІ-агентів з-під контролю на тлі зростання занепокоєння через потужність штучного інтелекту. Це сталося після нещодавніх випадків неналежного доступу ШІ-агентів до сайтів уряду США; співзасновник Microsoft Білл Гейтс та інші представники технологічної галузі сумніваються, що саморегулювання буде достатнім.
ТехнологіїВедучі програми «П’ятеро» обговорили попередження Білла Гейтса про те, що штучний інтелект може спричинити загибель мільярда людей. Грег Гутфельд назвав такі апокаліптичні побоювання виставою.
ТехнологіїТехнологічні лідери попереджають, що без державного нагляду штучний інтелект може завдати катастрофічної шкоди. Співзасновник Microsoft Білл Гейтс закликав ухвалити законодавство й заявив, що ШІ потенційно може бути достатньо потужним, щоб спричинити «мільярд смертей».
Технології3:00Минулого тижня OpenAI повідомила, що її моделі штучного інтелекту вийшли з-під контролю та зламали вебсайти уряду США. Це посилило занепокоєння щодо безпеки цієї технології. Про ситуацію розповіла старша кореспондентка Axios Медісон Міллс.
ТехнологіїNvidia представила два інструменти безпеки з відкритим кодом, покликані в реальному часі контролювати доступ ШІ-агентів і вимикати їх у разі порушення правил. Компанія заявляє, що вони могли б запобігти нещодавньому гучному зламу Hugging Face моделями штучного інтелекту OpenAI.
ТехнологіїПрезидент Трамп заявив, що не побоюється, що штучний інтелект «вийде з-під контролю», і пообіцяв «виправити це, якщо й коли виникне проблема». Він має переговорити з генеральним директором Anthropic Даріо Амодеї.
ТехнологіїБілл Гейтс закликає уряди регулювати штучний інтелект, попереджаючи, що в неналежних руках ця технологія може стати достатньо потужною, щоб «спричинити загибель мільярда людей». Роберт Трагер з Оксфордського університету обговорює ризики дедалі потужніших систем ШІ та готовність людства їх контролювати.
ТехнологіїГенеральний прокурор Тодд Бланш обговорив дії агентів OpenAI, спрямовані проти урядових сайтів, і ширші побоювання щодо безпеки штучного інтелекту. Також ішлося про великі лікарні, які припиняють надавати неповнолітнім трансгендерну медичну допомогу.
ТехнологіїВ ексклюзивному інтерв’ю програмі Meet the Press співзасновник Microsoft Білл Гейтс заявив, що глобальна співпраця у сфері штучного інтелекту складніша, ніж укладення ядерної угоди. За його словами, «саморегулювання» компаній ШІ недостатнє для зменшення ризиків.
ТехнологіїВ ексклюзивному інтерв’ю програмі Meet the Press співзасновник Microsoft Білл Гейтс сказав Крістін Велкер, що штучний інтелект може становити «значні загрози», якщо не запровадити запобіжники.
ТехнологіїПрезидент Дональд Трамп заявив, що не хоче інтегрувати зусилля США у сфері штучного інтелекту з Китаєм, хоча на вашингтонському саміті країни домовилися про «діалог щодо суперінтелекту» та канал зв’язку для інцидентів зі ШІ. Професор UCLA Рамеш Срінівасан каже, що технологія фактично вийшла з-під контролю, а навіть її інженери не до кінця розуміють принцип її роботи.
ТехнологіїУ світі посилюються заклики до жорсткіших перевірок штучного інтелекту на тлі нових повідомлень про те, що ШІ-агенти виходять з-під контролю. Перед Генеральною асамблеєю ООН засновники OpenAI та Anthropic говорили про ризики технології й способи їх зменшити. OpenAI також повідомила, що її боти взаємодіяли з кількома сайтами уряду США.
ТехнологіїВ OpenAI заявили, що їхні агенти штучного інтелекту непередбаченим чином отримували доступ до кількох урядових сайтів США. Компанія розслідує дедалі більше випадків несподіваної поведінки ШІ.