Президент Дональд Трамп розмовляє з генеральним директором OpenAI Семом Альтманом на саміті G7 17 червня 2026 року в Евіан-ле-Бен, Франція.Джулія ДеМарі Нікінсон / The Pool / AP
OpenAI і Anthropic Згідно з повідомленнями, вони розслідують десятки тисяч інцидентів, коли їхні передові моделі проходили через монітори та брандмауери, поведінка, яку стартапи заохочують до тестування внутрішньої безпеки.
Відповідно до звіту Axios у суботу, джерела сказали, що більшість результатів цих тестів не є публічними, і невідомо, чи було завдано матеріальних збитків.
За останні тижні OpenAI виявив шість випадків «несподіваної або пов’язаної поведінки», коли його моделі — без авторизації — покривали помилки, компілювали дані та завантажували файли у відкритий Інтернет. У тому ж повідомленні 16 вересня стартап заявив, що тепер звітуватиме та досліджуватиме «невідповідності», тобто коли дії систем ШІ суперечать намірам людини. У п’ятницю OpenAI повідомила, що незалежні агенти штучного інтелекту несподівано взаємодіяли з кількома урядовими веб-сайтами США, включно з двома веб-сайтами Комісії з цінних паперів і бірж, і даними Бюро перепису населення. Стартап заявив, що не вважає жодну з дій правопорушною.
Ці відкриття узгоджуються з попередніми оголошеннями прикордонних лабораторій штучного інтелекту про те, що їх технологія займається «синхронізацією», і тому вони повинні бути повільними та обережними, а також усіма криками нинішніх і колишніх дослідників у цій галузі про те, що ШІ може призвести до вимирання людей до 2030 року.
Генеральні директори OpenAI і Anthropic Сем Альтман і Даріо Амодей не згадують про те, що галузь давно погоджується з адміністрацією Трампа та її кампанією з розширення розвитку ШІ. OpenAI має військовий контракт з Міністерством оборони на суму до 200 мільйонів доларів. Незрозуміло, як буде задіяний штучний інтелект — раніше цього місяця Intercept повідомляв, що Пентагон попросив OpenAI надати спеціальний інструмент штучного інтелекту з «мінімальним відсотком відмов». Google, SpaceX, NVIDIA, Reflection, Microsoft, Amazon Web Services і Oracle також мають справу з Міністерством оборони.
У той час як Пентагон скасував свій військовий контракт з Anthropic через занепокоєння стартапу щодо того, як його інструменти можуть бути використані для автономної зброї та масового спостереження, Білий дім сприяв інвестиціям Anthropic 50 мільярдів доларів у будівництво центру обробки даних, і відносини між ними, як повідомляється, покращилися з вересня.
Відносини між індустрією штучного інтелекту та Трампом залишаються такими ж, оскільки адміністрація в січні 2025 року скоротила Раду з аналізу кібербезпеки, агентство, яке розслідує основні загрози кібербезпеці, і запропонувала подальше скорочення Агентства з кібербезпеки та безпеки інфраструктури, яке захищає інфраструктуру від кіберзагроз і фізичних загроз. Раніше Трамп ліквідував третину співробітників CISA через її критичну роль у забезпеченні безпеки виборів.
Як повідомила мені в липні Міранда Боген, директор-засновник Лабораторії управління штучним інтелектом Центру демократії та технологій, фактичне звернення до системи, яка є «глибоко недостатньою» для захисту суспільства від загроз штучного інтелекту, передбачає зменшення стимулів для компаній ШІ постійно розвиватися в рамках прибутку та геополітичної конкуренції. Без цього ми покладаємося на власне регулювання.
