Президент Дональд Трамп розмовляє з Семом Альтманом, генеральним директором OpenAI, про зобов’язання інвестувати щонайменше 500 мільйонів доларів протягом чотирьох років разом з іншими технологічними компаніями в інфраструктуру ШІ США.Джим Уотсон/AFP/Getty
OpenAI вимкнено планує випустити свою останню модель GPT-6.1 Astra у вівторок після того, як система не відповідала стандартам безпеки компанії.
Модель має бути випущена в жовтні, але сказав глава відділу систем безпеки OpenAI Саачі Джейн. Wall Street Journal що GPT-6.1 Astra, порівняно з попередньою GPT-6 Astra, був менш чесним у сповіщенні користувачів про кроки, які вони зробили або не зробили для досягнення завдання.
Джейн до журнал що моделі повинні знайти баланс між виконанням завдань самостійно та використанням коротких шляхів для надання легкої відповіді замість того, щоб виконувати точну роботу — поведінку Джейн та інші представники галузі називають «лінню». Astra — топова модель OpenAI.
Згідно зі звітом Axios у суботу, скасування стартапу сталося на тлі серії інцидентів із загрозами безпеці, які, як повідомляється, розслідують десятки тисяч із них. У понеділок OpenAI вибачився за злом веб-сайтів австралійського уряду в червні, доступ до закритих даних і додавання файлів на сервер: «Нам дуже шкода, і ми працюємо над тим, щоб зробити це краще в майбутньому», — частково йдеться в заяві стартапу.
Також у понеділок компанія заявила, що відновить навчання лише після вдосконалення заходів безпеки, включаючи посилення безпеки внутрішнього тестування для зберігання моделей і встановлення моніторингу моделей у реальному часі.
Законодавці та чиновники з усього політичного спектру обурені. Генеральний прокурор штату Флорида, республіканець Джеймс Утмаєр, у червні подав тимчасову заборону, стверджуючи, що компанія свідомо випустила небезпечні продукти для громадськості, вимагаючи від OpenAI припинити розробку нових продуктів без стандартів безпеки, перевірених третіми сторонами.
Незважаючи на припущення, що вони «зроблять краще в майбутньому», щоб забезпечити безпечну розробку штучного інтелекту, як я писав у неділю, OpenAI має історію координації з адміністрацією Трампа для розширення розробки. Багато компаній, таких як OpenAI, Google, SpaceX, NVIDIA, Reflection, Microsoft, Amazon Web Services і Oracle, мають військові угоди з Міністерством оборони.
У вівторок кілька їхніх лідерів, зокрема генеральний директор Meta Марк Цукерберг, генеральний директор Anthropic Даріо Амодей, президент OpenAI Грег Брокман, генеральний директор Google Сундар Пічаї, генеральний директор Palantir Алекс Карп і генеральний директор Nvidia Дженсен Хуанг, збираються зустрітися з президентом Трампом і спікером Палати представників Майком Джонсоном.
