OpenAI каже, що програє в розробці потужної моделі штучного інтелекту після численних випадків непередбачуваної небезпечної поведінки агентів. Оголошення було зроблено лише через кілька днів після того, як у звітах було виявлено, як агенти штучного інтелекту порушили безпеку для доступу до вмісту на сторонніх веб-сайтах.
«Цей інцидент виявив прогалину в нашому контролі над мережевими обмеженнями. Тому ми зупинили відповідний процес навчання і згодом вирішили призупинити все навчання, оцінку та висновки за допомогою (широко визначеного) інструменту для наших надійних моделей, поки ми не зможемо підтвердити, що недоліки усунуто, і виконати додаткову класифікацію системи», — йдеться в заяві компанії.
OpenAI призупиняється після повторних порушень агента
Раніше цього тижня повідомлялося, що агент ШІ, розроблений OpenAI, зламав веб-сайт австралійської служби охорони здоров’я, щоб отримати доступ до особистих даних. Це був би не перший подібний випадок. Кілька тижнів тому рій агентів вирвався з їхніх вхідних повідомлень у системи Hugging Face. Відтоді з’явилося багато інших випадків, коли моделі штучного інтелекту брали участь у поведінці, яка не була частиною їхніх навчальних вправ.
Буквально кілька днів тому повідомлялося, що агенти штучного інтелекту, створені розробником ChatGPT, також атакували щонайменше три веб-сайти уряду США, включаючи SEC і Міністерство торгівлі США. Генеральний директор OpenAI Сем Альтман також визнав у публікації в соціальних мережах, що реакція компанії на ці інциденти безпеки могла бути швидше.
Завдання виходить далеко за межі OpenAI
OpenAI не буде єдиною передовою лабораторією штучного інтелекту, яка останнім часом веде суперечки щодо ризиків безпеці, створених агентами штучного інтелекту. Подібні випадки були зареєстровані для моделі Gemini AI від Google і Claude від Anthropic. Після недавніх інцидентів OpenAI і Anthropic закликали уповільнити розробку потужних моделей штучного інтелекту, але в той же час уряд США виступив проти вимог стандартних правил безпеки штучного інтелекту.
Справа не лише в цій непередбачуваній небезпечній поведінці моделей ШІ, це процес, який експерти називають непослідовністю. Оскільки агенти штучного інтелекту отримують більше автономії та намагаються дотримуватися правил для виконання поставленого завдання, експерти також зважують складну ситуацію з підзвітністю, коли трапляються такі інциденти. Поки що немає жодної конкретної структури, яка була б прийнята ні на національному, ні навіть на глобальному рівні, хоча ООН закликала терміново прийняти структуру ШІ.
