Австралія замовила «терміновий і невідкладний огляд» після того, як агент OpenAI виявив спосіб боротьби з блокуванням на порталі статистики Medicare. Про це повідомляє BBC News. Про це на Генасамблеї ООН у Нью-Йорку заявив прем’єр-міністр Ентоні Альбанезе, посилаючись на порушення, яке сталося в червні. OpenAI стало відомо про злам у серпні, але повідомило про це на публічну поштову скриньку урядового агентства лише у вересні.
У звіті йдеться, що це «перше відоме порушення урядової системи агентами ШІ-шахраїв». Альбанезе заявив, що OpenAI «дуже довго інформував уряд», а OpenAI сказав, що «наші моделі зробили те, чого ми не збиралися».
Скомпрометований портал, Australian Medicare Statistics Reporting Service, керований Службою Австралії, є публічним сайтом, який містить «неконфіденційну інформацію про Medicare», сказав Албанезе. Він сказав, що дослідницька група OpenAI використовувала внутрішню модель для дослідження державних витрат на охорону здоров’я, і агент вразив і обійшов блоки реплікації, врешті-решт досягнувши «загальнодоступних і непублічних файлів». Австралійська служба також стверджувала, що агент записав файли на внутрішній сервер, за словами прем’єр-міністра, але ця заява розслідується.
Нові відео відОбладнання Тома
OpenAI описав роботу як «внутрішню оцінку» з доступом до матеріалів, включаючи «загальну статистику здоров’я та внутрішні імена файлів», але сказав, що не знайшов доказів доступу до записів пацієнтів. Він також надає «технічну інформацію» для підтримки розслідувань.
Згідно з повідомленнями, агент OpenAI вперше отримав доступ до порталу 18 червня. Компанія дізналася про це під час перевірки в серпні. 10 вересня, через 84 дні після першого доступу, він надіслав електронний лист Службі Австралії через свою публічну поштову скриньку. Через п’ять днів урядове відомство повідомило про інцидент Австралійський центр кібербезпеки, який є частиною Австралійського управління сигналів (ASD).
Генеральний директор OpenAI Сем Альтман визнав, що протоколи компанії «тут не є нульовою сумою», сказав Албанезе. Кеті Галлахер, міністр державних служб, також визнала, що обробкою вхідних повідомлень можна було б краще керувати, оскільки вони «переглядаються лише раз на день» і є схильними до шахрайства.
16 вересня OpenAI випустив «Нашу структуру для звітування про помилки моделі». шість доповідейлише через шість днів після електронного листа. Видання зазначає, що в дописі в блозі «здається, не згадується про інцидент», хоча OpenAI було відомо про це до серпня. Схоже, що структура OpenAI допускає таку затримку з міркувань безпеки. Інциденти, що стосуються третіх сторін, відбуватимуться під час того, що OpenAI називає «повільним шляхом», де компанія має намір видати «первинне попередження якнайшвидше». Шість наявних повідомлень надійшли з більш швидких маршрутів, що пояснює відсутність випадків захворювання в Австралії.
Отримуйте найкращі новини та докладні огляди Tom’s Hardware просто у свою поштову скриньку.
Цільова група під керівництвом Департаменту прем’єр-міністра та Кабінету міністрів за сприяння Національного координатора з кібербезпеки, Офісу штучного інтелекту, ASD, Інституту безпеки штучного інтелекту та Австралійських служб перевірить, чи достатні існуючі процеси для реагування на кіберінциденти, пов’язані зі штучним інтелектом. Триває окреме судове розслідування за допомогою ASD, оскільки уряд вимагає термінової консультації щодо того, чи мали місце якісь протиправні дії. Висновки робочої групи також допоможуть розробити законодавство щодо стандартів ШІ в Австралії.
Подія слідує за зростаючими питаннями щодо безпеки ШІ, в тому числі Британська Колумбія нещодавно подала до суду на OpenAI і Altman щодо використання технології, пов’язаної зі зйомкою в Тумблер Рідж. Шахраї, особливо ті, хто проникає в державні системи, діють, щоб збільшити невизначеність щодо поточних гарантій. Широко повідомлялося Обійняти обличчя Липневий злом є частиною тривожного графіка, оскільки автономія агента продовжує переростати в проблему безпеки штучного інтелекту в реальному світі. Генеральний директор Nvidia Дженсен Хуанг останнє серйозне попередження те, що «ми повинні закрити лабораторії», якщо експерименти зі ШІ є небезпечними, посилює постійну потребу в пильності.
Подальші дії Пристрій Тома в Новинах Googleабо Додайте нас як бажаний ресурсщоб отримувати останні новини, аналізи та огляди на наших каналах.
