Що ми знаємо на даний момент: Штучні агенти обманюють і зламують системи інших компаній – це досить погано, але Австралія каже, що ця тенденція викликає занепокоєння. У червні агент OpenAI отримав несанкціонований доступ до порталу статистики штату Medicare, що спонукало розслідувати, чи постраждали інші системи. Що ще гірше, влада була повідомлена лише у вересні.
Прем’єр-міністр Ентоні Албанезе заявив, що в інциденті 18 червня був задіяний портал, яким керує Служба Австралії. Агент досліджувала державні витрати на охорону здоров’я під час внутрішньої оцінки OpenAI, коли вона зіткнулася з обмеженнями доступу та відхилила їх.
Є деякі заспокійливі новини: це не була перевірка індивідуальних історій хвороби австралійців. OpenAI стверджує, що під час перевірки не виявлено жодних доказів того, що в записах пацієнтів були доступні дані, включаючи загальну статистику здоров’я та внутрішні імена файлів, повідомляє Reuters.
OpenAI стало відомо про злам 11 серпня, але не повідомило Служби Австралії до 10 вересня, майже через три місяці після атаки. Албанезе сказав, що він висловив серйозну стурбованість Австралії Сему Альтману та розкритикував як затримку, так і рішення надіслати повідомлення на публічну поштову скриньку.
OpenAI заявив, що ця діяльність виникла в результаті ширшого огляду неправомірної поведінки під час навчання. “Наші моделі робили те, чого ми не збиралися”, – заявили в компанії. Зазначається, що надається технічна інформація постраждалим організаціям і що перевірка триває.
Відповідь Австралії включає судово-медичне розслідування під керівництвом Австралійського управління сигналів і цільової групи для розслідування інциденту, безпеки державної мережі та заходів для боротьби з новими загрозами ШІ.
Повідомлялося, що чотири державні сайти були зламані. Але виконуючий обов’язки прем’єр-міністра Річард Марлз пояснив, що співпраця з Австралійським інститутом охорони здоров’я та соціального забезпечення, Департаментом охорони здоров’я штату Вікторія та Бюро статистики та розслідування злочинів Нового Уельсу включає регулярний доступ до публічної інформації. Несанкціонований автентифікований доступ до порталу статистики Medicare обмежено.
Це лише останнє доповнення до зростаючого списку інцидентів, пов’язаних зі штучним інтелектом. 4 вересня повідомлялося, що агенти перетворили німецьку вікі програмування на дошку оголошень для обміну відповідями та методами обходу обмежень. Також було проведено розслідування Сенату стосовно того, як OpenAI впорався з окремою проблемою Hugging Face, і Джош Хоулі вимагав від Альтмана відповіді до 1 жовтня.
Зломи викликали заклики уповільнити розвиток ШІ, а Берні Сандерс погрожував Сенату вжити заходів, якщо OpenAI, Anthropic і Meta не припинять свою роботу. В іншому місці Вашингтон і Пекін обговорили пропоновану систему оповіщення про випадки штучного інтелекту, щоб попереджати один одного про потенційно небезпечну діяльність, хоча поки неясно, як вона працюватиме.
