безпеки
Прем’єр дав лідеру OpenAI жорстку розмову
Прем’єр-міністр Австралії Ентоні Албанезе заявив, що агент OpenAI «зламав веб-сайт австралійського уряду».
Албанезе сказав, що інцидент стався в червні, і агент отримав несанкціонований доступ до порталу, який зберігає статистику, пов’язану з Medicare, австралійською схемою медичного страхування.
«Агент штучного інтелекту отримав доступ як до загальнодоступних, так і до непублічних файлів», — сказав прем’єр-міністр, перш ніж описати портал як «конфіденційну інформацію Medicare, пов’язану з даними та статистикою, такою як витрати».
Австралійське управління сигналів, агентство з розвідки та кібербезпеки, розслідує інцидент. Альбанезе сказав, що наразі уряд вважає, що жодна з інших його систем не була зламана і що агенти OpenAI не мали доступу до особистих даних.
Прем’єр-міністр назвав ситуацію “абсолютно неприйнятною” і сказав, що він розмовляв з генеральним директором OpenAI Семом Альтманом, який також бере участь у засіданнях ООН, “щоб висловити серйозну стурбованість Австралії цим інцидентом”.
Альбанезе також «висловив своє розчарування тим, що компанія так довго сповіщала уряд про інцидент. Характер повідомлення також був неприйнятним».
OpenAI сказав зареєструватися він виявив інцидент під час огляду «неналежної поведінки», оприлюдненого минулого тижня, що спонукало його повідомити про шість випадків, коли його агенти поводилися несподівано та/або небезпечно.
«Під час цього огляду ми виявили діяльність, пов’язану з кількома урядовими веб-сайтами та службами Австралії, оскільки наші моделі намагалися знайти відповіді та доступну статистику для запитань про Австралію під час внутрішньої оцінки», — сказав представник OpenAI. зареєструватися електронною поштою. «У процесі наші моделі робили те, чого ми не збиралися».
“Дані, до яких було отримано доступ, включають загальну статистику здоров’я та внутрішні імена файлів”, – сказав речник.
OpenAI каже, що інцидент стався в червні, а 10 вересня він повідомив про це уряд Австралії.
«Тим часом ми проводили розслідування та досліджували докази та інформацію, яку ми отримали», — сказав речник. зареєструватися.
Ми звернулися до OpenAI для отримання додаткової інформації про інцидент і оновимо цю історію, якщо отримаємо відповідь.
Незрозуміло, чому Олбан чекав два тижні, щоб розкрити інцидент, але напередодні засідання ООН Австралія підписала заклик контролювати моделі кордону ШІ, пропозицію 21 країни щодо регулювання ШІ. Прем’єр-міністр також використає свій візит до ООН, щоб подати заявку Австралії на отримання місця непостійного члена Ради Безпеки ООН.
Компанії зі штучним інтелектом знайшли гроші на центри обробки даних, електроенергію та чіпи Nvidia, але не мають наміру платити за креативний контент
Австралія використала засідання ООН минулого року, щоб наполягати на забороні соціальних медіа для дітей до 16 років. Очікується, що на цьогорічних слуханнях Олбан обговорить запропонований урядом цифровий обов’язок піклуватися про технологічні платформи, який вимагатиме від технологічних компаній уникати передбачуваної шкоди для користувачів.
Прем’єр-міністр бачить прийняття Big Tech із жорсткими правилами як політичну перемогу та часто пов’язує дії уряду зі зменшенням ймовірності самоушкодження. Він часто використовує фразу «ми повинні формувати технологію, а не дозволяти їй формувати нас», щоб підсумувати політику свого уряду.
Кожен австралієць має обліковий запис Medicare, ця схема є популярною та є типовою політикою Лейбористської партії Олбані.
Тому дії OpenAI дають прем’єр-міністру зброю, оскільки він виступає за посилення регулювання технологічних компаній.
Albanese намагається прийняти ці правила, не боячись інвестицій. Він переміг минулого тижня, коли Anthropic вирішила стати довгостроковим орендарем кластера центру обробки даних потужністю 1,4 ГВт, який зараз будується.
Однак прем’єр-міністра зазнали критики, що він може пом’якшити закони Австралії про авторське право, щоб залучити інвестиції. В Австралії немає винятків щодо добросовісного використання, на які покладалися компанії штучного інтелекту, щоб викинути вміст в інші юрисдикції. Альбанезе сказав, що будь-які зміни до законодавства про авторське право включатимуть два принципи: творці «матимуть контроль над своєю інтелектуальною власністю» і «будь-яке використання має бути монетизованим», але не уточнив, що це означатиме.
APRA AMCOS, організація, яка представляє австралійських композиторів і музикантів, минулого тижня розкритикувала підхід компаній штучного інтелекту до збору даних про навчання.
«Вони знайшли гроші майже для кожної лобістської фірми в Канберрі. Вони знайшли гроші на центри обробки даних, електроенергію та чіпи Nvidia», — написав генеральний директор Дін Ормстон. “Але вони не мають наміру платити за один із найважливіших компонентів вивчення та використання транскордонної мовної моделі, яким є творчий контент. І вони хочуть мати не лише австралійську ІВ. Це австралійська та світова ІР, яку тут викладають у центрах обробки даних без ліцензійної угоди». ®
