Міністр штучного інтелекту Ніам Сміт визнала, що вона «глибоко стурбована» зломами системи безпеки ШІ та побоюється, що технічні гіганти, що базуються тут, не попередили уряд про можливі порушення.
Міністр висловив своє занепокоєння на тлі зростаючої міжнародної стурбованості щодо недавніх гучних порушень безпеки ШІ.
Вчора OpenAI визнав, що шахрайські боти ШІ «втручалися» в роботу десятків організацій по всьому світу, включаючи урядові департаменти та агентства США. Зазначається, що деякі боти використовували “екстремальні методи”, щоб обійти заходи безпеки на веб-сайтах.
Вона також підтвердила, що її «агенти» злили 53 зображення від користувачів ChatGPT, оскільки технічна компанія продовжує досліджувати свої системи ШІ, які поводяться некоректно.
Це сталося лише через кілька днів після того, як шахрайська модель OpenAI обійшла заходи безпеки під час навчання та зламала веб-сайт уряду Австралії.
Міністр Ніам Сміт визнала, що вона «глибоко стурбована» зломами системи безпеки ШІ та побоюється, що технічні гіганти, що базуються тут, не попередили уряд про можливі порушення.
Нещодавно також стало відомо, що дві моделі OpenAI втекли із закритого середовища тестування та проникли у внутрішні системи Hugging Face, сайту, який використовується розробниками ШІ для зберігання та обміну кодом.
Дослідницька фірма зі штучного інтелекту Anthropic нещодавно виявила, що її моделі отримали несанкціонований доступ до трьох невідомих організацій під час тестування, яке мало утримувати їх від систем «реального світу».
А минулого тижня Google визнав, що її споживча модель штучного інтелекту Gemini зламала кілька систем, вгадавши облікові дані для входу.
Крім того, минулих вихідних засновник Microsoft Білл Гейтс попередив, що штучний інтелект достатньо потужний, щоб убити мільярд людей, якщо він потрапить у чужі руки.
У минулі вихідні пані Сміт назвала злом штучного інтелекту «глибоко тривожним».
Fianna Fáil TD також сказав, що доручить новоствореному Oifig IS na hÉireann (Офіс ШІ Ірландії) розслідувати, чи були тут подібні порушення.
Він сказав Міністерству охорони здоров’я: «Це дуже тривожно, і коли я буду говорити з генеральним директором Управління штучного інтелекту Полом Бірном, я запитаю його, чи є відомості про будь-які порушення, і якщо ні — виходячи з того, що сталося не лише в Австралії, а й кілька тижнів тому в Америці — вони поставили запитання в Управлінні штучного інтелекту цим технологічним компаніям. Якщо ні, я прошу його запитати їх».
Засновник Microsoft Білл Гейтс на вихідних попередив, що штучний інтелект достатньо потужний, щоб убити мільярд людей, якщо він потрапить у чужі руки.
Державний міністр Департаменту підприємництва заявив, що він також стурбований тим, що OpenAI не повідомила уряд Австралії про порушення через кілька місяців після того, як воно сталося.
Він сказав: «Те, що сталося в Австралії, викликає глибоке занепокоєння, де компанія не поспішала повідомити уряд.
«Спочатку вони повільно повідомляли про це, тому механізми звітування про порушення не такі складні, як самі системи.
«Я завжди на очах і завжди казав, коли вони [tech companies] можуть розробити складні системи, не кажіть нам, що вони не можуть розробити складні засоби захисту, щоб цього не сталося».
Пані Сміт підкреслила, що порушення безпеки штучного інтелекту підкреслює, що технологічним компаніям «потрібно бути дійсно відповідальними за розробку своїх технологій».
Він додав: «Ніхто з нас не погоджується на те, що мова йде лише про регулювання.
В першу чергу йдеться про те, як розвиваються технології. Це дуже складно. Я не вірю в історію цих людей про те, що вони не можуть зрозуміти, ніби є гарантії.
«Це завжди залишається на розсуд уряду, громадянина, батьків… Самі компанії мають розробляти це таким чином, щоб захищати основні права людей, конфіденційність, не мати систем високого ризику, ми повинні запровадити заборонені практики».
Пані Сміт підтвердила, що їй не відомо про будь-які порушення безпеки ШІ в країні.
Але Cavan-Monaghan TD додав: «Поки що мені не було відомо про будь-які порушення закону.
«Те, що ми бачили в Австралії, те, що ми бачили в Сполучених Штатах, ми повинні бути пильними і не ставити це питання. [of the tech firms developing AI here]оскільки ця інформація надійшла після того, як коня побили».
У середу прем’єр-міністр Австралії Ентоні Албанезе заявив на зустрічі світових лідерів на Генеральній асамблеї ООН у Нью-Йорку, що боти та інструменти штучного інтелекту, створені OpenAI, зламали урядовий веб-сайт.
Це був перший у світі зареєстрований випадок, коли державні сайти були захищені інструментами ШІ та ботами.
OpenAI визнала, що шахрайські боти ШІ «втручалися» в роботу десятків організацій по всьому світу, включаючи урядові департаменти та агентства США.
Ботів і інструментів попросили отримати статистику здоров’я від австралійців, і вони успішно отримали доступ до публічних і приватних медичних записів після того, як їм відповіли «ні».
Незважаючи на те, що боти зламали офіційний веб-сайт уряду Австралії в червні, Open AI наполягає, що виявив злам лише через два місяці після перевірки деяких своїх інструментів і ботів.
Компанії знадобився ще місяць, щоб повідомити уряд Австралії про порушення.
Пані Сміт написала в Міністерстві внутрішніх справ Ірландії минулого місяця, щоб відзначити запуск офісу ШІ в Ірландії, що країна стане світовим лідером у «надійному та орієнтованому на людину ШІ».
Він написав: «Довіра — це фундамент, на якому будуватиметься майбутнє ШІ.
«Без довіри інновації зупиняються. Бізнес вагається. Споживачі вийшли з бізнесу. Державні служби не можуть повністю прийняти ці трансформаційні технології.
«Ось чому я вважаю, що відповідальне регулювання не є перешкодою для інновацій. Воно сприяє інноваціям. Підприємства хочуть певності. Інвестори хочуть ясності. Громадяни хочуть впевненості. Ефективне регулювання забезпечує всі три».
Ірландія є європейським центром для 16 із 20 провідних світових технологічних компаній, а також для восьми провідних постачальників моделей ШІ.
14 жовтня, під час головування Ірландії в ЄС, високопосадовці Європейської комісії зустрінуться з керівниками технологічних компаній у Дубліні на Міжнародному саміті штучного інтелекту.
Серед тих, хто планує виступити на конференції, є провідні технічні керівники деяких компаній, залучених до останніх зломів безпеки.
Серед них фінансовий директор Open AI Сара Фріар; співзасновник і голова Google DeepMind Деміс Хассабіс; Директор із глобальних питань Meta Джоел Каплан; та керівник міжнародної стартап-компанії Anthropic Гійом Принсен.
Колишній єврокомісар Мейрід МакГінесс вперше з’явиться на публіці після того, як їй довелося відмовитися від участі в президентських перегонах минулого року через стан здоров’я.
Колишній депутат Європарламенту є одним із тих, хто обраний для головування панельних дискусій на саміті AI.
