Президент Дональд Трамп слухає, як генеральний директор Nvidia Дженсен Хуанг говорить про інвестиції США в Білому домі 30 квітня 2025 року.Алекс Брендон/AP
У понеділок, Nvidia, багатонаціональна технологічна компанія, яка стала однією з найдорожчих компаній у світі завдяки своїй ролі в розробці мікросхем для обробки штучного інтелекту та моделювання навчання, оголосила про запуск нової платформи безпеки, яка контролюватиме та стримуватиме агентів штучного інтелекту, на тлі нещодавніх повідомлень про випадки «шахрайства штучного інтелекту», такі як злом OpenAI Hugging Facesco.
Як ми з колегами повідомляли раніше, звіти про незалежний злом моделей штучного інтелекту, що належать OpenAI та її конкурентам, викликали занепокоєння щодо мінімально регульованого сектору штучного інтелекту, хоча провідні особи, такі як генеральний директор Nvidia Дженсен Хуанг, стверджують, що контроль штучного інтелекту є «технічною проблемою», яку уряд може вирішити без державного втручання. висунув вимоги легітимізувати сторожових псів навколо того, що він тепер називає «суперінтелектом».
Nvidia каже, що її Open Agent Security Platform, яку вона запустила в понеділок разом із низкою провідних технологічних компаній і компаній зі штучним інтелектом, може ізолювати агентів, які намагаються втекти, протягом «мілісекунд». Серед партнерів компанії щодо деяких із її нових заходів безпеки — Microsoft, Palantir, SpaceXAI, JPMorganChase та Hugging Face — онлайн-форум, де користувачі можуть ділитися та створювати системи штучного інтелекту, який став предметом хакерського інциденту з OpenAI.
Nvidia каже, що її Open Agent Security Platform, яку вона запустила в понеділок разом із низкою провідних технологічних компаній і компаній зі штучним інтелектом, може ізолювати агентів, які намагаються втекти, протягом «мілісекунд». Серед партнерів компанії щодо нових заходів безпеки – Microsoft, Palantir, SpaceXAI, JPMorganChase та Hugging Face, онлайн-форум, де користувачі можуть ділитися та створювати системи штучного інтелекту, які стали предметом хакерського інциденту з OpenAI.
Але у контексті коментарів Хуана, пропозиції компанії щодо Розробка безпечного ШІ на практиці пропонується як альтернатива регуляторним діям. Ідея про те, що безпека штучного інтелекту не є проблемою для урядових установ, або що нещодавня серія випадків шахрайства з штучним інтелектом не вимагає негайних політичних дій, Це факт, що такі компанії, як OpenAI і Anthropic, можуть контролювати самі себе. Часто це поведінка самих компаній зі штучного інтелекту, а також слова та дії їхніх лідерів, які роблять саморегулювання важко продати — особливо коли громадська думка зосереджена на величезних інфраструктурних вимогах технології та слідах у повсякденному житті.
Розкриття: Центр журналістських розслідувань, материнська компанія Мати ДжонсПодав до суду на OpenAI порушення авторських прав. OpenAI заперечує звинувачення.
