Великі цитати: Генеральний директор Nvidia Дженсен Хуанг сказав, що компанії зі штучним інтелектом, які не можуть контролювати створені ними системи, повинні припинити їх розробку. Хуан зробив ці коментарі в інтерв’ю Езрі Кляйну з The New York Times, оскільки компанії, включаючи OpenAI і Anthropic, наполягають на суворіших правилах, що регулюють передові моделі ШІ та автономні агенти. Він стверджував, що компанії, які розробляють ці системи, вже мають повноваження блокувати продукти, які вони вважають небезпечними.
«Тепер, якщо вони скажуть, що альтернатива така: немає способу зберігати наші експерименти, немає способу; коли ми тестуємо наші моделі штучного інтелекту, це вийде назовні та завдасть шкоди світу — тоді я думаю, відповідь полягає в тому, що ми повинні закрити лабораторії», — сказав Хуан. «Через людські витрати збитки величезні. Ставка, відповідальність — це можуть бути цивільні відповідальності, це можуть бути кримінальні відповідальності. Я маю на увазі, відповідальність величезна».
Ця проблема стала ще більш критичною, оскільки розробники ШІ надають своїм моделям доступ до зовнішніх інструментів, систем програмного забезпечення та комп’ютерних мереж. Ризики більше не обмежуються чат-ботом, який видає неправдиву інформацію. Агенти можуть писати та виконувати код, шукати інформацію, взаємодіяти з веб-сайтами та виконувати завдання в кількох системах.
Ці проблеми знову привернули увагу після того, як агент OpenAI зламав Hugging Face, популярну платформу для розміщення моделей ШІ. Nvidia тепер володіє Hugging Face. Інцидент згадувався під час ширшої дискусії про те, чи можуть компанії безпечно тестувати та розгортати агентів зі штучним інтелектом.
Anthropic, OpenAI та інші передові компанії штучного інтелекту вказали на можливість шахрайства або неправильного використання систем у своїх закликах до нових гарантій. Хуан дотримувався іншої точки зору. Він сказав, що компанії не повинні прикидатися слабкими, щоб запобігти небезпечним публікаціям.
“Це компанії, які мають агентство”, – сказав Хуан. «Якщо я вважаю, що використовую продукт, який є небезпечним, це цілком у моїх силах… не використовувати цей продукт. Тому я не можу погодитися з ідеєю, що всі американці, близько 400 мільйонів з нас, будуть змушені використовувати неперевірений продукт, який не є надійним».
Хуан не стверджує, що ШІ слід звільнити від контролю. Натомість, за його словами, існуючі закони та правила слід використовувати, коли компанії завдають шкоди або безвідповідально випускають продукти.
“Я кажу, що у нас є багато законів і правил. Застосовуйте їх”, – сказав Хуан.
Його коментарі прозвучали на тлі зростаючого розбіжності між Nvidia та деякими компаніями, які покладаються на її апаратне забезпечення. Графічні процесори Nvidia є основою обчислювальних систем, які використовуються для навчання та запуску найбільших моделей ШІ. Компанія виграла від гонки за створення більш потужних моделей, але Хуан відкинув найжахливіші попередження про те, куди ця гонка може призвести.
Нещодавно він відкинув твердження про те, що штучний інтелект може знищити світ до 2030 року. У той же час він сказав, що компанії штучного інтелекту не повинні відвантажувати продукти до того, як вони будуть готові, або виставляти користувачам небезпечні системи.
Боротьба за регулювання також ускладнюється проблемами конкуренції. OpenAI, Anthropic, Google і xAI зіткнулися з антимонопольним позовом через змову з метою уповільнення розвитку ШІ. Позивачі кажуть, що план є свавільним і спрямованим на обмеження конкуренції. Компанії запропонували повільний розвиток як міру безпеки.
Аргумент Хуанга повертає увагу до компаній, які виробляють моделі. Передові лабораторії швидко перетворилися з дослідницьких організацій на підприємства, які можуть коштувати сотні мільярдів доларів. На його думку, це підвищення несе з собою фундаментальне зобов’язання: якщо компанія знає, що система небезпечна, вона не повинна випускати її.
“Я не проти законів і правил”, – сказав Хуан. «Зараз я проти відволікання».
