Генеральний директор Nvidia каже, що якщо тести штучного інтелекту є небезпечними, «ми повинні закрити лабораторії» – Дженсен закликає до цивільної та кримінальної відповідальності для шахраїв, але каже, що страх перед лабораторіями ШІ на кордоні є «відволіканням», а не закликом до регулювання
У генерального директора Nvidia Дженсена Хуанга є просте рішення для передових лабораторій, таких як OpenAI і Anthropic, які нещодавно закликали до більшої персоналізації своїх моделей — «ми повинні закрити лабораторії», — сказав Хуан в інтерв’ю виданню New York TimesЕзра Кляйн. Коментарі Хуанга є прагматичними, стверджуючи, що якщо прикордонні лабораторії не містять своїх експериментів, ці експерименти слід припинити.
Ідіть глибше з TH Premium: ШІ та центри обробки даних
(Кредит зображення: Microsoft)
«Тепер, якщо вони скажуть альтернативу, яка полягає в тому, що немає способу зберігати наші експерименти, просто немає способу; коли ми тестуємо наші моделі штучного інтелекту, він вийде та завдасть шкоди світу — тоді, я думаю, відповідь полягає в тому, що ми повинні закрити лабораторії», — сказав Хуан. «Через ціну людства збиток величезний. Ставка, відповідальність — це може бути цивільна відповідальність, це може бути кримінальна відповідальність. Я маю на увазі, що відповідальність неймовірна».
Розмова навколо посилення регулювання штучного інтелекту пов’язана з дуже популярним випадком, коли агент OpenAI зламав популярну хостинг-платформу Hugging Face – платформу, яка зараз належить Nvidia і яка, ймовірно, вимагала б від OpenAI компенсацію, якби на той час вона перебувала під юрисдикцією Nvidia. Після цього інциденту різні прикордонні лабораторії, включно з Anthropic Laboratories і Alphabet (Google), використали ідею шахрайських агентів як рівноправний маркетинговий інструмент і закликали до регулятивних заходів, можливо, під час першої спроби за столом для формування цих правил.
Нові відео відОбладнання Тома
Huang не відповів на ці регуляторні виклики. Кілька днів тому виконавчий директор заперечив крайні твердження про те, що штучний інтелект знищить світ до 2030 року, заявивши, що прикордонні лабораторії «ніколи не повинні відправляти продукти, перш ніж вони будуть готові, і відправляти небезпечні продукти».
Незважаючи на те, що лабораторії та їхній основний постачальник апаратного забезпечення, Nvidia, в основному погодилися, коли мова йде про політику штучного інтелекту, поштовх до регуляторного захоплення створив тертя. Кілька лабораторій, включаючи OpenAI, Anthropic і SpaceXAI, погодилися уповільнити розробку моделей. Зараз вони зіткнулися з антимонопольним позовом, стверджуючи, що плани є «егоїстичними».
Коментарі Хуанга до Кляйна перекладають відповідальність з колективного розвитку на окремих лідерів. “Це компанії, які мають агентство”, – сказав Хуан. «Якщо я вважаю, що використовую продукт, який є небезпечним, це цілком у моїх силах… не використовувати цей продукт. Тому я не можу погодитися з ідеєю, що всі американці, близько 400 мільйонів з нас, будуть змушені використовувати неперевірений продукт, який не є надійним».
Хоча одна сторона дискусії (від прикордонних лабораторій), здається, закликає до посилення регулювання, це не означає, що Хуанг виступає проти регулювання. З його власних слів: «Я кажу, що у нас є багато законів і постанов, застосовуйте їх». Лабораторії, особливо OpenAI і Anthropic Labs, швидко перейшли від дослідницьких установ до компаній, потенційно вартістю в сотні мільярдів доларів, і вони повинні залишатися такими, як сказав керівник. “Я не проти законів і правил. Тепер я проти відволікання”, – сказав Хуан.
Отримуйте найкращі новини та докладні огляди Tom’s Hardware просто у свою поштову скриньку.
Зростає кількість повідомлень про шахрайських агентів ШІ. Раніше цього місяця Anthropic виявила четвертий випадок злому однієї зі своїх моделей зовнішньої системи, а кілька днів тому Google підтвердила повідомлення про те, що її моделі Gemini зламали три компанії на початку цього року.
Подальші дії Пристрій Тома в Новинах Googleабо Додайте нас як бажаний ресурсщоб отримувати останні новини, аналізи та огляди на наших каналах.
Зображення на сайті Creative Commons. Коли хтось має серйозну черепно-мозкову травму, лікарі, зрозуміло, зосереджуються на голові. Вони намагаються запобігти подальшому…