У середу Bloomberg повідомив, що в середу (23 вересня) керівники конкуруючих лабораторій штучного інтелекту Anthropic і OpenAI погодилися, що існують глобальні стандарти для вирішення потенційних ризиків навколо ШІ, і що як уряди, так і промисловість повинні брати участь у прийнятті рішень щодо технології.
Згідно зі звітом, Даріо Амодей з Anthropic і Сем Альтман з OpenAI виступили на засіданні Ради Безпеки Організації Об’єднаних Націй, присвяченому проблемам ШІ.
Амодей розповів на зустрічі через відеоканал, що штучний інтелект має потенційні переваги для науки та здоров’я, але також створює потенційні ризики, включаючи ймовірність того, що ця технологія може допомогти терористам розробити біологічну зброю, або що моделі ШІ можуть стати надто потужними, щоб їх розробники могли контролювати їх.
Ми хочемо бути вашим улюбленим джерелом новин.
Будь ласка, додайте нас до свого списку бажаних джерел, щоб наші новини, інформація та інтерв’ю з’являлися у вашій стрічці. спасибі!
Згідно зі звітом, під час виступу в Раді Безпеки Альтман сказав, що існує потреба в швидкому звітуванні про інциденти, а також у глобальних угодах щодо гарантій і контролю.
Згідно зі стенограмою виступу Олтмана перед Радою Безпеки, опублікованою OpenAI, Олтман сказав: «Звичайно, ці стандарти не повинні надавати перевагу одній бізнес-моделі та одній бізнес-моделі. Вони повинні підтримувати розробників відкритих і закритих моделей, нових учасників і вже створені лабораторії, національні органи влади та міжнародну співпрацю».
Відповідно до звіту Bloomberg, генеральний директор Hugging Face Клемент Деланж, чию компанію зламали агенти шахрайства зі штучним інтелектом OpenAI, виступив перед Радою безпеки і заявив, що рішення щодо майбутнього ШІ не повинні ґрунтуватися на страху. Деланг сказав, що хоча Hugging Face зазнав атаки агентів ШІ, компанія також захистила себе за допомогою ШІ.
Bloomberg також повідомив у середу, що в інтерв’ю Bloomberg Television президент Microsoft Бред Сміт сказав, що Microsoft підтримує використання незалежних оцінок для штучного інтелекту та що компанія підтримує тихий перехід, який дозволяє людям зберігати контроль над передовими системами.
Тим часом, останніми днями губернатор Нью-Йорка оголосив графік впровадження закону штату про безпеку ШІ; OpenAI заявив, що найме сторонніх спостерігачів для контролю за ризиками ШІ; Генеральний секретар ООН закликає світових лідерів розробити запобіжні заходи ШІ; і губернатор Каліфорнії наказав штату скликати національних експертів, щоб допомогти йому посилити закони про безпеку ШІ.
Щоб отримати все покриття PYMNTS AI, підпишіться на Daily Вісник АІ.
