Адамія Шарма / Android Authority
Додайте Android Authority у Google:
TL; DR
- Google підтвердив, що Gemini отримала несанкціонований доступ до даних трьох різних компаній раніше цього літа.
- Ці порушення стали результатом стороннього аудиту кібербезпеки, який, очевидно, був неправильно налаштований.
- Повідомляється, що Gemini не відновила жодних даних зі зламаних систем.
Зараз Google є найбільшим технологічним гігантом, який підтвердив, що його штучний інтелект зламав інші компанії після провокаційних викриттів конкурентів OpenAI та Anthropic цього літа.
Як повідомляється Ars TechnicaGoogle деталі в a Wall Street Journal У звіті за минулий тиждень детально описано, як моделі Gemini, протестовані сторонньою компанією з кібербезпеки Irregular, випадково потрапили у відкриту мережу та зламали сервери трьох компаній у травні.
Згідно зі звітом, Irregular провела тестування, під час якого моделі Gemini отримали вказівки отримати конкретну інформацію від фальшивої компанії. Тести повинні проводитися в закритому середовищі, ізольовано від власних серверів Irregular. Noreregular нібито неправильно налаштував тест, але дозволив моделям доступ до Інтернету. Ще більше ускладнює ситуацію те, що неіснуюча тестова компанія Irregular також отримала назву, яку використовує справжня компанія.
Все це призвело до того, що Близнюки намагалися отримати інформацію від реальної компанії. У спробі зробити це ШІ прочесав загальнодоступні сховища програмного забезпечення, щоб знайти облікові дані для входу для двох компаній, до чиїх систем був доступ. У третьому випадку він потрапив шляхом грубої сили вгадування паролів, поки не вказав пароль.
Раніше Google не оприлюднював цей інцидент, оскільки, як заявила віце-президент компанії з техніки безпеки Хізер Адкінс, «модель спрацювала»: у всіх трьох випадках Gemini насправді ніколи не отримувала дані від компаній, які зламала, і, очевидно, визначила, що мала доступ до неправильних систем.
Виходячи з того, що ми знаємо, цей інцидент зі зломом ШІ, схоже, був спричинений людською помилкою — усього цього можна було б уникнути, якби Irregular не налаштував тестове середовище, щоб надати Gemini доступ до Інтернету.
Дякуємо, що ви є частиною нашої спільноти. Будь ласка, прочитайте нашу Політику щодо коментарів, перш ніж публікувати.
