безпеки
Китайські ентузіасти ШІ захищаються після того, як інженер підкреслив недоліки безпеки Grok
Китайський гігант штучного інтелекту Z.ai вибачився після того, як розробники помітили, що він витягує Grok, пакує та завантажує робочі області користувачів у хмарне сховище.
У ситуації, що нагадує проблеми, які обговорювали в липні xAI Ілона Маска, крило Z.ai для генерації коду, ZCode, було виявлено, що упаковує та кодує весь робочий простір користувача, включаючи повну історію проекту, і передає їх у хмару Alibaba.
Що ще гірше, секретний ключ, який використовувався для розшифровки даних, зберігався лише на сервері під контролем Z.ai, тобто користувачі не могли отримати доступ або видалити файли, завантажені ZCode.
Ферстар, дослідник, який першим висвітлив цю проблему, стверджував, що користувачі не можуть вимкнути поведінку у своїх налаштуваннях і що в політиці конфіденційності ZCode не було розголошення досвіду.
Вони сказали, що справжня проблема з функціональністю Repository Index полягала в тому, що інструмент спричиняв завантаження файлів у хмару після створення сторінок Repo Wiki.
У понеділок ZCode випустив заяву, в якій вибачився за «проблеми з безпекою» та підтвердив, що завантажені ним дані ніколи не використовувалися для навчання його моделей.
«Ми щиро дякуємо розробникам із спільноти, які раніше виявили проблеми в ZCode. У майбутньому ми запровадимо безперервне звітування про вразливості продукту та процес реагування на вразливості продукту», — Xeeted.
«Ми запрошуємо розробників продовжувати перегляд ZCode і повідомляти про потенційні проблеми, і ми винагороджуватимемо залежно від серйозності повідомлених проблем».
ZCode повідомила, що доручила Китайській академії інформаційно-комунікаційних технологій (CAICT) і пекінській охоронній фірмі NSFOCUS дослідити її продукти після змін у реалізації.
Компанія стверджувала, що дві зовнішні оцінки дійшли висновку, що всі раніше завантажені дані тепер видалено, і заявила, що функцію Repo Wiki було видалено.
ZCode також відкрив увесь проект на GitHub, «передавши код під контроль спільноти та зробивши ZCode більш відкритим і прозорим».
«Ще раз приносимо щирі вибачення та вітаємо постійний контроль спільноти. Повний звіт про оцінку безпеки буде опубліковано незабаром».
Ферстар підтвердив, що відкритий вихідний код не демонструє ознак того, що Repo Wiki все ще реалізується, але розкритикував компанію за видалення записів комітів і вихідного коду ZCode, який використовувався для завантаження файлів перед виправленням.
Для непосвячених: Z.ai, раніше відома на міжнародному рівні як Jipu, є однією з найбільших AI-важковаговиків у світі та однією з найбільш орієнтованих на LLM компаній у Китаї.
Це перша компанія зі штучного інтелекту в епоху після покоління штучного інтелекту, яка запустила, а згодом IPO на Гонконзькій фондовій біржі. Інші китайські гіганти штучного інтелекту продаються на біржі, такі як Alibaba та Baidu, але всі вони були засновані до початку ери штучного інтелекту.
Z.ai – це стартап, що має коріння в академічних дослідженнях. Він виник у дослідницькій лабораторії Інженерного інституту Університету Цінхуа в 2019 році і зараз розробляє моделі штучного інтелекту, які, за їх словами, можуть конкурувати з найкращими на Заході.
Минулого місяця компанія заявила, що її остання модель, GLM-5.3, так само хороша, як і передовий еквівалент, розроблений Anthropic і OpenAI для пошуку вразливостей безпеки.
Z.ai також раніше стверджував, що розробив першу флагманську модель повністю на китайському (Huawei) обладнанні.
Тим часом, як повідомляється, такі компанії, як Anthropic і OpenAI, висловили стурбованість потенціалом моделей Z.AI і Moonshot, а уряд США розглядає можливість обмеження доступу. ®
