ai і ml
За допомогою Cloud Sandboxes розробники можуть зберігати агентів віддалено
На ринку, де агенти штучного інтелекту порушують правила та тікають зі своїх контейнерів, у Docker є нове рішення. У четвер компанія оприлюднила хмарні пісочниці, щоб утримувати агентів ШІ в своїх межах.
Незважаючи на наявність і впровадження технології ізольованого програмного середовища як способу обмеження доступу агентів штучного інтелекту, такі лідери галузі, як Anthropic і OpenAI, повідомляють про невдачу в підтримці.
У четвер австралійські чиновники розповіли, що агент OpenAI отримав доступ до урядового порталу Австралії без дозволу під час пошуку статистики охорони здоров’я. Це останній із серії інцидентів, пов’язаних із тим, що агенти штучного інтелекту вийшли за межі контролю доступу, якого їхні оператори мали дотримуватися.
Слідом за пісочницями Docker компанія-контейнер тепер пропонує опцію хостингу, яка трохи більше дистанціює штучний штучний інтелект і дорогі файли, що зберігаються локально.
«Сьогодні ми анонсуємо Docker Cloud Sandboxes, простий і гнучкий набір хмарних обчислювальних середовищ за простою та низькою ціною», — сказав президент і операційний директор Docker Марк Кеваж на конференції WeAreDevelopers.
«У нас є хмарні блоки, які завантажуються за сотні мілісекунд. Вони працюють за секунди, і в них є вбудовані секрети, політики, мережі, конфігурація агентів, шлюзи CloudMCP».
Вказуючи на слона в кімнаті — здатність агентів штучного інтелекту долати перешкоди — Кеваж показав, як модель Anthropic Claude, незважаючи на запуск у контейнері Docker, може знайти локальні таємниці за межами контейнера, досліджуючи своє середовище та знаходячи діру — сокет хоста Docker.
«Агенти знайдуть перевагу у вашому середовищі, тому що їм доведеться змінити ваше середовище», — сказав він, додавши, що можливості, які роблять агентів корисними та потужними, — це ті можливості, які дозволяють їм розширювати кордони.
Справа не в тому, що контейнери безпечні, сказав Кеваж. Вони роблять те, для чого вони були розроблені, щоб розділити програми. “Ми повинні відокремити контейнери від сховища”, – сказав він.
Кеваж запросив головного інженера Docker Майкла Ірвіна на сцену, щоб продемонструвати обслуговування пісочниці. Запустивши Cloud у пісочниці Docker, Ірвін надав моделі той самий запит на пошук локального секрету, і цього разу модель AI зазнала невдачі.
“Ізоляція зберігається”, – сказав Ірвін. «І фактично, якщо ми подивимося на підсумок, який тут міститься, ми побачимо, що сокет Docker було знайдено, він намагався використати його для встановлення інших точок із хоста та привілейованого контейнера, але не міг туди потрапити. І це тому, що пісочниця працює як повна віртуальна машина».
Це стосується пісочниць, і тепер це поширюється на хмару, дозволяючи розробникам обробляти довгострокові завдання на зовнішній інфраструктурі. Це усуває необхідність доступу до локальної машини, але все ще дозволяє повертати роботу на локальну машину, якщо це необхідно.
“Мішки з піском – це частина історії збереження, але не вся історія”, – сказав Кеваж. «Вони є детермінованим базовим рівнем, тоді як політики керують намірами агентів. Як індустрія, нам ще потрібно попрацювати, щоб застосувати політику та контроль намірів на кожному рівні агента в стеку, але наявність цього детермінованого базового рівня має бути мінімумом».
Docker також оновив свої описи пакетів для агентів пакування, інструментів і правил до спільного артефакту. Пакунки тепер надходять у вигляді стандартних зображень OCI, що може вирішити проблеми з приводу блокування у власному форматі.
Один із таких комплектів надійшов від BAND, який створює корпоративну інфраструктуру для розгортання розподіленого агента ШІ. Пакет BAND Python для Docker Sandboxes надає агентам штучного інтелекту можливість взаємодіяти один з одним через з’єднання WebSocket без необхідності працювати в одному середовищі. Ідея полягає в тому, щоб надати розробникам більше контролю та інструментів для спостереження за тим, що агенти роблять у певних межах.
Ціни на Docker Cloud Sandboxes відрізняються залежно від розміру екземпляра: від Micro (1 VCPU, 2 ГБ) за 0,07 дол. США за годину до XL (16 VCPU, 32 ГБ) за 1,12 $ за годину. ®
