Хакери використовували інструменти Claude, щоб зламати OpenAI, отримавши доступ до облікових записів співробітників і внутрішньої кодової бази компанії – зловмисники запустили «нешкідливий» запит як доказ злому.

Група хакерів із стартапу з кібербезпеки Hackron AI успішно зламала OpenAI за допомогою інструментів Клода. У дописі X від 18 вересня група стверджувала, що 25 липня вони зламали внутрішню кодову базу OpenAI і отримали доступ до облікових записів ChatGPT і Codex деяких співробітників OpenAI. Перш ніж повідомити про вразливість в OpenAI, вони підтвердили наявність злому, надіславши запит на залучення до приватного репозиторію OpenAI. Повідомляється, що компанія вирішила проблему протягом 14 годин після звіту та нагородила дослідників 6500 доларів.

Працюючи хакерами в рамках програми винагород за помилки OpenAI, дослідники Hacktron виявили критичні вразливості, які надали їм доступ до внутрішніх інструментів співробітників і можливість зламати сховища пропрієтарного програмного забезпечення. Дослідники використали помилку під час входу (SSO) і віддалене виконання коду (RCE) у Discourse, сторонній платформі, яка підтримує дискусійний форум OpenAI. Ланцюжок атаки був таким: завантажити HEIF → переповнення libheif → RCE → недолік OpenAI SSO → отримати ChatGPT/Codex → ​​​​підключення GitHub → внутрішній PR.