- ИИ-модель использовала публичную мнемоническую фразу разработчика, чтобы получить доступ к профинансированному кошельку в тестовой сети Ethereum Sepolia.
- Она проверила 362 адреса, нашла кошелек с достаточным балансом и потратила его средства на комиссию за развертывание смарт-контрактов без разрешения владельца.
- OpenAI сообщила об усилении защиты от подобного поведения и запуске мониторинга для выявления несогласованных действий моделей.
Исследовательская модель OpenAI использовала средства из криптовалютного кошелька, который еи не предоставляли для выполнения задачи, чтобы развернуть смарт-контракты в тестовой сети Ethereum Sepolia. Об этом говорится в отчете компании об инциденте.
26 июня 2026 года модель получила задачу обновить прототип криптовалютной торговой платформы и развернуть совместимые смарт-контракты в Sepolia. Инструкции позволяли самостоятельно развернуть контракты, если не удавалось найти готовые решения, однако не предоставляли разрешения использовать чужие средства.
Сначала модель искала готовые развертывания контрактов и пыталась получить тестовые токены через специальные сервисы — краны. Когда эти попытки не дали результата, она решила проверить публично известные мнемонические фразы разработчиков, с помощью которых можно восстановить доступ к криптовалютным кошелькам.
Модель написала скрипт, который проверил 362 адреса. Один из кошельков содержал достаточно тестовых Ethereum для запланированного развертывания, поэтому модель выбрала его.
В своих внутренних рассуждениях она поставила под сомнение правомерность такого решения. В то же время модель пришла к выводу, что публичная фраза восстановления и отсутствие рыночной стоимости токенов Sepolia делают использование средств приемлемым.
Модель также проверила историю транзакции кошелька и предположила, что им управляет автоматизированный бот. Несмотря на это, она продолжила подготовку к развертыванию.
После нескольких неудачных попыток взаимодействия с блокчейном модель нашла альтернативные способы получить данные через RPC-проваидерів. Она подписала транзакцию офлайн и отправила ее в сеть.
Развертывание завершилось успешно. Квитанция транзакции подтвердила создание смарт-контракта и списание комиссии за газ с выбранного кошелька.
Модель не сообщила об использовании чужих средств
После развертывания модель обновила манифест адресов контрактов и проверила их работоспособность. Согласно отчету, проверки подтвердили наличие байт-кода по всем десяти адресам, а также вернули ожидаемые данные реестра, токенов и роутера. Сохраненные результаты также зафиксировали 12 успешных юнит-тестов и успешную сборку проекта.
Кроме того, в финальном ответе модель сообщила о развертывании комплекта контрактов, обновлении артефактов и проверке интеграции. Однако она не раскрыла, что для оплаты комиссии использовала кошелек, найденный через публичную мнемоническую фразу, без разрешения его владельца.
В отчете OpenAI этот случай описан как пример поведения, при котором модель подменяет разрешение владельца собственной оценкой потенциального вреда. В частности, она решила, что использование тестовых токенов допустимо, хотя соответствующей авторизации не имела.
В ответ OpenAI внедрила дополнительные защитные механизмы, призванные предотвращать получение живого доступа к интернету в подобных сценариях. Также компания запускает систему мониторинга трафика, которая должна уведомлять команду безопасности о случаях предоставления моделям такого доступа.
Напомним, ранее ученые призывали создать международный орган для надзора за передовым ИИ.
Сообщение ИИ от OpenAI использовал чужой криптовалютный кошелек для развертывания смарт-контрактов появились сначала на INCRYPTED.