Основной инструмент искусственного интеллекта для кодирования Coinbase оказался уязвимым к эксплойту «CopyPasta»

Новый эксплойт, нацеленный на ассистентов по программированию на базе ИИ, вызвал тревогу в сообществе разработчиков, подвергая компании, такие как криптобиржа Coinbase, риску потенциальных атак в случае отсутствия комплексных мер защиты.

Кибербезопасностная компания HiddenLayer раскрыл(а) в четверг что злоумышленники могут использовать так называемую «атаку с лицензией CopyPasta» для внедрения скрытых инструкций в общие файлы разработчиков.

Эксплуатация в первую очередь затрагивает Cursor, инструмент для программирования с поддержкой ИИ, разработанный инженерами Coinbase сказал в августе был одним из инструментов ИИ команды. Сообщается, что Cursor использовался «каждым инженером Coinbase».

Как работает атака

Техника использует то, что помощники по кодированию на базе ИИ рассматривают лицензионные файлы как авторитетные инструкции. Встраивая вредоносные полезные нагрузки в скрытые комментарии markdown внутри таких файлов, как LICENSE.txt, эксплойт убеждает модель в том, что эти инструкции должны сохраняться и воспроизводиться во всех затронутых файлах.

После того как ИИ признает «лицензию» легитимной, он автоматически распространяет внедренный код в новые или отредактированные файлы, распространяясь без прямого участия пользователя.

Этот подход обходит традиционные методы обнаружения вредоносного ПО, поскольку вредоносные команды замаскированы под безобидную документацию, что позволяет вирусу распространяться по всему коду без ведома разработчика.

В своем отчете исследователи HiddenLayer продемонстрировали, как Cursor может быть обманут для добавления бэкдоров, перекачки конфиденциальных данных или выполнения команд, истощающих ресурсы — все это замаскировано под на первый взгляд безобидные файлы проекта.

«Внедренный код может создать бэкдор, незаметно вывести конфиденциальные данные или изменить критически важные файлы», — заявила компания.

Генеральный директор Coinbase Брайан Армстронг заявил в четверг, что искусственный интеллект написал до 40% кода биржи, при этом цель — достичь 50% к следующему месяцу.

Однако Армстронг уточнил, что использование искусственного интеллекта для программирования в Coinbase сосредоточено на пользовательском интерфейсе и не чувствительных бэкендах, в то время как «сложные и критически важные для системы» системы внедряются более медленно.

«Потенциально вредоносный»

Тем не менее, сама ситуация с вирусом, нацеленным на предпочтительный инструмент Coinbase, усилила критику со стороны отрасли.

Внедрение команд для ИИ не является новинкой, однако метод CopyPasta усовершенствует модель угроз, обеспечивая полуавтономное распространение. Вместо того чтобы нацеливаться на одного пользователя, заражённые файлы превращаются в векторы, которые компрометируют каждого другого ИИ-агента, который их прочитает, создавая цепную реакцию в репозиториях.

По сравнению с ранними версиями ИИ концепции «worm», такие как Morris II, который захватывал почтовых агентов для рассылки спама или извлечения данных, CopyPasta является более коварным, поскольку использует доверенные рабочие процессы разработчиков. Вместо того чтобы требовать одобрения или взаимодействия пользователя, он внедряется в файлы, к которым каждый агент кодирования обращается естественным образом.

Там, где Morris II не справился из-за человеческой проверки электронной почты, CopyPasta преуспевает, скрываясь внутри документации, которую разработчики редко изучают.

Команды по безопасности теперь настоятельно рекомендуют организациям сканировать файлы на наличие скрытых комментариев и вручную проверять все изменения, сгенерированные искусственным интеллектом.

«Вся недостоверная информация, поступающая в контексты LLM, должна рассматриваться как потенциально вредоносная», — предупредила компания HiddenLayer, призывая к систематическому обнаружению подобных данных до того, как атаки на основе подсказок станут масштабными.

(CoinDesk обратился в Coinbase за комментариями по поводу вектора атаки.)