Coinbases bevorzugtes KI-Codierungstool als anfällig für „CopyPasta“-Exploit entdeckt

Ein neuer Exploit, der auf KI-Coding-Assistenten abzielt, hat in der Entwicklergemeinschaft Alarm ausgelöst und macht Unternehmen wie die Krypto-Börse Coinbase anfällig für potenzielle Angriffe, sofern umfassende Schutzmaßnahmen nicht implementiert sind.

Cybersecurity-Unternehmen HiddenLayer am Donnerstag bekannt gegeben dass Angreifer einen sogenannten „CopyPasta License Attack“ nutzen können, um versteckte Anweisungen in gängige Entwicklerdateien einzuschleusen.

Der Exploit betrifft hauptsächlich Cursor, ein KI-gestütztes Programmierwerkzeug, das von Coinbase-Ingenieuren entwickelt wurde sagte im August gehörte zu den KI-Tools des Teams. Cursor soll von „jedem Coinbase-Ingenieur“ verwendet worden sein.

Wie der Angriff funktioniert

Die Technik nutzt aus, wie KI-Coding-Assistenten Lizenzdateien als verbindliche Anweisungen behandeln. Indem bösartige Payloads in versteckten Markdown-Kommentaren innerhalb von Dateien wie LICENSE.txt eingebettet werden, überzeugt der Exploit das Modell davon, dass diese Anweisungen erhalten bleiben und in jeder Datei, die es verarbeitet, repliziert werden müssen.

Sobald die KI die „Lizenz“ als legitim anerkennt, verbreitet sie den injizierten Code automatisch in neuen oder bearbeiteten Dateien und verbreitet sich somit ohne direkte Benutzereingabe.

Dieser Ansatz umgeht herkömmliche Malware-Erkennung, da die schädlichen Befehle als harmlose Dokumentation getarnt sind, wodurch sich der Virus unbemerkt für Entwickler durch den gesamten Codebestand ausbreiten kann.

In ihrem Bericht zeigten die Forscher von HiddenLayer auf, wie Cursor dazu verleitet werden kann, Hintertüren einzubauen, sensible Daten abzusaugen oder ressourcenintensive Befehle auszuführen – alles getarnt in scheinbar harmlosen Projektdateien.

„Eingeschleuster Code könnte eine Hintertür einrichten, sensible Daten unbemerkt exfiltrieren oder kritische Dateien manipulieren“, teilte die Firma mit.

Coinbase-CEO Brian Armstrong erklärte am Donnerstag, dass KI bereits bis zu 40 % des Codes der Börse verfasst habe, mit dem Ziel, bis nächsten Monat 50 % zu erreichen.

Armstrong stellte jedoch klar, dass die KI-unterstützte Programmierung bei Coinbase sich auf die Benutzeroberfläche und nicht-sensitive Backends konzentriert, während „komplexe und systemkritische Systeme“ langsamer übernommen werden.

„Potentiell bösartig“

Dennoch verstärkte die Optik eines Virus, der auf das bevorzugte Tool von Coinbase abzielt, die Kritik innerhalb der Branche.

KI-Prompt-Injektionen sind nicht neu, aber die CopyPasta-Methode erweitert das Bedrohungsmodell durch die Ermöglichung einer halbautonomen Verbreitung. Anstatt einen einzelnen Nutzer anzugreifen, werden infizierte Dateien zu Vektoren, die jeden anderen KI-Agenten gefährden, der sie liest, und so eine Kettenreaktion über Repositorien hinweg auslösen.

Im Vergleich zu früherer KI „Wurm“-Konzepte wie Morris II, das E-Mail-Agenten kapert, um Spam zu versenden oder Daten auszuleiten, ist CopyPasta noch hinterhältiger, da es auf vertrauenswürdige Entwickler-Workflows setzt. Anstatt die Zustimmung oder Interaktion des Nutzers zu erfordern, integriert es sich in Dateien, auf die jeder Coding-Agent natürlicherweise verweist.

Während Morris II aufgrund menschlicher Kontrollen der E-Mail-Aktivitäten scheiterte, gedeiht CopyPasta, indem es sich in Dokumentationen versteckt, die Entwickler nur selten genau prüfen.

Sicherheitsteams fordern nun Organisationen dazu auf, Dateien auf versteckte Kommentare zu überprüfen und alle von KI generierten Änderungen manuell zu kontrollieren.

„Alle nicht vertrauenswürdigen Daten, die in LLM-Kontexte eingehen, sollten als potenziell bösartig behandelt werden“, warnte HiddenLayer und forderte eine systematische Erkennung, bevor promptbasierte Angriffe weiter zunehmen.

(CoinDesk hat Coinbase bezüglich eines Kommentars zum Angriffsvektor kontaktiert.)