Der nächste Milliardendollar-Hacker im Kryptobereich könnte sich mit übermenschlicher Geschwindigkeit bewegen

Dennoch erkennt Anthropic an, dass das System wahrscheinlich nicht narrensicher sein wird und erwartet, dass entschlossene, gut finanzierte Angreifer weiterhin versuchen werden, da die Fähigkeit wertvoll ist.

„Der Mehrwert durch Mythos-Niveau-Fähigkeiten ist für viele Gegner wertvoll – beispielsweise für diejenigen, die finanziell von Cyberangriffen profitieren könnten – und wir erwarten daher, dass sie motiviert sein werden, zu versuchen, unsere Sicherheitsmaßnahmen zu umgehen“, erklärte das Unternehmen in dem Beitrag.

"... keine verlässliche Kontrolle gegen einen entschlossenen Gegner."

Die Identifizierung einer Schwachstelle bei einem Ziel ist jedoch nicht die größte Innovation, die KI in die Toolbox eines Hackers einbringt. Die entscheidende Fähigkeit ist übermenschliche Geschwindigkeit, und die in die KI-Modelle eingebrachten Einschränkungen könnten nicht stark genug sein, um dies zu überwinden.

„Die derzeitigen KI-Schutzmaßnahmen erhöhen die Reibung“, sagte Charles Guillemet, Chief Technology Officer des Hardware-Wallet-Herstellers Ledger, in einer E-Mail an CoinDesk. „Sie sind keine verlässliche Kontrollmaßnahme gegen einen entschlossenen Gegner.“

Die Veränderung betrifft weniger die Erfindung neuer Arten von Hacks durch KI, sondern vielmehr die Verkürzung der Zeit, die zu deren Erstellung benötigt wird, sagte er. Ein deduktives Modell kann „jeden Commit diffen, jede Konfiguration durchsuchen und jede Fehlkonfiguration mit maschineller Geschwindigkeit aufzählen“, wobei er sich auf Schritte im Prozess der Softwareentwicklung bezog.

Krypto ist ungewöhnlich anfällig, da ein Softwarefehler fast unmittelbar zu einem finanziellen Verlust führen kann.

Soziale Manipulation

DeFi-Protokolle haben in den ersten fünf Monaten des Jahres mehr als 840 Millionen US-Dollar durch Hacks verloren, DefiLlama-Daten zeigt. Allein der April verzeichnete mehr als 600 Millionen US-Dollar, der schlimmste Monat in der Geschichte der dezentralen Finanzbranche.

Die beiden größten Vorfälle waren jedoch keine einfachen Smart-Contract-Exploits der Art, die von KI entwickelt werden könnten.

In einem Fall entwendete eine mit Nordkorea verbundene Gruppe etwa 285 Millionen US-Dollar vom Drift Protocol nach einer sechsmonatigen Social-Engineering-Kampagne, die ihr Administratorzugang verschaffte. Im anderen Fall nutzte der Angreifer eine Einzelprüfer-Schwachstelle aus, die es ermöglichte, rund 292 Millionen US-Dollar aus dem Kelp DAO abzuzweigen.

Ein weiteres Beispiel ereignete sich am Dienstag, als das Humanity Protocol, ein dezentraler Dienst für menschliche Identitäten, aufgrund einer Kompromittierung des privaten Schlüssels über 30 Millionen US-Dollar verlor. CoinDesk stellte fest, dass ein Hacker Zugang erhalten hat auf drei von sechs privaten Schlüsseln auf dem Laptop eines Mitarbeiters,

Darin liegt das Problem. Während die offensichtlichsten Smart-Contract-Aufforderungen genau die sind, die Anthropics Filter zu erfassen versuchen, bedurften die größten Verluste keines Vertragsfehlers.

Die Angriffe, so bemerkte Guillemet von Ledger, stammen aus bekannten Schwachstellen: Social Engineering, fehlerhafte Signaturprozesse, exponierte Schlüssel und menschliches Versagen.

Ein Modell wie Fable muss keinen fertigen Exploit bereitstellen, um die Ökonomik eines Angriffs zu verändern. Es kann öffentliche Repositorien lesen, alte Softwareversionen vergleichen, Auditberichte zusammenfassen und überzeugende Nachrichten entwerfen, die nach kleinen operativen Fehlern suchen, die Menschen übersehen.

"Diese Exploits basieren weiterhin auf Social Engineering und menschlichem Versagen. "

Ein Verteidiger muss in einem solchen Umfeld jeden Schlüsselpfad, jede Abhängigkeit, jeden Signiervorgang und jedes privilegierte Konto absichern. Da KI die Erkundungsphase beschleunigt, wird der letzte Signierschritt umso wichtiger. Private Schlüssel müssen an einem Ort aufbewahrt werden, den ein kompromittierter Laptop nicht erreichen kann, und die Nutzer benötigen einen vertrauenswürdigen Bildschirm, der anzeigt, was sie tatsächlich genehmigen.

"Nennen Sie es beim Namen: Diese Angriffe basieren nach wie vor auf Social Engineering und menschlichem Versagen. KI hat diese Realität nicht erschaffen. Sie hat sie sichtbar gemacht und auf Maschinengeschwindigkeit beschleunigt. Der einzige wirkliche Ausweg ist eine Hardware-Root-of-Trust: Private Schlüssel, die auf einem zertifizierten sicheren Element generiert und verwahrt werden, mit einem vertrauenswürdigen Display und klarer Signatur," sagte Guillemet.

Eine zweischneidige Klinge

Die gleichen Techniken funktionieren jedoch auch zum Schutz des Codes selbst. Pendle, ein DeFi-Yield-Protokoll, gab an, die Modelle von Anthropic defensiv seit der ersten Version von Claude Opus zu nutzen. Das Team verwendet KI, um seinen Codebestand zu kartieren und seine Verträge, einschließlich frisch implementierter, auf Belastbarkeit zu testen. Es wird angegeben, dass die Werkzeuge Fehler frühzeitig erkennen und dabei helfen, saubereren Code zu schreiben.

Smart Contracts sind nicht das, worüber man sich Sorgen machen sollte, sagten die Entwickler von Pendle in einem Interview über Telegram. Ein Smart Contract ist kurz und verfügt nur über etwa ein Dutzend Einstiegspunkte. Gute Auditoren waren schon lange in der Lage, den vollständigen Zustand eines Contracts im Kopf zu behalten und jeden Randfall zu testen.

„Es gibt wirklich nicht so viele Codezeilen in einem Smart Contract zu prüfen“, sagte das Entwicklerteam. „

Das bedeutet, dass der nächste große Krypto-Hack möglicherweise nicht neu aussehen wird. Es wird wahrscheinlich dasselbe vergiftete Paket, der getäuschte Entwickler oder der fehlerhafte Signaturablauf sein, den DeFi bereits kennt.

Es wird höchstwahrscheinlich eher früher als später kommen.