Il prossimo hacker di criptovalute da un miliardo di dollari potrebbe muoversi a velocità sovrumana

La società afferma che questo specifico meccanismo di fallback si attiva in meno del 5% delle sessioni. Inoltre ha dichiarato in un post sul blog che team specializzati in cybersecurity e oltre 1.000 ore di lavoro esterno di bug bounty non hanno trovato un modo universale per violare il sistema.

Tuttavia, Anthropic riconosce che il sistema difficilmente sarà infallibile e dichiara di attendersi che attaccanti determinati e ben finanziati continueranno a tentare, poiché la capacità è preziosa.

"Il miglioramento apportato dalle capacità a livello Mythos è prezioso per molti avversari—ad esempio, coloro che potrebbero trarre benefici finanziari dagli attacchi informatici—e ci aspettiamo quindi che siano motivati a cercare di eludere le nostre misure di sicurezza," ha dichiarato la società nel post.

"... non un controllo affidabile contro un avversario determinato."

Identificare una vulnerabilità in un obiettivo, tuttavia, non è l'innovazione principale che l'IA apporta alla cassetta degli attrezzi di un hacker. La caratteristica chiave è la velocità sovrumana, e le limitazioni introdotte nei modelli di IA potrebbero non essere sufficientemente incisive da contrastarla.

“Gli attuali sistemi di sicurezza dell'IA aumentano l'attrito," ha dichiarato Charles Guillemet, chief technology officer di Ledger, produttore di hardware wallet, in un'email a CoinDesk. "Non rappresentano un controllo affidabile contro un avversario determinato.”

Il cambiamento riguarda meno l'IA che inventa nuovi tipi di attacchi informatici e più il tempo necessario per crearli, ha dichiarato. Un modello di ragionamento può "differenziare ogni commit, esaminare ogni configurazione e enumerare ogni errata configurazione a velocità macchina," riferendosi ai passaggi nel processo di sviluppo del software.

La criptovaluta è eccezionalmente esposta poiché un malfunzionamento del software può tradursi in una perdita finanziaria quasi immediatamente.

Ingegneria sociale

I protocolli DeFi hanno perso oltre 840 milioni di dollari a causa di hack nei primi cinque mesi dell'anno, Dati DefiLlama mostra. Solo aprile ha rappresentato oltre 600 milioni di dollari, il mese peggiore mai registrato per l'industria della finanza decentralizzata.

Tuttavia, i due incidenti più gravi non sono stati semplici exploit di smart contract del tipo che l'IA potrebbe progettare.

In uno, un gruppo collegato alla Corea del Nord ha drenato circa 285 milioni di dollari da Drift Protocol dopo una campagna di social engineering durata sei mesi che gli ha consentito di ottenere l'accesso da amministratore. Nell'altro, l'attaccante ha sfruttato una falla nel sistema a verificatore singolo che ha permesso di sottrarre circa 292 milioni di dollari da Kelp DAO.

Un altro esempio si è verificato martedì, quando Humanity Protocol, un servizio decentralizzato di identità umana, ha perso oltre 30 milioni di dollari a causa di una compromissione della chiave privata. CoinDesk ha scoperto che un hacker ha ottenuto l'accesso a tre su sei chiavi private sul laptop di un dipendente,

Ecco il problema. Sebbene i prompt di smart contract più ovvi possano essere esattamente quelli che i filtri di Anthropic sono progettati per catturare, le perdite maggiori non hanno richiesto un bug nel contratto.

Gli exploit, ha osservato Guillemet di Ledger, derivano da punti deboli noti: ingegneria sociale, flussi di firma errati, chiavi esposte ed errori umani.

Un modello come Fable non ha bisogno di consegnare un exploit finito per modificare l’economia di un attacco. Può leggere repository pubblici, confrontare vecchie versioni del software, riassumere rapporti di audit e redigere messaggi convincenti che individuano i piccoli errori operativi che gli esseri umani trascurano.

"Questi exploit rimangono radicati nell'ingegneria sociale e nell'errore umano. "

Un difensore, in un ambiente del genere, deve proteggere ogni percorso chiave, ogni dipendenza, ogni flusso di firma e ogni account privilegiato. Poiché l'IA accelera la fase di scouting, il passaggio finale di firma diventa più importante. Le chiavi private devono risiedere in un luogo inaccessibile a un laptop compromesso, e gli utenti necessitano di uno schermo affidabile che mostri ciò che stanno effettivamente approvando.

"Chiamatela per quello che è: queste vulnerabilità rimangono radicate nell’ingegneria sociale e nell’errore umano. L’IA non ha creato questa realtà. L’ha resa visibile e l’ha accelerata alla velocità delle macchine. L’unica vera soluzione è una radice fiduciaria hardware: chiavi private generate e conservate su un elemento sicuro certificato, con un display affidabile e la Firma Chiara," ha dichiarato Guillemet.

Una lama a doppio taglio

Le stesse tecniche, tuttavia, funzionano anche per proteggere il codice stesso. Pendle, un protocollo DeFi per il rendimento, ha dichiarato di aver utilizzato i modelli di Anthropic in modo difensivo sin dalla prima versione di Claude Opus. Il team utilizza l'IA per mappare la propria base di codice e sottoporre a stress test i suoi contratti, inclusi quelli appena implementati. Afferma che gli strumenti individuano i bug precocemente e aiutano a scrivere codice più pulito.

I contratti intelligenti non sono ciò di cui preoccuparsi, hanno dichiarato gli sviluppatori di Pendle in un'intervista su Telegram. Un contratto intelligente è breve e dispone di circa una dozzina di punti di accesso. I buoni revisori sono da tempo in grado di tenere a mente l'intero stato di un contratto e di testare ogni caso limite.

"Non ci sono poi così tante righe di codice in un contratto intelligente da revisionare," ha dichiarato il team di sviluppo.

Il che significa che il prossimo grande attacco informatico nel settore delle criptovalute potrebbe non apparire come una novità. Probabilmente sarà lo stesso pacchetto avvelenato, lo sviluppatore ingannato o il flusso di firma difettoso che la DeFi già conosce.

È più probabile che accada prima piuttosto che dopo.