Наступний хакер у криптопросторі, який здобуде мільярдні прибутки, може діяти зі швидкістю, що перевищує людські можливості

Водночас Anthropic визнає, що система навряд чи буде ідеальною, і заявляє, що очікує, що рішучі та добре фінансовані зловмисники продовжать спроби, оскільки ця здатність є цінною.

"Підвищення рівня можливостей до рівня Mythos є цінним для багатьох супротивників — зокрема, для тих, хто може отримати фінансову вигоду від кібернападів — тому ми очікуємо, що вони будуть мотивовані спробувати обійти наші заходи безпеки," йдеться у повідомленні компанії.

"… не є надійним засобом контролю проти рішучого супротивника."

Виявлення слабкості в цілі, однак, не є найбільшим нововведенням, яке штучний інтелект приносить у набір інструментів хакера. Ключова перевага — це надлюдська швидкість, і обмеження, введені в моделі ШІ, можуть бути недостатньо суворими, щоб з цим впоратися.

«Поточні обмеження штучного інтелекту спричиняють тертя», — заявив Чарльз Гійоме, технічний директор виробника апаратних гаманців Ledger, в електронному листі до CoinDesk. «Вони не є надійним контролем проти рішучого супротивника.»

Зміна полягає не стільки у тому, що ШІ винаходитиме нові види зломів, скільки в тому, скільки часу потрібно на їх створення, заявив він. Модель мислення може «проаналізувати кожен коміт, перевірити кожну конфігурацію та перелічити кожну неправильну налаштування з машиною швидкістю», маючи на увазі етапи процесу розробки програмного забезпечення.

Крипто є надзвичайно вразливим, оскільки збій програмного забезпечення може майже одразу призвести до фінансових втрат.

Соціальна інженерія

DeFi-протоколи втратили понад 840 мільйонів доларів через хакерські атаки за перші п’ять місяців року, Дані DefiLlama показує. Лише квітень приніс понад 600 мільйонів доларів, ставши найгіршим місяцем в історії індустрії децентралізованих фінансів.

Однак два найбільші інциденти не були простими експлуатаціями смарт-контрактів такого типу, які могла б спроектувати ШІ.

У першому випадку група, пов’язана з Північною Кореєю, викрала близько $285 мільйонів з Drift Protocol після шестимісячної кампанії соціальної інженерії, що забезпечила їй адміністративний доступ. У другому випадку зловмисник скористався вразливістю з одним верифікатором, що дозволило вивести приблизно $292 мільйони з Kelp DAO.

Ще один приклад трапився у вівторок, коли Humanity Protocol, децентралізований сервіс ідентифікації особистості, втратив понад 30 мільйонів доларів через компрометацію приватного ключа. CoinDesk виявив, що хакер отримав доступ до трьох з шести приватних ключів на ноутбуці одного співробітника,

Ось у чому проблема. У той час як найочевидніші запити до смарт-контрактів можуть бути саме тими, які фільтри Anthropic призначені виявляти, найбільших збитків не потребували помилки в контракті.

Вразливості, на які звернув увагу Гійом з Ledger, походять з відомих слабких місць: соціальної інженерії, неправильних процедур підписання, відкритих ключів та людських помилок.

Модель на кшталт Fable не потребує передачі готового експлойта, щоб змінити економіку атаки. Вона може аналізувати публічні репозиторії, порівнювати старі версії програмного забезпечення, узагальнювати аудиторські звіти та складати переконливі повідомлення, що виявляють дрібні операційні помилки, які люди пропускають.

"Ці експлуати досі базуються на соціальній інженерії та людській помилці. "

У такому середовищі захисник має забезпечити безпеку кожного ключового шляху, кожної залежності, кожного процесу підписання та кожного привілейованого облікового запису. Оскільки ШІ прискорює етап розвідки, фінальний крок підписання набуває особливої важливості. Приватні ключі мають зберігатися у місці, недоступному для скомпрометованого ноутбука, а користувачі потребують надійного екрана, який показує, що саме вони насправді затверджують.

"Називайте речі своїми іменами: ці експлойти залишаються вкоріненими у соціальній інженерії та людській помилці. ШІ не створив цю реальність. Він зробив її помітною та прискорив до швидкості машини. Єдиний справжній вихід — апаратне кореневе джерело довіри: приватні ключі, які генеруються та зберігаються на сертифікованому безпечному елементі, із довіреним дисплеєм та Clear Signing," — сказав Гійоме.

Двосічний клинок

Ті ж самі методи, втім, також працюють для захисту самого коду. Pendle, протокол DeFi для отримання доходу, повідомив, що використовує моделі Anthropic захисно з моменту першої версії Claude Opus. Команда застосовує ШІ для створення карти свого коду та стрес-тестування своїх контрактів, включно з недавно розгорнутими. Вони зазначають, що ці інструменти допомагають рано виявляти помилки та писати більш чистий код.

Розумні контракти — не те, про що слід турбуватися, заявили розробники Pendle в інтерв’ю через Telegram. Розумний контракт є коротким і має лише близько десятка точок входу. Досвідчені аудитори вже давно можуть тримати повний стан контракту в голові та перевіряти кожен крайній випадок.

"У смарт-контракті насправді не так багато рядків коду для аудиту," – заявила команда розробників.

Що означає, що наступна велика криптовалютна атака може не виглядати новою. Ймовірно, це буде той самий отруєний пакет, ошуканий розробник або неправильний процес підписання, які вже відомі DeFi.

Це, ймовірно, станеться швидше, ніж пізніше.