Следующий хакер в криптоиндустрии с миллиардным уровнем может действовать с сверхчеловеческой скоростью

Тем не менее, Anthropic признаёт, что система вряд ли будет безупречной, и отмечает, что ожидает, что целеустремлённые и хорошо финансируемые злоумышленники продолжат попытки, поскольку эта возможность представляет ценность.

"Преимущество от возможностей уровня Mythos ценно для многих противников — например, тех, кто может получить финансовую выгоду от кибератак — и, следовательно, мы ожидаем, что они будут мотивированы пытаться обойти наши меры безопасности," говорится в сообщении компании.

"… не является надежным средством контроля против решительного противника."

Обнаружение уязвимости в цели, однако, не является самым значительным нововведением, которое ИИ приносит в арсенал хакера. Ключевая возможность — сверхчеловеческая скорость, и введённые в модели ИИ ограничения могут оказаться недостаточно сильными, чтобы с этим справиться.

«Текущие ограничения ИИ увеличивают трения, — заявил Чарльз Гийемет, технический директор производителя аппаратных кошельков Ledger, в электронном письме CoinDesk. — Они не являются надежным средством защиты против решительного противника.»

Сдвиг связан не столько с тем, что ИИ изобретает новые виды взломов, сколько с тем, сколько времени уходит на их создание, — сказал он. Модель рассуждения может «диффить каждый коммит, грепать каждую конфигурацию и перечислять каждую неправильную настройку с машинной скоростью», имея в виду этапы процесса разработки программного обеспечения.

Криптовалюта необычно подвержена рискам, поскольку сбой программного обеспечения может привести к финансовым потерям практически мгновенно.

Социальная инженерия

Протоколы DeFi потеряли более 840 миллионов долларов из-за взломов в первые пять месяцев года, Данные DefiLlama показывает. Только апрель составил более 600 миллионов долларов, став худшим месяцем в истории индустрии децентрализованных финансов.

Однако два крупнейших инцидента не были простыми эксплуатациями смарт-контрактов, которые ИИ мог бы разработать.

В одном случае группа, связанная с Северной Кореей, вывела около 285 миллионов долларов из Drift Protocol после шестимесячной кампании социальной инженерии, которая позволила ей получить административный доступ. В другом случае злоумышленник использовал уязвимость с одним проверяющим, что позволило вывести примерно 292 миллиона долларов из Kelp DAO.

Еще один пример произошел во вторник, когда Humanity Protocol, децентрализованный сервис по идентификации личности, потерял более 30 миллионов долларов из-за компрометации приватного ключа. CoinDesk выявил, что хакер получил доступ к трем из шести приватных ключей на ноутбуке одного сотрудника,

Вот в чем заключается проблема. В то время как самые очевидные подсказки для смарт-контрактов могут быть именно теми, которые фильтры Anthropic предназначены выявлять, крупнейшие убытки не требовали наличия ошибки в контракте.

Эксплойты, отметил Гийом из Ledger, связаны с известными уязвимыми местами: социальной инженерией, ошибками в процессах подписания, раскрытыми ключами и человеческим фактором.

Такой подход, как у Fable, не требует передачи готовой уязвимости для изменения экономической модели атаки. Он способен анализировать публичные репозитории, сравнивать старые версии программного обеспечения, обобщать отчёты аудитов и составлять убедительные сообщения, выявляющие мелкие операционные ошибки, которые люди не замечают.

"Эти уязвимости по-прежнему основаны на методах социальной инженерии и человеческой ошибке. "

Защитник в такой среде должен обеспечить безопасность каждого ключевого пути, каждой зависимости, каждого процесса подписания и каждой привилегированной учетной записи. Поскольку ИИ ускоряет фазу разведки, завершающий этап подписания становится более важным. Приватные ключи должны храниться там, куда не сможет получить доступ скомпрометированный ноутбук, а пользователям необходим надежный экран, отображающий то, что они действительно одобряют.

"Назовите вещи своими именами: эти уязвимости по-прежнему коренятся в социальном инженерии и человеческой ошибке. Искусственный интеллект не создал эту реальность. Он сделал её видимой и ускорил до машинной скорости. Единственный реальный выход — это аппаратный корень доверия: закрытые ключи, сгенерированные и хранящиеся на сертифицированном защищённом элементе, с надёжным дисплеем и прозрачной подписью," — заявил Гийемет.

Двустороннее лезвие

Однако те же самые методы также эффективны для защиты самого кода. Pendle, протокол DeFi для получения дохода, сообщил, что использует модели Anthropic в защитных целях с первой версии Claude Opus. Команда применяет ИИ для создания карты своей кодовой базы и стресс-тестирования контрактов, включая недавно развернутые. По их словам, эти инструменты позволяют выявлять ошибки на ранних этапах и помогают писать более чистый код.

Смарт-контракты — это не тот аспект, который должен вызывать беспокойство, заявили разработчики Pendle в интервью в Telegram. Смарт-контракт короткий и имеет всего около дюжины точек входа. Хорошие аудиторы уже давно способны держать полное состояние контракта в уме и проверять каждый крайний случай.

«На самом деле в смарт-контракте не так много строк кода для аудита», — сообщили разработчики.

Что означает, что следующий крупный криптовзлом может не выглядеть как нечто новое. Вероятно, это будет тот же отравленный пакет, обманутый разработчик или неправильный процесс подписи, который уже известен DeFi.

Скорее всего, это произойдет раньше, а не позже.