AI-агентам необходима идентификация, и нулевые доказательства знания — это решение

Время интересных перемен для ИИ и доверия. Всё больше инвестиционных компаний используют ИИ-агентов для анализа исследовательских записок и корпоративных документов. Людей просят предоставить всё более навязчивые биометрические данные, такие как сканирование лица, голосовые образцы и поведенческие паттерны, лишь чтобы доказать, что они не боты. Попадая в открытую среду, эти данные могут быть использованы ИИ-ботами для убедительного подделывания личностей, обходя системы, предназначенные для их блокировки. Это ставит нас в странную новую гонку вооружений – чем навязчивее проверка, тем выше риск утечки данных. Итак, как нам проверить, с кем (или с чем) мы действительно имеем дело?

Требовать прозрачности от людей, принимая непрозрачность от машин — это недопустимо. И боты, и люди в интернете нуждаются в более надежных методах подтверждения своей личности. Мы не сможем решить эту проблему, просто собирая больше биометрических данных или создавая централизованные реестры, которые станут огромными приманками для киберпреступников. Доказательства с нулевым разглашением предлагают путь вперед, при котором и люди, и искусственный интеллект могут подтвердить свои полномочия без риска быть эксплуатированными.

Дефицит доверия, тормозящий прогресс

Отсутствие подтвержденной AI-идентичности создает немедленные рыночные риски. Когда AI-агенты могут выдавать себя за людей, манипулировать рынками или совершать несанкционированные транзакции, предприятия справедливо опасаются масштабного развертывания автономных систем. Как это ни парадоксально, LLM, которые были «дообучены» на меньшем наборе данных для повышения эффективности, являются в 22 раза более вероятно производить вредоносные результаты, чем базовые модели, при этом показатели успеха обхода защитных и этических ограничений системы — процесс, известный как «взлом» — утроились по сравнению с готовыми к производству системами. Без надежной проверки личности каждое взаимодействие с ИИ становится на шаг ближе к потенциальному нарушению безопасности.

Проблема не так очевидна, как предотвращение развертывания злоумышленниками несанкционированных агентов, поскольку мы сталкиваемся не с единственным ИИ-интерфейсом. В будущем будет всё больше автономных ИИ-агентов с расширенными возможностями. В таком море агентов как определить, с кем мы имеем дело? Даже легитимные ИИ-системы нуждаются в проверяемых учетных данных для участия в развивающейся экономике агент-к-агенту. Когда ИИ-торговый бот совершает сделку с другим ботом, обе стороны должны иметь уверенность в подлинности, авторизации и структуре ответственности друг друга.

Человеческая сторона этого уравнения также находится в глубоком кризисе. Традиционные системы проверки личности подвергают пользователей рискам масштабные утечки данных, слишком легко способствуют авторитарному контролю и приносят миллиарды прибыли крупным корпорациям от продажи личной информации без компенсации лицам, которые её предоставляют. Люди справедливо опасаются делиться большим количеством личных данных, однако регуляторные требования требуют все более инвазивных процедур верификации.

Нулевое Знание: Мост Между Конфиденциальностью и Ответственностью

Доказательства с нулевым разглашением (ZKP) предлагают решение этой, казалось бы, неразрешимой проблемы. Вместо раскрытия конфиденциальной информации, ZKP позволяют субъектам, будь то люди или искусственный интеллект, доказывать определённые утверждения без раскрытия исходных данных. Пользователь может доказать, что ему более 21 года, не раскрывая дату рождения. Агент ИИ может подтвердить, что он был обучен на этических наборах данных, не раскрывая собственные алгоритмы. Финансовое учреждение может проверить, что клиент соответствует регуляторным требованиям, не храня личную информацию, которая могла бы быть скомпрометирована.

Для AI-агентов ZKP могут обеспечить необходимый глубокий уровень доверия, поскольку нам нужно проверять не только техническую архитектуру, но и модели поведения, юридическую ответственность и социальную репутацию. С помощью ZKP эти утверждения могут храниться в верифицируемом графе доверия на блокчейне.

Рассматривайте это как компонуемый слой идентификации, который работает через платформы и юрисдикции. Таким образом, когда агент ИИ представляет свои учетные данные, он может доказать, что его обучающие данные соответствуют этическим стандартам, его результаты были подвергнуты аудиту, а его действия связаны с ответственными человеческими субъектами, при этом не раскрывая конфиденциальную информацию.

ZKP могут полностью изменить правила игры, позволяя нам доказывать свою личность без передачи конфиденциальных данных, однако внедрение остается медленным. ZKP по-прежнему являются технической нишей, мало знакомой пользователям и запутанной в серых зонах регулирования. Более того, компании, получающие прибыль от сбора данных, имеют мало стимулов для внедрения этой технологии. Тем не менее, это не останавливает более гибкие компании по управлению идентичностью от использования ZKP, и с появлением регуляторных стандартов и повышением осведомленности ZKP могут стать основой новой эры доверительного ИИ и цифровой идентичности – предоставляя физическим лицам и организациям возможность безопасно и прозрачно взаимодействовать через платформы и границы.

Рыночные последствия: разблокировка экономики агентов

Генеративный ИИ может добавить триллионы ежегодно вносит вклад в мировую экономику, однако значительная часть этой стоимости остаётся заблокированной из-за барьеров, связанных с проверкой личности. Существует несколько причин для этого. Во-первых, институциональным инвесторам необходима надёжная проверка KYC/AML перед вложением капитала в стратегии, основанные на ИИ. Во-вторых, предприятия требуют подтверждённых идентичностей агентов перед тем, как разрешить автономным системам доступ к критически важной инфраструктуре. И регуляторы требуют механизмов подотчётности перед одобрением внедрения ИИ в чувствительных сферах.

Системы идентификации на основе ZKP решают все эти задачи, одновременно сохраняя конфиденциальность и автономию, которые делают децентрализованные системы ценными. Обеспечивая выборочное раскрытие информации, они удовлетворяют требованиям регуляторов без создания центров сбора личных данных. Предоставляя криптографическую верификацию, они позволяют проводить бездоверительные взаимодействия между автономными агентами. А поддерживая контроль пользователя, они соответствуют новым требованиям по защите данных, таким как GDPR и законы о конфиденциальности Калифорнии.

Эта технология также может помочь в решении растущего кризиса с дипфейками. Когда каждый элемент контента может быть криптографически связан с проверенным создателем без раскрытия его личности, мы можем бороться с дезинформацией и защищать конфиденциальность. Это особенно важно в условиях, когда контент, созданный ИИ, становится неотличимым от материала, созданного человеком.

Путь ZK

Некоторые будут утверждать, что любая система идентификации представляет собой шаг к авторитаризму – однако ни одно общество не может функционировать без способа идентификации своих граждан. Верификация личности уже проводится в больших масштабах, но пока ненадежно. Каждый раз, когда мы загружаем документы для KYC, используем распознавание лиц или предоставляем личные данные для подтверждения возраста, мы участвуем в системах идентификации, которые являются навязчивыми, небезопасными и неэффективными.

Доказательства с нулевым разглашением предлагают путь вперёд, который уважает личную приватность, одновременно обеспечивая доверие, необходимое для сложных экономических взаимодействий. Они позволяют создавать системы, где пользователи контролируют свои данные, проверка не требует наблюдения, а как люди, так и агенты ИИ могут безопасно взаимодействовать, не жертвуя автономией.