Агенти ШІ потребують ідентичності, і докази з нульовим розголошенням є рішенням

Це цікаві часи для штучного інтелекту та довіри. Все більше інвестиційних компаній використовують AI-агентів для аналізу дослідницьких нотаток та корпоративних звітів. Люди змушені надавати дедалі більш інвазивні біометричні дані, такі як сканування обличчя, зразки голосу та поведінкові паттерни, лише щоб довести, що вони не є ботами. Потрапляючи у відкритий доступ, ці дані можуть бути використані AI-ботами для переконливого імітування реальних осіб, долаючи системи захисту, призначені для їхнього блокування. Це ставить нас у дивну нову гонку озброєнь – чим інвазивніша верифікація, тим більший ризик при неминучому витоку. Тож як ми можемо перевірити, з ким (або з чим) ми насправді маємо справу?

Вимагаючи прозорості від людей та приймаючи непрозорість від машин, ми діємо безсовісно. І боти, і онлайн-користувачі потребують кращих способів підтвердження своєї особи. Цю проблему неможливо розв’язати простим збором більшої кількості біометричних даних або створенням централізованих реєстрів, які є величезними ласощами для кіберзлочинців. Докази з нульовим розголошенням дають можливість людині та штучному інтелекту підтверджувати свої дані без ризику бути експлуатованими.

Дефіцит довіри, який стримує прогрес

Відсутність підтвердженої ідентичності ШІ створює негайні ризики для ринку. Коли агенти штучного інтелекту можуть видавати себе за людей, маніпулювати ринками або здійснювати несанкціоновані транзакції, підприємства виправдано вагаються впроваджувати автономні системи в великому масштабі. Як і трапляється, LLM, які були «тонко налаштовані» на меншому наборі даних для покращення продуктивності, є у 22 рази більше ймовірність виробляти шкідливі результати, ніж базові моделі, при цьому рівень успішності обходу системи безпеки та етичних обмежень — процес, відомий як «злам» — утраєний порівняно з виробничими системами. Без надійної перевірки особистості кожна взаємодія з ШІ наближає до потенційного порушення безпеки.

Проблема не настільки очевидна, щоб просто запобігти розгортанню шкідливими акторами rogue-агентів, оскільки ми не стикаємося лише з одним інтерфейсом ШІ. Майбутнє принесе все більше автономних ШІ-агентів з розширеними можливостями. У такому морі агентів, як нам визначити, з ким ми маємо справу? Навіть легітимні системи ШІ потребують перевірених облікових даних для участі у новій економіці агент-до-агента. Коли ШІ-бот для торгівлі здійснює транзакцію з іншим ботом, обидві сторони потребують гарантій щодо ідентичності, авторизації та структури відповідальності один одного.

Людський аспект цього рівняння також є неефективним. Традиційні системи ідентифікації користувачів піддають їх ризикам масштабні витоки даних, надто легко сприяють авторитарному спостереженню та приносять мільярдні доходи великим корпораціям від продажу персональної інформації без компенсації особам, які її генерують. Люди справедливо неохоче діляться більшою кількістю персональних даних, однак регуляторні вимоги вимагають дедалі більш нав’язливих процедур верифікації.

Zero-Knowledge: Міст між конфіденційністю та підзвітністю

Докази з нульовим розголошенням (ZKP) пропонують рішення цієї, на перший погляд, невирішуваної проблеми. Замість того, щоб розкривати конфіденційну інформацію, ZKP дозволяють суб'єктам, як людським, так і штучним, доводити певні заяви без розкриття базових даних. Користувач може довести, що йому понад 21 рік, не розкриваючи свою дату народження. Штучний інтелект може підтвердити, що він навчався на етичних наборах даних, не розкриваючи власні алгоритми. Фінансова установа може перевірити, що клієнт відповідає регуляторним вимогам, не зберігаючи персональні дані, які можуть бути скомпрометовані.

Для агентів штучного інтелекту ZKP можуть забезпечити необхідний глибокий рівень довіри, оскільки нам потрібно перевірити не лише технічну архітектуру, а й поведінкові патерни, юридичну відповідальність та соціальну репутацію. Завдяки ZKP ці заяви можуть зберігатися у верифікованому графі довіри на блокчейні.

Розглядайте це як композиційний шар ідентичності, що працює на різних платформах і юрисдикціях. Таким чином, коли агент штучного інтелекту надає свої облікові дані, він може довести, що його навчальні дані відповідають етичним стандартам, його результати були перевірені, а його дії пов’язані з відповідальними людськими суб’єктами, усе це без розкриття власницької інформації.

ZKP можуть повністю змінити правила гри, дозволяючи нам підтверджувати свою особу без передачі конфіденційних даних, але впровадження залишається повільним. ZKP залишаються технічною нішею, незнайомою користувачам і заплутаною в регуляторних сірих зонах. До того ж, компанії, що отримують прибуток від збору даних, мають мало стимулів для впровадження цієї технології. Проте це не зупиняє більш гнучкі ідентифікаційні компанії від їх використання, і з появою регуляторних стандартів та підвищенням обізнаності ZKP можуть стати основою нової епохи довіреного ШІ та цифрової ідентичності – надаючи фізичним та юридичним особам можливість безпечно і прозоро взаємодіяти між платформами і кордонами.

Ринкові наслідки: розкриття агентської економіки

Генеративний ШІ може додати трильйони щорічно для глобальної економіки, але значна частина цієї вартості залишається заблокованою через бар’єри верифікації особистості. Існує декілька причин цього. По-перше, інституційним інвесторам необхідне надійне дотримання вимог KYC/AML перед розміщенням капіталу у стратегії, що керуються ШІ. По-друге, підприємствам потрібна підтверджена ідентичність агентів перед тим, як дозволити автономним системам доступ до критичної інфраструктури. А регулятори вимагають механізми відповідальності перед затвердженням впровадження ШІ у чутливих сферах.

Ідентифікаційні системи на основі ZKP відповідають усім цим вимогам, зберігаючи при цьому конфіденційність та автономію, що робить децентралізовані системи цінними. Завдяки можливості вибіркового розкриття вони задовольняють регуляторні вимоги без створення «вуликів» особистих даних. Завдяки криптографічній верифікації вони забезпечують довірчі взаємодії між автономними агентами. А підтримуючи контроль користувача, вони відповідають новим нормам захисту даних, таким як GDPR та закони про конфіденційність Каліфорнії.

Технологія також може допомогти вирішити зростаючу кризу глибоких фейків. Коли кожен фрагмент контенту може бути криптографічно пов’язаний з перевіреним творцем без розкриття їхньої ідентичності, ми можемо боротися з дезінформацією та захищати конфіденційність. Це особливо важливо, оскільки контент, створений штучним інтелектом, стає невідрізним від матеріалів, створених людьми.

Шлях ZK

Дехто стверджуватиме, що будь-яка система ідентифікації є кроком до авторитаризму – але жодне суспільство не може функціонувати без способу ідентифікації своїх громадян. Верифікація особистості вже відбувається у великому масштабі, просто робиться це неякісно. Кожного разу, коли ми завантажуємо документи для KYC, погоджуємося на розпізнавання обличчя або надаємо персональні дані для підтвердження віку, ми беремо участь у системах ідентифікації, які є настирливими, небезпечними та неефективними.

Докази з нульовим розголошенням пропонують шлях уперед, який поважає приватність особистості, водночас забезпечуючи довіру, необхідну для складних економічних взаємодій. Вони дозволяють створювати системи, де користувачі контролюють свої дані, перевірка не вимагає нагляду, а як люди, так і агенті штучного інтелекту можуть безпечно взаємодіяти, не жертвуючи автономією.