Les Agents IA Ont Besoin d'Identité et les Preuves à Connaissance Zéro Sont la Solution

Ce sont des temps intéressants pour l'IA et la confiance. Un nombre croissant de sociétés d'investissement utilisent des agents d'IA pour examiner des notes de recherche et des dossiers d'entreprise. Les humains sont invités à fournir des données biométriques de plus en plus intrusives, telles que des scans du visage, des échantillons de voix et des profils comportementaux, simplement pour prouver qu'ils ne sont pas des robots. Une fois exposées, ces données peuvent être utilisées comme armes par des bots pilotés par l'IA pour imiter de manière convaincante de vraies personnes, contrecarrant ainsi les systèmes conçus pour les en empêcher. Cela nous place dans une étrange nouvelle course aux armements – plus la vérification est intrusivement poussée, plus le risque est grand lorsqu'elle fuit inévitablement. Alors, comment pouvons-nous vérifier qui (ou quoi) nous traitons réellement ?

Il est inconcevable d’exiger la transparence des humains tout en acceptant l’opacité des machines. Tant les bots que les humains en ligne ont besoin de meilleures méthodes pour vérifier leur identité. Nous ne pouvons pas résoudre ce problème en collectant simplement plus de données biométriques, ni en construisant des registres centralisés qui représentent d’immenses pots de miel pour les cybercriminels. Les preuves à divulgation nulle de connaissance offrent une voie à suivre où humains et IA peuvent prouver leurs identifiants sans s’exposer à l’exploitation.

Le déficit de confiance freine le progrès

L'absence d'une identité IA vérifiable crée des risques immédiats pour le marché. Lorsque les agents IA peuvent usurper l'identité humaine, manipuler les marchés ou exécuter des transactions non autorisées, les entreprises hésitent légitimement à déployer des systèmes autonomes à grande échelle. Il se trouve que les LLM, qui ont été « affinés » sur un ensemble de données plus restreint pour améliorer les performances, sont 22 fois plus susceptible pour produire des résultats nuisibles que les modèles de base, avec des taux de réussite de contournement des garde-fous de sécurité et d’éthique du système — un processus connu sous le nom de « jailbreak » — triplant par rapport aux systèmes prêts pour la production. Sans une vérification d’identité fiable, chaque interaction avec l’IA s’approche un peu plus d’une potentielle faille de sécurité.

Le problème n’est pas aussi évident que d’empêcher des acteurs malveillants de déployer des agents dévoyés, car il ne s’agit pas d’un unique interface d’IA auquel nous sommes confrontés. L’avenir verra un nombre croissant d’agents autonomes d’IA dotés de capacités accrues. Dans un tel océan d’agents, comment savoir à quoi nous avons affaire ? Même les systèmes d’IA légitimes nécessitent des justificatifs vérifiables pour participer à l’économie émergente agent-à-agent. Lorsqu’un bot de trading IA exécute une transaction avec un autre bot, les deux parties doivent avoir l’assurance de l’identité, de l’autorisation et de la structure de responsabilité de l’autre.

Le volet humain de cette équation est tout aussi défaillant. Les systèmes traditionnels de vérification d'identité exposent les utilisateurs à violations massives de données, permettent trop facilement la surveillance autoritaire et génèrent des milliards de revenus pour de grandes entreprises en vendant des informations personnelles sans compenser les individus qui les génèrent. Les personnes sont à juste titre réticentes à partager davantage de données personnelles, pourtant les exigences réglementaires exigent des procédures de vérification toujours plus invasives.

Zero-Knowledge : Le Pont Entre Confidentialité et Responsabilité

Les preuves à connaissance zéro (ZKP) offrent une solution à ce problème apparemment insoluble. Plutôt que de révéler des informations sensibles, les ZKP permettent aux entités, qu'elles soient humaines ou artificielles, de prouver des affirmations spécifiques sans exposer les données sous-jacentes. Un utilisateur peut prouver qu'il a plus de 21 ans sans divulguer sa date de naissance. Un agent IA peut prouver qu'il a été entraîné sur des ensembles de données éthiques sans dévoiler d'algorithmes propriétaires. Une institution financière peut vérifier qu'un client respecte les exigences réglementaires sans stocker d'informations personnelles susceptibles d'être compromises.

Pour les agents d'IA, les preuves à divulgation nulle de connaissance (ZKP) peuvent permettre les niveaux profonds nécessaires de confiance, car il est essentiel de vérifier non seulement l'architecture technique, mais aussi les comportements, la responsabilité juridique et la réputation sociale. Avec les ZKP, ces affirmations peuvent être stockées dans un graphe de confiance vérifiable sur la blockchain.

Considérez-le comme une couche d'identité composable qui fonctionne à travers les plateformes et les juridictions. Ainsi, lorsqu'un agent IA présente ses justificatifs, il peut prouver que ses données d'entraînement respectent les normes éthiques, que ses résultats ont été audités, et que ses actions sont liées à des entités humaines responsables, le tout sans divulguer d'informations propriétaires.

Les preuves à divulgation nulle de connaissance (ZKP) pourraient complètement révolutionner le secteur, nous permettant de prouver notre identité sans divulguer de données sensibles, mais leur adoption reste lente. Les ZKP demeurent une niche technique, inconnue des utilisateurs, et embrouillée dans des zones grises réglementaires. Pour couronner le tout, les entreprises qui tirent profit de la collecte de données ont peu d’incitations à adopter cette technologie. Cependant, cela n’empêche pas des entreprises d’identité plus agiles de les exploiter, et à mesure que les normes réglementaires émergent et que la sensibilisation s’améliore, les ZKP pourraient devenir la pierre angulaire d’une nouvelle ère d’IA fiable et d’identité numérique – offrant aux individus et aux organisations une manière d’interagir en toute sécurité et en toute transparence à travers les plateformes et les frontières.

Implications pour le marché : Libérer l'économie des agents

L'IA générative pourrait ajouter trillions annuellement à l'économie mondiale, mais une grande partie de cette valeur reste enfermée derrière des barrières de vérification d'identité. Plusieurs raisons expliquent cela. L'une d'elles est que les investisseurs institutionnels ont besoin d'une conformité rigoureuse en matière de KYC/AML avant de déployer des capitaux dans des stratégies pilotées par l'IA. Une autre est que les entreprises exigent des identités d'agents vérifiables avant de permettre aux systèmes autonomes d'accéder à des infrastructures critiques. Enfin, les régulateurs demandent des mécanismes de responsabilité avant d'approuver le déploiement de l'IA dans des domaines sensibles.

Les systèmes d'identité basés sur la ZKP répondent à toutes ces exigences tout en préservant la confidentialité et l'autonomie qui rendent les systèmes décentralisés précieux. En permettant la divulgation sélective, ils satisfont aux exigences réglementaires sans créer de pièges à données personnelles. En fournissant une vérification cryptographique, ils permettent des interactions sans confiance entre agents autonomes. Et en maintenant le contrôle utilisateur, ils s'alignent sur les réglementations émergentes en matière de protection des données telles que le RGPD et les lois californiennes sur la vie privée.

La technologie pourrait également contribuer à résoudre la crise croissante des deepfakes. Lorsque chaque contenu peut être lié cryptographiquement à un créateur vérifié sans révéler son identité, nous pouvons lutter contre la désinformation et protéger la vie privée. Cela est particulièrement crucial à mesure que le contenu généré par l'IA devient indiscernable de celui créé par des humains.

Le Chemin ZK

Certains soutiendront que tout système d'identité représente une étape vers l'autoritarisme – mais aucune société ne peut fonctionner sans un moyen d'identifier sa population. La vérification d'identité se fait déjà à grande échelle, mais de manière inefficace. Chaque fois que nous téléchargeons des documents pour la vérification KYC, que nous soumettons à la reconnaissance faciale ou que nous partageons des données personnelles pour la vérification de l'âge, nous participons à des systèmes d'identité intrusifs, peu sécurisés et inefficaces.

Les preuves à divulgation nulle de connaissance offrent une voie à suivre qui respecte la vie privée des individus tout en permettant la confiance nécessaire aux interactions économiques complexes. Elles nous permettent de construire des systèmes où les utilisateurs contrôlent leurs données, où la vérification ne requiert pas de surveillance, et où humains et agents IA peuvent interagir en toute sécurité sans sacrifier leur autonomie.