딥페이크 사기는 인류에 대한 위협입니다 — 대응 방안은 다음과 같습니다

지난해, 홍콩 경찰이 딥페이크 기술을 이용한 4,600만 달러 규모의 암호화폐 투자 사기를 저지른 그룹을 체포했습니다. 이 그룹은 해외 사기 네트워크와 협력하여 신뢰성 있는 가짜 투자 플랫폼을 만들었습니다. 오늘날 이러한 도구들은 기하급수적으로 발전하여 AI 생성 비디오로까지 확장되고 있으며, 이는 다른 어떤 형태의 미디어보다도 빠르게 진화하고 있습니다.

악의적인 AI가 에 기여했습니다전 세계적으로 120억 달러 이상의 손실 2024년 사기에서. 미국 국토안보부는 현재 콜 AI 생성 딥페이크 국가 안보, 금융 및 사회에 대한 “명확하고 현존하며 변화하는 위협”입니다. 덴마크 는 무단 딥페이크에 대응하기 위해 저작권법을 개정하는 방안을 검토하고 있으며, 모든 사람에게 “자신의 신체, 얼굴 특징 및 목소리에 대한 권리”를 부여할 예정입니다.

딥페이크는 분명히 점점 심각해지는 사회적 위협입니다. 디지털 세계를 방어하기 위해서는 AI가 검증 가능해야 하며, 단순한 신뢰가 아닌 암호화 증거로 뒷받침되는 콘텐츠 관리가 필요합니다. 제로지식 기계 학습(zkML) 기법은 기본 모델이나 데이터를 공개하지 않고도 출력물이 유효함을 증명하는 새로운 방식을 열어가고 있습니다.

현재의 중재 시스템은 붕괴되었습니다

현대의 콘텐츠 중재는 인공지능 조작을 따라잡는 데 어려움을 겪고 있습니다. 악의적인 콘텐츠가 여러 플랫폼에 동시에 업로드될 경우, 각 플랫폼은 해당 중복 콘텐츠를 독자적으로 재분류해야 하며, 이로 인해 계산 자원이 낭비되고 지연이 발생합니다.

더욱이, 각 플랫폼의 알고리즘과 정책은 다를 수 있으며, 한 사이트에서 문제가 있다고 표시된 영상이 다른 사이트에서는 무해한 것으로 간주될 수 있습니다. 전체 과정은 투명성이 결여되어 있으며, 플랫폼의 AI 의사결정은 일종의 “블랙 박스” 상태에 있습니다. 이용자들은 왜 어떤 콘텐츠가 삭제되었거나 허용되었는지 거의 알지 못합니다.

이와 같은 단편적인 중재 접근 방식은 탐지 도구의 성능 향상을 더욱 어렵게 만듭니다. 한 연구 발견 탐지 모델의 정확도가 진정한 야생 데이터에서 “급격히 하락”하며, 새로운 딥페이크에 직면했을 때 무작위 추측 수준으로 저하되는 경우가 있다고 밝혔습니다.

기업들은 심각하게 준비가 부족한 상태로, 42%의 기업이 인정하며 그들은 딥페이크를 식별하는 능력에 대해 “다소 자신감이 있다”고만 평가합니다. 콘텐츠를 지속적으로 재검토하고 새로운 위조물을 추적하는 것은 결국 지칠 수밖에 없는 싸움입니다. 우리는 웹 전반에 걸쳐 조정 결과를 이동 가능하고 신뢰할 수 있으며 효율적으로 만드는 체계적인 해결책이 필요합니다.

해결책: 검증 가능한 중재

제로 지식 머신러닝(zkML)은 작업을 중복하지 않거나 민감한 정보를 공개하지 않고 AI 기반 중재 결정을 검증하는 방법을 제공합니다. 이 개념은 AI 분류기가 단순히 레이블만 생성하는 것이 아니라 해당 분류에 대한 암호학적 증거도 함께 생성하도록 하는 것입니다.

컨텐츠(이미지, 비디오, 텍스트 등)를 평가하고 하나 이상의 라벨(예: 을) 할당하는 중재 모델을 상상해 보십시오.업무에 안전함, 업무용으로 적합하지 않음, 폭력적인, 포르노그래픽, 등). 라벨과 함께, 시스템은 알려진 AI 모델이 해당 콘텐츠를 처리하고 분류 결과를 도출했음을 증명하는 제로 지식 증명을 생성합니다. 이 증명은 콘텐츠의 메타데이터에 포함되어, 콘텐츠 자체가 변조 감지 가능한 조정 배지를 지닐 수 있도록 합니다. 콘텐츠 제작자 또는 배포자는 자신들의 콘텐츠 조정 상태에 대해 암호학적으로 연결될 수도 있습니다.

콘텐츠가 업로드되거나 공유될 때, 플랫폼은 경량 암호화 검증을 통해 즉시 증거를 확인할 수 있습니다. 증거가 유효한 경우, 플랫폼은 자체 AI 분석을 다시 실행할 필요 없이 제공된 분류를 신뢰합니다.

ZK-임베디드 중재의 혜택

여기서 혜택에 대해 생각해 보겠습니다. 증명을 검증하는 것은 모든 업로드마다 대규모 AI 모델을 실행하는 것보다 훨씬 빠르고 간단합니다. 첫째로, 콘텐츠 검열의 이동성이 있어 그 상태가 함께 이동할 수 있습니다. 또한, 누구나 암호학적 증명을 검증하고 콘텐츠가 어떻게 분류되었는지 확인할 수 있도록 공개적으로 검증 가능한 결과를 통해 투명성을 보장합니다.

이 시나리오에서는 중재가 콘텐츠 항목당 일회성 계산으로 이루어지며, 이후의 검사들은 비용이 적게 드는 증명 검증으로 축소됩니다. 이는 막대한 계산 비용 절감, 콘텐츠 전달 지연 시간 단축, 그리고 진정으로 새로운 또는 논쟁 중인 콘텐츠에 집중할 수 있는 AI 자원 증대로 이어집니다.

AI 생성 콘텐츠가 지속적으로 폭발적으로 증가함에 따라, zk 기반의 중재가 이러한 규모를 처리할 수 있습니다. 이 접근법은 플랫폼의 부담을 경감시키며, 대량의 스트림을 실시간으로 중재할 수 있도록 합니다.

AI를 위한 무결성 계층

제로지식 증명은 AI 기반 검열에 필요한 누락된 무결성 계층을 제공합니다. 이를 통해 민감한 입력값이나 모델 내부 내용을 공개하지 않고도 AI 결정(예: 콘텐츠 분류)이 정확히 이루어졌음을 증명할 수 있습니다. 이는 기업들이 검열 정책을 시행하고 신뢰할 수 있는 결과를 서로 또는 대중과 공유하는 동시에 사용자 프라이버시와 독점 AI 로직을 보호할 수 있음을 의미합니다.

컨텐츠 수준에서 검증 가능성을 내장하는 것은 불투명하고 중복적인 검열 시스템을 분산화된 암호학적 검증 가능 신뢰 네트워크로 전환할 수 있습니다. 플랫폼이 "우리 AI 필터를 신뢰하세요"라고 말하는 데 의존하는 대신, 검열 결과는 수학적 보증과 함께 제공될 수 있습니다. 이와 같은 확장 가능한 검증 가능성을 지금 통합하지 않는다면, AI 기반 조작과 허위 정보가 온라인 신뢰의 마지막 흔적마저 잠식할 수 있습니다.

우리는 여전히 AI 검열을 신념의 행위에서 증거의 행위로 전환할 수 있으며, 이를 통해 플랫폼뿐만 아니라 공공 담론, 선거 및 우리의 공동 현실 인식을 형성하는 정보 생태계에 대한 신뢰를 재구축할 수 있습니다.