AI와 암호화의 프라이버시 미래

어제 글에서 저는 AI 애플리케이션이 개인 프라이버시에 미칠 수 있는 위험에 대해 공유했습니다.

이러한 위험의 원인은 현재 AI 애플리케이션의 운영 방식에서 비롯됩니다. 최종 사용자가 AI를 호출할 때, 자신의 데이터를 클라우드에 위치한 AI 대모델에 직접 업로드하게 되고, 그 대모델은 데이터를 기반으로 추론하여 사용자의 행동 특성을 직접 파악하게 됩니다.

이러한 데이터 축적이 오래될수록 AI 대모델은 알고리즘을 통해 사용자의 행동 습관을 더욱 포괄적으로 파악할 수 있습니다.

이러한 위험은 개인에게는 프라이버시 유출로, 회사에게는 상업 비밀 유출로 이어집니다.

작년 어느 시점에 황인훈이 AI에 대해 언급한 인터뷰 영상에서 그는 이 위험에 대해 언급하며, 자신의 회사 직원들에게 AI 도구를 사용할 때 어떤 데이터는 로컬에 저장해야 하고, 어떤 데이터는 클라우드에 업로드할 수 있는지 엄격히 요구했습니다.

하지만 그 당시 저는 이 위험을 단순한 정보로만 받아들였고, 제가 직접 이 위험을 느끼게 되었을 때 그의 경고를 떠올렸습니다.

이 문제는 지금 막 드러나기 시작했지만, 곧 더 심각해질 것입니다.

그래서 저는 미래에 AI가 보편화되는 시대에는 우리가 로컬에서 간소화된 대모델을 실행하고, 대부분의 민감한 데이터를 로컬에서 처리하며, 간단한 요구에 대해 추론할 수 있는 단말기(휴대폰, 안경 또는 현재 우리가 상상할 수 없는 다른 형태)가 필요하다고 믿습니다. 이렇게 하면 복잡한 대모델이 클라우드에서 처리하기 전에 일부 무거운 작업과 데이터를 "필터링"하여 클라우드에 업로드하게 됩니다. 이렇게 하면 클라우드의 대모델이 사용자 개인의 행동 특성을 직접 수집하는 것을 피할 수 있습니다.

암호화 생태계에서는 프라이버시 처리가 이미 의제로 올라와 있습니다.

이전에 Vitalik은 이더리움과 같은 공공 블록체인이 데이터와 정보의 투명 공개로 인해 상업 분야에서 광범위하게 사용되는 것을 방해한다고 언급했습니다. 상업 분야의 거래 쌍방은 많은 경우 상업 비밀을 보호하기 위해 거래 정보를 공개하기를 원하지 않기 때문입니다.

최근에는 상업 사용자들이 현재 대규모로 스테이블코인을 사용하는 것에 대해 상당히 신중한 태도를 보이고 있다고 지적했습니다. 현재 공공 블록체인상의 스테이블코인 계정은 모두 공개되어 있어, 누구나 어떤 계정이 얼마나 많은 스테이블코인을 보유하고 있는지를 볼 수 있습니다. 계정의 신원 정보가 유출되면 어떤 회사/기업이 얼마나 많은 자금을(스테이블코인) 보유하고 있는지가 투명한 정보가 됩니다.

따라서 AI든 암호화 생태계든 프라이버시 문제는 앞으로 반드시 해결해야 할 문제입니다.

하지만 AI와 암호화 생태계의 프라이버시 측면에서의 응용을 면밀히 비교해보면, 현재로서는 암호화 응용이 앞서 있는 것처럼 보입니다. 암호화 생태계에는 이미 프라이버시 코인(예: 모네로, ZCASH 등)과 믹서가 존재합니다.

하지만 이러한 프라이버시 응용은 규제를 피하려고 하므로, 어느 정도 부정적인 레이블이 붙어 있습니다.

대중과 규제가 수용할 수 있는 프라이버시 응용은 현재로서는 제로 지식 증명 기반의 솔루션이 비교적 성숙하고 실행 가능성이 높은 것으로 보입니다. 예를 들어, 현재 실험된 방법 중 하나는:

규제 라이센스를 받은 기관이 중개자로서 거래 쌍방이 이 중개자를 통해 거래를 진행하되, 신원과 거래 정보를 숨기고 최종적으로 생성된 제로 지식 증명만을 공공 블록체인에 인증하는 것입니다.

이렇게 하면 거래 정보는 프라이버시를 보장하고, 거래 쌍방은 범죄 혐의를 피할 수 있습니다.

프라이버시 보호와 거래의 규정 준수 측면에서 암호화 생태계의 탐색과 응용이 자체의 장점을 활용하여 AI 응용을 위한 새로운 길을 먼저 탐색할 수 있기를 바랍니다.