공연
RD 인기지표
RD 성장지표
비교
업데이트 따라가기
팔로우 목록
인물
Inference Labs 소개
Inference Labs는 검증 가능한 머신러닝(zkML)에 특화된 Web3 AI 인프라 프로젝트입니다. 핵심 사업은 AI 모델을 더 작은 하위 모델로 분할하여 병렬 처리하는 분산 추론 시스템 DSperse와, sumcheck 및 GKR 프로토콜을 활용해 AI 연산에 최적화된 자체 영지식 증명 엔진 JSTprove라는 두 가지 독자적 프레임워크를 중심으로 이루어집니다. 이 회사의 주요 가치 제안은 기본 모델 가중치를 노출하지 않고 AI 추론 결과에 대한 암호학적 검증을 가능하게 하여, 분산형 AI 네트워크에서 신뢰와 지적 재산권 보호라는 이중 과제를 해결하는 데 있습니다. Inference Labs가 해결하려는 시장 문제점으로는 AI 의사결정의 불투명성(사용자가 출력 결과가 주장된 모델에서 나온 것인지 확인 불가), 대규모 모델 추론을 영지식으로 증명하는 데 따르는 계산적 비현실성, 그리고 모델 프라이버시와 검증 가능성 간의 긴장 관계가 있습니다. AI 연산을 검증 가능한 회로로 변환하고 증명 작업 부하를 노드에 분산함으로써, 이 프로젝트는 신뢰 없는 AI 서비스의 장벽을 낮춥니다. 지난 6개월(2026-02-28 ~ 2026-08-31) 동안 Inference Labs는 모든 기본 모델을 서브넷에 배포하여 모델당 30%를 초과하는 증명 커버리지를 달성했습니다. DSperse와 JSTprove 프레임워크는 연구 단계에서 실제 운영 단계로 전환되었으며, 팀은 분산 노드 간 성공적인 병렬 증명 생성을 보고했습니다. 그러나 프로젝트는 여전히 상당한 기술적 한계에 직면해 있습니다. 모델 분할에도 불구하고 개별 레이어 회로화는 여전히 메모리 집약적이며, 대규모 비전 모델(예: YoloV8)에 대한 증명 오버헤드는 여전히 소비자 하드웨어 성능을 초과합니다. 팀은 현재 최적화로 효율성이 개선되었지만, 시스템이 1초 미만의 검증 지연 시간을 요구하는 실시간 애플리케이션에는 아직 적합하지 않음을 인정하고 있습니다.
지난 6개월 동안 Inference Labs는 검증 가능한 AI 인프라 분야에서 큰 진전을 이루었습니다. 주요 성과로는 분산 추론 프레임워크인 DSperse의 공식 출시와 sumcheck 및 GKR 프로토콜을 활용한 자체 증명 시스템인 JSTprove의 출시가 있습니다. 이러한 기술은 대형 비전 모델에 대해 거의 실시간에 가까운 영지식 증명을 가능하게 하며, 전체 Python-to-Rust 마이그레이션을 통해 마이너 응답 속도가 2.5배, 검증 속도가 3.2배 빨라졌고 처리량은 43% 증가했으며, 검증 성공률은 95.7%에서 97.5%로 개선되었습니다. 2026년 2월, 팀은 라이브 예측 시장에서 작동하는 LLM 평가 프레임워크인 TruthTensor를 발표했습니다. 현재 110만 개 이상의 배포된 AI 에이전트, 87만 5000명 이상의 사용자, 320만 개의 파인튜닝된 모델을 지원합니다. 또한 이 플랫폼은 Oracle의 엔터프라이즈 생태계에 진입하여 항공 및 물류 분야에서 검증 가능한 AI 배포를 가능하게 했으며, 캘거리 국제공항을 포함한 프로덕션 환경에서 3억 5000만 개 이상의 증명이 생성되고 검증되었습니다. 향후 Inference Labs는 DSperse의 모델 호환성(ResNet-50, YOLOv8, Vision Transformer 포함)을 확장하고, JSTprove를 소비자용 하드웨어에 맞게 추가 최적화할 계획입니다. 로드맵은 분산 네트워크 전반에 걸친 검증 가능한 추론 확장, Oracle 파트너십 강화, 학술적 검증(CVC 2026 채택) 발전에 중점을 두고 있으며, 암호화 증명 생성을 기업 AI 책임성의 표준으로 만드는 것을 목표로 합니다.
공동 창립자: 론 찬 (Twitter: @sudo_ron) – Inference Labs 공동 창립자. 분산 시스템 및 AI 인프라 배경. 콜린 가기치 (Twitter: @colingagich) – Inference Labs 공동 창립자. 하드웨어/소프트웨어 엔지니어링 및 자율 시스템 전문성. 신뢰할 수 있는 공개 정보를 가진 다른 핵심 임원은 발견되지 않았습니다.