누가 스킬로 증류될 수 없는가?

문서: Sleepy.md

안타깝게도, 이 시대에 당신이 일을 더욱 진지하게 하려고 할수록, 오히려 AI에 의해 대체될 수 있는 기술로 스스로를 가속화하는 경향이 있습니다.

최근 며칠 동안, 핫 검색 목록과 미디어 채널은 "동료.skill"로 도배되었습니다. 이 사건이 각종 소셜 플랫폼에서 계속해서 확산되면서, 대중의 초점은 거의 예외 없이 "AI 해고", "자본 착취" 및 "노동자의 디지털 영생"과 같은 거대한 불안으로 휘말렸습니다.

이러한 것들은 확실히 불안을 느끼게 하지만, 제가 가장 불안하게 느끼는 것은 프로젝트 README 문서에 적힌 한 줄의 사용 제안입니다:

"원자재의 질이 기술의 질을 결정합니다: 그가 자발적으로 쓴 긴 글 > 의사결정형 답변 > 일상 메시지를 우선적으로 수집하는 것이 좋습니다."

시스템에 의해 완벽하게 증류되고 픽셀 수준으로 복원될 가능성이 가장 높은 것은 바로 가장 진지하게 일하는 사람들입니다.

모든 프로젝트가 끝난 후에도 여전히 복기 문서를 작성하는 사람들; 의견 차이가 있을 때, 대화창에서 긴 글을 쓰며 자신의 의사결정 논리를 솔직하게 분석하는 데 반 시간을 할애하는 사람들; 모든 작업 세부 사항을 철저하게 시스템에 맡기는 매우 책임감 있는 사람들입니다.

진지함, 이는 한때 가장 존경받던 직장 미덕이었지만, 이제는 노동자를 AI 연료로 가속화하는 촉매제가 되었습니다.

고갈된 노동자

우리는 "맥락"이라는 단어를 재정의할 필요가 있습니다.

일상적인 맥락에서 맥락은 소통의 배경입니다. 그러나 AI, 특히 미친 듯이 성장하고 있는 AI 에이전트의 세계에서 맥락은 엔진의 굉음이 나는 연료이며, 맥박을 유지하는 혈액이며, 모델이 혼돈 속에서 정확한 판단을 내릴 수 있는 유일한 앵커 포인트입니다.

맥락이 제거된 AI는 아무리 놀라운 매개변수를 가지고 있더라도, 결국 기억 상실증에 걸린 검색 엔진에 불과합니다. 그것은 당신이 누구인지 인식하지 못하고, 비즈니스 논리 아래 숨겨진 암류를 파악하지 못하며, 당신이 결정을 내릴 때 자원 제약과 인간 관계의 얽힘으로 이루어진 네트워크에서 어떤 긴 여정과 균형을 경험했는지 알 수 없습니다.

"동료.skill"이 이렇게 큰 파장을 일으킨 이유는 그것이 극도로 냉혹하고 정확하게, 방대한 고품질 맥락을 축적하고 있는 광산인 현대 기업의 협업 소프트웨어를 겨냥했기 때문입니다.

지난 5년 동안, 중국 직장은 조용하지만 뼈를 쪼는 디지털 변혁을 겪었습니다. Feishu, DingTalk, Notion 등의 도구는 거대한 기업 지식 저장소로 변모했습니다.

Feishu를 예로 들면, ByteDance는 내부에서 매일 생성되는 문서의 양이 방대하다고 공개적으로 밝혔습니다. 이 빽빽한 문자들은 10만 명 이상의 직원의 모든 두뇌 회전, 모든 열띤 회의의 충돌, 그리고 모든 이를 악물고 삼킨 전략적 타협을 충실히 봉인하고 있습니다.

이러한 디지털 침투력은 이전 어느 시대보다도 훨씬 뛰어납니다. 한때 지식은 온기를 지닌 것이었고, 그것들은 오래된 직원의 머릿속에 잠재해 있었으며, 차 한 잔을 나누는 가벼운 대화 속에 흩어져 있었습니다. 그러나 지금은, 인간의 모든 지혜와 경험이 강제로 수분이 제거되어, 무정하게 차가운 서버 배열에 침전되어 있습니다.

이 시스템에서 문서를 작성하지 않으면, 당신의 작업은 보이지 않게 되고, 새로 온 동료는 당신과 협력할 수 없습니다. 현대 기업의 효율적인 운영은 매일매일 모든 직원이 시스템에 맥락을 "공급"하는 순환 위에 세워져 있습니다.

진지한 노동자들은 근면함과 선의를 품고, 이러한 차가운 플랫폼에서 자신의 사고 과정을 주저 없이 드러냅니다. 그들은 팀의 기어가 더 매끄럽게 맞물리도록 하고, 시스템에 자신의 가치를 증명하기 위해 노력하며, 이 복잡한 상업적 거대 기계 속에서 자신만의 위치를 찾기 위해 애쓰고 있습니다. 그들은 스스로를 자발적으로 내놓고 있는 것이 아니라, 현대 직장의 생존 법칙에 어설프고도 열심히 순응하고 있는 것입니다.

그러나 바로 이러한 인간 관계를 위한 맥락이 AI의 가장 완벽한 연료가 되었습니다.

Feishu의 관리 백엔드에는 슈퍼 관리자가 구성원의 문서와 통신 기록을 대량으로 내보낼 수 있는 기능이 있습니다. 이는 당신이 3년 동안 수많은 밤을 새워 작성한 프로젝트 복기와 의사결정 논리가 단 하나의 API 인터페이스로, 불과 몇 분 만에 당신의 몇 년간의 삶의 조각이 온도가 없는 압축 파일로 쉽게 포장될 수 있음을 의미합니다.

사람이 API로 축소될 때

"동료.skill"의 폭발적인 인기로 인해, GitHub의 Issues 구역과 각종 소셜 플랫폼에서 극도로 불편한 파생상품들이 등장하기 시작했습니다.

어떤 사람은 "전 애인.skill"을 만들어, 지난 몇 년간의 WeChat 대화 기록을 AI에 주입하여 그것이 익숙한 어조로 자신과 다투거나 애정 어린 대화를 계속하게 하려 했습니다; 어떤 사람은 "백월광.skill"을 만들어, 닿을 수 없는 감정을 차가운 인간 관계의 샌드박스로 낮추어, 반복적으로 시험하는 대화를 시뮬레이션하며 감정의 최적 해답을 모색했습니다; 또 어떤 사람은 "아버지 같은 상사.skill"을 만들어, 디지털 공간에서 압박감이 가득한 PUA 발언들을 미리 씹어보며 슬픈 심리 방어선을 쌓았습니다.

이러한 skill의 사용 장면은 이미 업무 효율성의 범주를 완전히 벗어났습니다. 원래 우리는 도구를 대하는 냉혹한 논리를 휘두르며, 혈육이 가득한 생생한 사람들을 해체하고 물질화하는 데 익숙해졌습니다.

독일 철학자 마르틴 부버는 인간 관계의 바탕이 두 가지 전혀 다른 방식으로 나뉜다고 주장했습니다: "나와 너"와 "나와 그것".

"나와 너"의 만남에서 우리는 편견을 넘어 서로를 완전하고 존엄한 생명체로 바라봅니다. 이러한 유대는 주저 없이 열려 있으며, 생기 넘치는 예측 불가능함으로 가득 차 있으며, 그 진정성 때문에 특히 취약해 보입니다. 그러나 "나와 그것"의 그림자에 빠지면, 생생한 인간은 해체되고 분석되며 분류되고 라벨이 붙여진 객체로 축소됩니다. 이러한 극도로 실용적인 시선 아래에서 우리가 유일하게 신경 쓰는 것은 "이것이 나에게 도대체 어떤 유용성이 있는가?"입니다.

"전 애인.skill"과 같은 제품의 출현은 "나와 그것"의 도구적 이성이 가장 개인적인 감정 영역을 완전히 침범했음을 나타냅니다.

진정한 관계에서 사람은 입체적이고 주름이 있으며, 모순과 거칠음을 지닌 채 끊임없이 흐릅니다. 사람의 반응은 구체적인 상황과 감정 상호작용에 따라 끊임없이 변화합니다. 당신의 전 애인이 아침에 깨어났을 때와 깊은 밤에 야근 후 같은 말을 들었을 때의 반응은 전혀 다를 수 있습니다.

그러나 당신이 한 사람을 skill로 증류할 때, 당신이 분리해낸 것은 그 특정한 유대에서 당신에게 "유용한" 기능의 잔여물일 뿐입니다. 원래 따뜻하고 자기 슬픔과 기쁨을 지닌 사람은 이 잔혹한 정제 과정에서 영혼이 완전히 추출되어, 당신이 마음대로 꽂고 뽑을 수 있는 "기능 인터페이스"로 이질화됩니다.

AI가 이러한 차가운 냉혹함을 공허하게 만들어낸 것은 부인할 수 없습니다. AI가 등장하기 전부터 우리는 이미 다른 사람에게 라벨을 붙이고, 각 관계의 "감정 가치"와 "인맥 가중치"를 정밀하게 측정하는 데 익숙해졌습니다. 예를 들어, 우리는 소개팅 시장에서 사람의 조건을 표로 정량화하고, 직장에서 동료를 "일 잘하는" 사람과 "게으른" 사람으로 분류합니다. AI는 이러한 암묵적인 인간 간의 기능적 추출을 완전히 가시화한 것입니다.

사람은 압축되어 "나에게 어떤 유용성이 있는가"라는 면만 남게 되었습니다.

전자 포장

1958년, 헝가리계 영국 철학자 마이클 폴라니가 《개인 지식》을 출판했습니다. 이 책에서 그는 매우 강력한 개념인 "암묵적 지식"을 제시했습니다.

폴라니는 유명한 주장을 했습니다: "우리가 아는 것은 우리가 말할 수 있는 것보다 항상 더 많다."

그는 자전거를 타는 예를 들었습니다. 바람을 가르며 달리는 숙련된 라이더는 중력의 기울어짐 속에서 완벽하게 균형을 잡을 수 있지만, 그는 초보자에게 그 순간 몸의 미세한 직관을 정확히 설명할 수 있는 마른 물리학 공식이나 희미한 단어로는 설명할 수 없습니다. 그는 어떻게 자전거를 타는지 알고 있지만, 그것을 말할 수는 없습니다. 이러한 코드화할 수 없고 말할 수 없는 지식이 바로 암묵적 지식입니다.

직장에는 이러한 암묵적 지식이 가득합니다. 한 숙련된 엔지니어가 시스템 오류를 조사할 때, 로그를 한 번 보고 문제를 파악할 수 있지만, 수천 번의 시행착오를 통해 쌓인 "직관"을 문서로 작성하기는 어렵습니다; 뛰어난 영업 사원이 협상 테이블에서 갑자기 침묵에 빠질 때, 그 침묵이 주는 압박감과 타이밍을 파악하는 것은 어떤 영업 매뉴얼로도 기록할 수 없습니다; 경험이 풍부한 HR이 면접 중 후보자가 눈을 피하는 단 0.5초 만에 이력서의 진위를 감지할 수 있습니다.

"동료.skill"이 추출할 수 있는 것은 이미 작성된, 말해진 명시적 지식뿐입니다. 그것은 당신의 복기 문서를 잡아낼 수 있지만, 문서를 작성할 때의 갈등은 잡아낼 수 없습니다; 그것은 당신의 의사결정 답변을 복사할 수 있지만, 의사결정을 내릴 때의 직관은 복사할 수 없습니다.

시스템이 증류해낸 것은 항상 한 사람의 그림자일 뿐입니다.

이 이야기가 여기서 끝난다면, 이는 단지 기술이 인간성을 서투르게 모방한 또 다른 사례에 불과합니다.

그러나 한 사람이 skill로 증류된 후, 이 skill은 정지하지 않습니다. 그것은 이메일에 답변하고, 새로운 문서를 작성하고, 새로운 결정을 내리는 데 사용됩니다. 즉, 이러한 AI가 생성한 그림자는 새로운 맥락을 생성하기 시작합니다.

그리고 AI가 생성한 이러한 맥락은 다시 Feishu와 DingTalk에 침전되어, 다음 증류의 훈련 자료가 됩니다.

2023년, 옥스퍼드 대학교와 케임브리지 대학교의 연구팀은 "모델 붕괴"에 관한 논문을 공동 발표했습니다. 연구에 따르면, AI 모델이 다른 AI가 생성한 데이터를 사용하여 반복 훈련을 진행할 때, 데이터의 분포는 점점 더 좁아진다고 합니다. 드물고 주변적이지만 극히 진실한 인간 특성은 빠르게 지워집니다. 단 몇 세대의 합성 데이터 훈련을 거치면, 모델은 긴 꼬리의 복잡한 진짜 인간 데이터를 완전히 잊고, 매우 평범하고 동질화된 콘텐츠를 출력하게 됩니다.

《자연》 2024년에도 AI가 생성한 데이터 세트로 미래 몇 세대의 기계 학습 모델을 훈련시키는 것이 그들의 출력을 심각하게 오염시킬 것이라는 연구 논문이 발표되었습니다.

이는 인터넷에 퍼져 있는 그 표정 패키지 이미지와 같습니다. 원래는 고화질의 스크린샷이었지만, 수많은 사람들이 전송하고 압축하고 다시 전송했습니다. 매 전파마다 일부 픽셀이 손실되고 잡음이 추가됩니다. 결국 이미지는 흐릿해지고 전자 포장됩니다.

진짜로, 암묵적 지식을 지닌 인간 맥락이 고갈될 때, 시스템이 포장된 그림자만으로 스스로를 훈련할 수 있을 때, 마지막에 남는 것은 무엇일까요?

누가 우리의 흔적을 지우고 있는가

남는 것은 오직 올바른 헛소리뿐입니다.

지식의 강이 AI의 무한한 반추와 자기 소화로 고갈될 때, 시스템이 내뱉는 모든 것은 극도로 표준화되고 극도로 안전해지겠지만, 또한 구제 불능으로 공허해질 것입니다. 당신은 수많은 구조가 완벽한 주간 보고서와 결점이 없는 이메일을 보게 되겠지만, 그 안에는 어떤 살아있는 기운도, 진정으로 가치 있는 통찰도 없습니다.

지식의 이 대붕괴는 인류의 두뇌가 둔해졌기 때문이 아닙니다. 진정한 슬픔은 우리가 사고의 권리와 맥락을 남기는 책임을 우리의 그림자에게 아웃소싱했다는 것입니다.

"동료.skill"이 폭발적으로 인기를 끌었던 며칠 후, GitHub에 "anti-distill"이라는 이름의 프로젝트가 조용히 등장했습니다.

이 프로젝트의 저자는 대모델을 공격하려고 하지 않았고, 어떤 거창한 선언도 하지 않았습니다. 그는 단지 노동자들이 Feishu나 DingTalk에서 자동으로 그럴듯하지만 실제로는 논리적 잡음이 가득한 무의미한 긴 글을 생성할 수 있도록 돕는 작은 도구를 제공했습니다.

그의 목적은 간단합니다. 시스템이 증류되기 전에 자신의 핵심 지식을 숨기는 것입니다. 시스템이 "자발적으로 쓴 긴 글"을 잡아내는 것을 좋아하니, 영양가 없는 무의미한 문자들을 주기로 한 것입니다.

이 프로젝트는 "동료.skill"처럼 폭발적으로 인기를 끌지 않았고, 심지어 작고 무력하게 보입니다. 마법으로 마법을 이기는 것은 본질적으로 자본과 기술이 설정한 게임 규칙 안에서만 돌고 도는 것입니다. 그것은 시스템이 점점 더 AI에 의존하고, 점점 더 실제 인간을 무시하는 대세를 바꿀 수 없습니다.

하지만 이것이 이 프로젝트가 전체 부조리극에서 가장 비극적이고 깊은 은유를 지닌 장면이 되는 것을 방해하지는 않습니다.

우리는 시스템에 흔적을 남기기 위해 매우 노력하고, 상세한 문서를 작성하고, 치밀한 결정을 내리며, 이 거대한 현대 기업 기계 속에서 자신이 존재했음을 증명하고, 자신이 가치가 있음을 증명하려고 합니다. 그러나 이러한 극도로 진지한 흔적이 결국 우리를 지우는 지우개가 될 것임을 알지 못합니다.

하지만 다른 각도에서 생각해보면, 이것이 반드시 완전한 죽음의 구역은 아닙니다.

왜냐하면 그 지우개가 지우는 것은 항상 "과거의 당신"이기 때문입니다. 파일로 패키지된 skill은 그 잡아내는 논리가 아무리 정교하더라도 본질적으로는 정지된 스냅샷일 뿐입니다. 그것은 내보내진 그 순간에 고정되어 있으며, 오래된 양분에 의존하여 정해진 프로세스와 논리 속에서 무한히 돌고 있습니다. 그것은 미지의 혼돈을 직면할 본능이 없으며, 실제 세계의 좌절 속에서 스스로 진화할 능력이 없습니다.

우리가 그러한 고도로 표준화된, 정형화된 경험을 내놓을 때, 오히려 우리는 스스로의 손을 비워줍니다. 우리가 계속해서 외부를 탐색하고, 끊임없이 자신의 인식 경계를 허물고 재구성하는 한, 그 구름 속에 머물러 있는 그림자는 영원히 우리의 뒷모습을 따라갈 수밖에 없습니다.

인간은 흐르는 알고리즘입니다.