기업들은 AI에 두 번 돈을 낸다.
첫 번째는 서비스 이용료다. 두 번째는 나델라의 표현을 빌리면 '배기가스(exhaust)'다. 직원들이 AI와 주고받은 수정 요청, 평가, 사용 패턴 — 이 모든 상호작용 데이터가 AI 제공사로 흘러 들어가 모델을 더 똑똑하게 만든다. 지식을 소비하는 행위가 곧 지식을 생산하는 행위가 되는 셈이다.
사티아 나델라(Satya Nadella) Microsoft CEO는 지난 7월 13일 자신의 블로그에 이 구조를 '역정보 역설(reverse information paradox)'이라 명명하며 정면으로 비판했다.
나델라가 지적한 핵심은 이중 기준이다. OpenAI와 Anthropic은 인터넷의 공개 데이터를 학습에 활용하면서 공정 이용(fair use)을 근거로 내세운다. 동시에 자사 서비스 약관에는 '증류(distillation)' 금지 조항을 명시해뒀다. 증류란 대형 모델의 출력값을 소형 모델 학습에 활용하는 기법으로, 두 회사는 이를 통해 경쟁사 — 특히 중국 AI 기업들 — 가 저비용으로 모델 성능을 복제하는 것을 차단해왔다.
나델라의 표현은 간결하다. "지식을 소비하는 행위가 곧 지식을 창출하는 행위다(In consuming intelligence, you are creating intelligence)." 이 한 문장이 역설의 본질을 찌른다. 기업이 AI를 쓸수록 AI 제공사의 모델은 강해지고, 그 경제적 가치는 지식을 생산한 기업이 아니라 인프라를 운영하는 제공사에 집중된다.
산업 내 신뢰 구조가 흔들리는 이유가 여기 있다. AI 제공사들은 고객사의 내부 지식을 간접적으로 학습하면서 잠재적으로 경쟁 제품을 만들 수 있는 위치에 선다. 나델라는 이 구조에서 기업들이 자신의 '학습 루프'를 직접 통제해야 한다고 주장한다. Microsoft가 마침 그런 인프라를 판매한다는 사실은 이 비판의 맥락을 더 복잡하게 만든다.
국내 AI 규제 환경에서도 이 논쟁은 무관하지 않다. 데이터 주권과 모델 투명성을 둘러싼 논의가 이어지는 상황에서, 글로벌 AI 기업들이 어떤 기준으로 학습 데이터를 규정하느냐는 국내 정책 수립의 참조점이 된다. 공정 이용의 범위, 고객 데이터의 재활용 허용 범위, 증류 금지의 법적 근거 — 이 세 가지는 AI 서비스 계약과 규제 모두에서 아직 명확한 기준이 없는 영역이다.
나델라의 비판이 OpenAI·Anthropic의 약관을 바꾸지는 않을 것이다. 하지만 AI 산업 안에서 데이터 흐름의 비대칭성을 공개적으로 문제 삼은 목소리로는 가장 무게감 있는 것 중 하나다. 공개 데이터로 학습하고, 고객 데이터로 성장하고, 자사 모델은 복제 금지로 보호하는 구조 — 이 세 층위의 기준이 하나의 회사 안에 공존한다는 사실이 이제 업계 안팎에서 공론화되고 있다.
