물 앞의 갈증 — 수문의 역설
댐 위로 물이 차오른다. 댐 아래 들판은 마르고 있다.
물이 부족한 것이 아니다. 수문이 열리지 않는 것이다.
수문에는 지키는 사람이 있다. 이 사람에게는 정당한 역할이 있다.
장마철에 수문을 전면 개방하면 마을이 수몰된다. 물의 양을 조절하는 것이 이 사람의 일이다. 너무 많이 열지 않는 것. 너무 빨리 열지 않는 것. 하류를 보호하는 것.
문제는, 조절과 차단의 경계가 바깥에서는 보이지 않는다는 것이다.
한 프로젝트의 마지막 장면이다.
AI가 전사 데이터에 의미를 부여하는 기술이 검증되었다. 반복 테스트를 거쳤고, 기존 수작업보다 정확하다는 것이 수치로 확인되었다. 「시험이 채점당한 날」에서 다뤘던, 측정 기준 자체가 정치적이었다는 구조 분석까지 마쳤다.
남은 건 보고였다. 의사결정자가 직접 요청한 분석의 결과를 전달하는 것.
보고는 이루어졌다. 돌아온 반응은 한 마디.
"이걸 왜 하는 건지 모르겠다."
업무는 홀딩되었다.
이상한 일이다. 의사결정자 본인이 요청한 분석이다. 전사 데이터 체계를 정비하겠다는 의지로 시작된 일이다. 기술은 작동하고 있었고, 결과는 나와 있었다.
그런데 자기가 요청한 결과를 받아들고, "왜 하는지 모르겠다"가 나왔다.
무엇이 빠졌는가.
경로.
기술 검증 결과가 의사결정자에게 도달하기까지, 몇 개의 수문을 통과해야 했다. 각 수문에는 지키는 사람이 있었다. 그리고 물은 수문을 통과할 때마다 원형을 잃어갔다.
분석 결과 중 일부는 수문에서 사라졌다. 의사결정자가 보기를 원했을 내용 — 경영 효율화의 방향, 수작업을 줄이는 근거 — 이 수문을 통과하지 못했다. 수문지기에게 그 물은, 흘려보내면 자기 하류의 논을 잠기게 할 물이었다.
통과한 물은 성분이 바뀌어 있었다. AI가 만든 결과를 AI가 만든 기준으로 평가하는 대신, 전혀 다른 잣대가 들어왔다. 원하는 방향의 결과가 나올 때까지 잣대를 바꾸고, 그렇게 만들어진 숫자가 보고서에 올라갔다. 물은 수문을 통과했지만, 수원지의 물이 아니었다.
의사결정자는 그 물을 받아들고 이상함을 감지했다. 맞다. 이상한 것이 맞았다. 목적이 보이지 않는 것이 당연했다 — 목적은 수문에서 이미 제거되었으니까.
그런데 의사결정자가 의심한 것은 수원지였다. 수문이 아니었다.
이 사람들을 단순한 방해자로 보면 구조를 놓친다.
그들도 한때는 물이었다.
데이터 관리 체계를 설계한 사람들이다. 표준을 정의하고, 시스템을 구축하고, 인력을 배치했다. 수년간 조직이 데이터를 다루는 방식 자체를 만든 사람들. 그 공으로 지금 자리에 있다.
그리고 그 시스템은 돌아간다. 아름답지 않다. 유사도 측정 기준이 사실상 무의미해져도, 사람이 전부 수작업으로 보완하고 있어도, 매일 데이터는 흐르고 보고서는 올라간다. 고장 나면 고친다. 그게 작은 일이 아니다.
자기 기준으로, 이 사람들은 합리적이다. 시스템을 지키고 있고, 일을 잘 하고 있다.
여기서 비극이 시작된다.
새 기술을 품었다면 어떻게 되었을까. 자신들이 만든 체계 위에 AI를 얹고, 수작업이 자동화로 전환되는 과정을 설계하고, 전사 데이터의 품질이 한 단계 올라가는 것을 주도했다면. 이 사람들은 전설이 되었을 것이다. 레거시를 만든 세대이자, 레거시를 넘어선 세대.
대신, 수문을 조였다. 합리적으로.
AI 성과가 입증되면 수작업의 근거가 약해진다. 수작업의 근거가 약해지면 그것을 관리하는 사람의 자리도 약해진다. 급격한 변화는 하류를 흔든다 — 그 흔들림을 방지하는 것이 자기 역할이다. 물이 많으니까 더 조심해야 한다. 수문을 지키는 사람의 논리로는 완벽하다.
그리고 이 사람들에게는 가장 강력한 무기가 있었다. 논쟁하지 않아도 되는 위치.
AI가 더 정확하다는 분석이 올라온다. 반박할 필요가 없다. 보고의 맥락을 조정하면 된다. 강조점을 바꾸고, 어떤 내용을 빼고, 평가 기준을 다시 짜면 된다. 증명의 부담은 항상 새 기술 쪽이 진다. 수문을 지키는 쪽은 열지 않으면 그만이다.
레거시가 전설이 되지 못하고, 정치가 되는 순간이다.
잘못된 것이 아니다. 비합리적인 것도 아니다. 자기 시스템 안에서 자기 역할을 지키는 것. 물이 넘칠 때 수문을 조이는 것. 조직 안에서 이것보다 자연스러운 행동은 없다.
그런데 아래에서 보면 — 조절인지, 차단인지 구분이 안 된다. 위에서 보면 — 이상한 물만 도착한다. **같은 행동이 안에서는 보호이고, 바깥에서는 왜곡이다.** 이것을 구분할 수 있는 자리는 수문 위뿐이다.
그런데 수문 위에 서 있는 사람이 구분하고 있으리라는 보장은 없다. 자기 일을 했을 뿐이라고, 자기 조직을 보호했을 뿐이라고, 진심으로 믿고 있을 수 있다. 자기가 가진 것이 최선이라고 여기는 사람에게, 하류의 들판이 마르고 있다는 것은 보이지 않는다. 새 물이 흘러야 들판은 다시 적셔지고, 비옥해진다. 그 과정에 혼란이 있을 수 있다. 그러나 혼란을 염려하여 계속 막으면, 들판은 척박해진다. 문명이 꽃피었던 곳이 불모지가 된다.
그 자리가 편하지만은 않을 것이다. 수문을 지키는 일에는 나름의 무게가 있다. 그러나 수문 밖에서 물을 흘려보내려는 사람에게, 그것은 안정감으로 보인다. 그리고 바로 그 안정감이 — 스스로 전설이 될 기회를 잠그고 있다.
밖에서 어떻게 보이는지도, 하류가 마르고 있다는 것도, 스스로 무엇을 잃고 있는지도 — 수문 위에서는 보이지 않는다. 보이지 않으니 묻지 않는다. 묻지 않으니 바뀌지 않는다.
이것이 수문의 구조다.
물은 댐 위에 차오른다. 들판은 댐 아래에서 마른다. 수문을 여는 사람은 위도 아래도 아닌, 중간에 있다.
수문을 열면 물이 흐른다. 동시에, 수문을 지키던 자리의 존재 이유가 씻겨간다. 그리고 물이 너무 많이 흐르면 들판이 잠기는 것도 사실이다.
열지 않을 이유는 항상 충분하다. 정보 비대칭은 물이 만드는 것이 아니라, 수문이 만드는 것이다.
「시험이 채점당한 날」에서 "자를 쥔 손"이 측정의 기준을 정한다고 썼다. 이제 하나가 더 보인다. 자를 쥔 손은 측정만 통제한 것이 아니었다. 측정 결과가 의사결정자에게 도달하는 경로도 같은 손이 통제했다.
이중 필터다. 첫 번째 필터: 무엇을 측정할 것인가. 두 번째 필터: 측정된 것을 어떻게 전달할 것인가. 두 필터를 모두 거친 정보로 판단하는 의사결정자는, 기술이 실패했다고 결론짓는다. 기술은 실패한 적이 없는데.
「코드가 완성된 날」에서 파이프의 문제를 다뤘다. 이번에 드러난 것은 파이프 위의 밸브다. 파이프가 깔려 있어도, 밸브가 잠겨 있으면 물은 흐르지 않는다. 파이프는 기술의 문제다. 밸브는 권력의 문제다. 그리고 권력은 — 조절이라는 이름으로 작동한다.
엔터프라이즈 AI가 좌초하는 원인 목록은 익숙하다. 데이터 품질. 모델 정확도. 인프라. 문화.
그런데 이 모든 것이 갖춰진 프로젝트도 좌초한다. 기술이 작동하고, 데이터가 있고, 의사결정자에게 의지가 있는데도.
그때 빠진 것은 기술이 아니다. 경로다. 그 경로 위에 서 있는, 한때 물이었고 지금은 수문이 된 사람들의 합리적 계산. 물을 막고, 성분을 바꾸고, 이도저도 아닌 것을 흘려보내는. 그리고 그 계산이 조절인지 차단인지, 아무도 구분하지 못한다는 사실.
수문은 물이 넘칠 때 여는 것이 아니다. 물이 넘치기 때문에 더 조인다. 기술이 성공할수록, 수문은 더 단단히 닫힌다. 이것이 역설이다.
당신의 AI는 물이 부족한 것인가 — 아니, 수문이 잠겨 있는 것은 아닌가?
잠겨 있다면. 지금 도달하는 물은 원래의 물인가.
그것은 조절인가, 차단인가.
그리고 그 사람도 한때는 물이었다는 것을 — 기억하고 있는가.
