되돌릴 수 있는 것은 권한뿐이다

AI에게 일을 맡길 때 진짜로 되돌릴 수 없는 쪽은 AI가 쥔 권한이 아니다. 그 일을 하던 사람 쪽에서 조용히 사라지는 운용 능력이다.

처음에는 결과를 하나씩 확인한다. 몇 달 동안 사고가 없으면 검토를 건너뛰고, 그다음에는 그 일의 세부를 아예 따라가지 않게 된다. 그러면 확인하려면 할 수 있다는 상태가 설명을 들어야 겨우 이해되는 상태로 바뀐다. 더 지나면 AI를 멈춘 순간 내 손으로는 돌릴 수 없는 영역이 생긴다. 권한은 설정 한 줄로 회수하지만 지식과 판단 횟수는 회수되지 않는다.

조직은 이 성질을 더 크게 겪는다. 개발과 광고와 경리와 조달을 몇 년간 문제없이 돌린 뒤에 사람이 전부 검토하자고 결정해도, 그때는 전 공정을 이해하는 사람이 회사에 남아 있지 않을 수 있다. 되돌리는 선택은 늘 비합리적으로 보인다. 이중 확인은 비용과 속도를 함께 악화시키고, 무사고 실적이 쌓일수록 인력을 유지할 근거는 줄어든다. 그래서 위임은 성공할수록 돌아갈 길이 좁아진다. 최종 결정권을 형식으로 들고 있어도 판단을 뒤집을 실력이 없으면 남는 선택지는 맡기는 것뿐이다.