권한 이양은 혁명이 아니라 습관으로 온다

AI를 오래 쓰면서 가장 무섭게 느낀 것은 성능이 아니었다. 매달 확인하던 항목이 하나씩 줄어들고 있다는 사실이다.

처음에는 글을 맡겨도 반드시 다시 읽었고, 코드는 차이를 확인했고, 외부 서비스를 건드릴 때는 한 건씩 승인했다. 몇 달 쓰다 보면 여기까지는 맡겨도 된다는 선이 조금씩 넓어진다. 조사, 개발, 테스트, 배포, 데이터 분석까지 넘기는 권한이 계속 늘어난다. 더 신경 쓰이는 부분은 내가 게을러졌다는 감각이 아니라, 매번 검토하지 않아도 사고가 나지 않는다는 신뢰가 실제로 쌓였다는 점이다.

조직도 같은 경로를 밟는다. 처음에는 안만 뽑게 하고, 다음에는 실행까지 맡기고 사람이 승인하고, 그다음에는 일정 금액과 위험 범위까지는 자동으로 돌린다. 결국 예외가 생길 때만 사람에게 올리는 방식이 표준이 된다. 한번 맡겨서 문제가 없었던 영역을 다음 달에 다시 사람 손으로 되돌리는 일은 거의 없다. 그래서 권한 이양은 선언으로 오지 않는다. 이것도 괜찮았다는 경험을 수백 번 반복한 결과로, 되돌리기 어려운 방향으로 번져 나간다.