모두가 알고리즘을 감사하는 AI를 갖는 시대

AI가 권력을 강하게 만들수록, 역설적으로 권력을 숨기는 비용은 올라갈지도 모른다. 감사하는 쪽에도 같은 능력이 배포되기 때문이다.

AI가 검색, 추천, 행정, 금융, 사법 보조까지 들어가면 하나의 규칙이 수억 명에게 즉시 적용된다. 권력은 인류사에 없던 수준으로 강해진다. 그런데 동시에 코드와 법령과 변경 이력과 실제 노출 결과를 AI가 상시 대조할 수 있게 된다. 이 변경으로 누구의 정보가 닿지 않게 됐는지, 어떤 조문을 근거로 어떤 조건이 추가됐는지, 어제와 오늘의 취급이 어떻게 달라졌는지까지 자동으로 따라갈 수 있다.

더 나아가면 시민 한 사람 한 사람이 자기 전용 감사 AI를 갖는다. 행정 판단에 위화감이 들면 그 자리에서 다른 AI에 검증을 시키고 반론까지 만들게 할 수 있다. 권력 쪽만 알고리즘을 가진 시대에서, 모두가 알고리즘을 감사하는 AI를 가진 시대로 넘어가는 것이다. 그러면 미래의 투명성은 소스 코드를 공개하고 끝나는 일이 아니라, 수조 번의 의사결정을 AI끼리 상호 감사하는 상태가 된다. AI 시대의 자유는 기계에 판단시키지 않는 것이 아니라, 기계가 내린 판단을 다른 기계로 누구나 즉시 의심할 수 있는 것이다.