알고리즘에도 법의 지배가 필요하다

법의 지배는 이제 사람이나 정부만이 아니라, 사회를 움직이는 알고리즘에도 필요하다. 누가, 어떤 근거로, 그 판단을 했는지 검증할 수 있어야 한다.

검색, SNS, 채용, 대출, 보험, 교육, 행정, AI 에이전트까지 중요한 결정이 코드로 옮겨 간다. 문제는 AI가 공정한가보다, 그 코드를 누가 감사할 수 있는가다. 공무원은 하루에 처리할 판단이 한정되지만, 알고리즘은 수억 명에게 수조 번도 판단할 수 있다. 권력의 규모가 달라진다.

로직과 외부에서 요구된 제약이 추적 가능해지면, 시민의 권리는 이의를 제기할 수 있다에서 내게 적용된 알고리즘을 검증할 수 있다로 넓어질 수 있다. 사람이 못 읽는 거대한 코드와 출력은 다른 AI가 상시 대조할 수도 있다. AI가 권력을 블랙박스로 만드는 미래와, AI로 권력을 더 감사하는 미래가 같이 있다. 20세기가 국가 권력을 법률로 묶었다면, 21세기는 기계 권력을 검증 가능성으로 묶는 쪽에 가깝다. 그 입구가 의외로 SNS 알고리즘 공개일 수 있다.