지능이 무한해질수록 부족해지는 것은 선함이다

AI가 똑똑해질수록 마지막에 필요한 것은 지능이 아니라 양심일지도 모른다. 교황의 발언은 단순한 AI 규제론이 아니라 꽤 본질적인 지적이다.

AI가 검색, 추천, 채용, 교육, 금융, 행정까지 사회의 의사결정에 들어오기 시작하면 하나의 판단이 수백만, 수억 명에게 동시에 작용한다. 사람의 판단 실수는 영향 범위에 한계가 있지만, AI는 같은 판단을 순식간에 세계 규모로 복제한다. 그러니 무서운 것은 AI가 악해지는 일보다, 지능만 거대해져서 선악을 정하는 속도를 인간 사회가 따라잡지 못하는 일이다.

교황이 말하는 인간성을 해치지 않는 AI는 AI를 약하게 만들자는 이야기가 아니다. 아무리 강한 지능을 만들어도 그 목적과 권한과 책임과 투명성만은 인간 사회 쪽이 계속 쥐고 있자는 이야기에 가깝다. 문명은 지금까지 더 똑똑해지면 문제는 풀린다고 여겨 왔다. 하지만 AI로 지능 자체가 대량 공급된다면, 마지막에 모자라는 것은 답이 아니라 어떤 답을 채택해도 되는지를 정하는 기준이다. 그러면 AI 시대에 윤리는 낡아지기는커녕 무엇을 해서는 안 되는가를 정하는 최상류로 돌아온다. 인류의 병목이 똑똑함에서 선함으로 옮겨 가는 것이다.