지능이 화면 밖으로 나오면 위험의 진입장벽이 낮아진다

빌 게이츠의 경고로 세상이 화이트칼라 직무 변화를 이제 막 논의하기 시작한 옆에서, 로봇의 손재주와 단가는 계속 개선되고 있다. 지능이 화면 안에서 현실 세계로 나오기 시작했다는 뜻이다.

다음에 오는 파도는 "생각하는 일"의 자동화만이 아니다. "움직이는 일"의 자동화까지 포함한다. 그리고 이때 쟁점은 고용에 국한되지 않는다. 피지컬 AI를 저렴하게 대량으로 쓸 수 있게 되면, 전쟁과 테러와 파괴 공작에 더해 바이오 영역에서도 위험한 지식과 실험 설계에 대한 접근이 넓어진다. 지금까지 높은 전문성이나 큰 조직이 있어야 가능했던 종류의 위험까지 진입장벽이 한 번에 내려갈 가능성이 있다.

몇 년 뒤에 어디까지 갈지는 아무도 모른다. 하지만 틀릴 수 있다는 것과 대비하지 않아도 된다는 것은 전혀 다른 말이다. 늦게 온다고 보고 준비했다가 실제로 늦으면 준비가 남을 뿐이지만, 예상보다 빨리 왔을 때 고용도 안보도 바이오 보안도 제도도 아무것도 없다면 회복이 불가능하다. 기술은 계속 가속 페달을 밟고 있는데 사회는 아직 지도조차 펴지 않았다. 적어도 AI에 대해서는 미래를 맞히러 가기보다 조금 보수적인 쪽으로 설계해 두는 편이 낫다.