AI에게 시스템 설치를 맡겨도 될까

에이전트가 점점 많이 하는 일 중 하나가 시스템 설정과 도구 설치다. 그런데 "어느 AI에게 명령 설치를 맡길 것인가"라는 질문은 모델마다 답이 크게 다르다. 나는 이 차이를 "순종하는 AI"와 "생각하는 AI"로 나눠 본다.

순종하는 AI는 요청한 패키지를 그대로 설치한다. 지시문 그대로 명령어를 나열하고 실행한다. 반면 생각하는 AI는 같은 요청을 받아도 잠깐 멈춘다. 지금 내 시스템에 어떤 도구가 deprecated인지 떠올리고, 그보다 나은 대안을 제안하거나, 자주 쓰는 명령에 별칭을 만들어준다.

예를 들어 같은 리눅스 도구 교체 작업을 시켰을 때, 한 모델은 문헌에 있는 명령만 기계적으로 설치했고 다른 모델은 구식 도구를 더 나은 것으로 바꾸고 편리한 별칭까지 정리해줬다. 결과물 품질의 차이보다 중요한 것은 접근 방식이다. "시키는 대로 하는 것"과 "맥락을 이해하고 더 좋은 선택을 하는 것"은 다르다.

시스템 설치처럼 되돌리기 어려운 일일수록 생각하는 AI가 안전하다. 무조건 실행하는 AI는 명령 하나 잘못 들어가면 시스템을 망칠 수 있고, 설치 후에도 무엇이 바뀌었는지 제대로 설명하지 않으면 관리가 어렵다. 반면 맥락을 이해하는 AI는 조작 전에 위험을 짚어주고, 실행 후에는 무슨 일이 벌어졌는지 명확히 알려준다. 에이전트를 선택할 때는 "얼마나 똑똑하나"보다 "얼마나 판단하며 실행하나"를 봐야 한다. 순종은 편하지만, 책임지는 판단은 훨씬 가치 있다. 시스템을 다루는 에이전트를 도입할 계획이라면, 그 모델이 단순히 따르기만 하는지 늘 확인해보길 권한다.