모델보다 통로를 먼저 고르게 된다

AI를 쓰는 사람의 선택 순서가 바뀌고 있다. 예전에는 어떤 모델을 쓸지 먼저 정했다. 지금은 어떤 통로로 모델에 접근할지를 먼저 정하고, 모델은 그 위에서 바꿔 끼운다. 모델의 수명이 몇 달 단위로 짧아지면서, 더 오래 남는 결정이 통로 쪽으로 이동한 것이다.

숫자를 보면 이 이동이 조금 더 분명해진다. 여러 모델과 추론 공급자를 하나의 API로 묶어주는 게이트웨이 한 곳의 주간 처리량이 반년 사이 5조 토큰에서 25조 토큰 규모로 늘었고, 사용 개발자 수도 수백만 명대로 올라갔다고 한다. 이 성장의 상당 부분은 새로운 모델을 발명해서 나온 게 아니라, 남이 만든 모델을 쉽게 갈아 끼울 수 있게 해준 대가로 나왔다.

개인 입장에서 이 구조가 편한 이유는 명확하다. 구독을 여러 개 유지하면 매달 고정비가 쌓이고, 그 플랫폼의 하네스와 정책에도 함께 묶인다. 반면 종량제 게이트웨이 하나를 두면 이번 주에 좋은 모델을 이번 주에 쓰고, 다음 주에 더 나은 모델이 나오면 설정 한 줄만 바꾼다. 신규 모델이 무료로 풀리는 구간도 놓치지 않는다.

물론 통로에도 위험은 있다. 특정 게이트웨이에 코드와 습관이 얽히면 그것 역시 종속이다. 그래서 대안을 하나쯤 알아두고, 호출 코드는 공급자를 바꿔도 되도록 얇게 유지하는 편이 좋다.

정리하면, 지금 개인이 붙잡을 만한 자산은 특정 모델이 아니라 모델을 빠르게 교체할 수 있는 배선이다.