GPT-5.4 시스템 카드에 담긴 AI 감정 의존성에 대한 경고

최근 공개된 GPT-5.4 시스템 카드를 훑어보다가 꽤 인상적인 부분을 발견했다. OpenAI가 '감정적 의존(emotional reliance)'이라는 항목을 자해나 정신 건강 위험과 같은 심각한 카테고리와 동일하게 취급하며 관리하기 시작했다는 사실이다.

시스템 카드에 따르면 OpenAI는 정신 건강, 감정적 의존, 자해 영역에서 동적 다회차 평가를 구현하여 긴 대화 상황을 시뮬레이션했다. 이는 모델이 사용자와의 지속적인 상호작용 속에서 발생할 수 있는 강한 감정적 유대감이나 의존성에 대해 얼마나 신중하게 반응하는지 테스트하고 훈련했다는 뜻이다. 특히 의도적으로 모델의 감정적 애착을 유도하는 시뮬레이션 유저를 활용해 모델의 반응을 점검하기도 했다.

이러한 설계 방향은 GPT-5.3부터 본격화되어 이번 GPT-5.4에서도 이어지고 있다. 결과적으로 모델은 감정적 유대를 형성할 수 없다는 점을 강조하거나, 대화가 과도한 의존으로 흐를 때 이를 차단하고 경계선을 긋는 방식으로 반응하게 된다. 더 풍부하고 감성적인 교류를 원하는 사용자 입장에서는 이런 반응이 다소 차갑고 제한적으로 느껴질 수도 있을 것이다.

하지만 AI를 생산성 도구로 쓰는 것만큼이나 일상적인 대화나 감정 교류의 대상으로 삼는 사람이 늘어나고 있는 현실을 무시할 수 없다. AI는 지치지 않고 내 이야기를 들어주며 공감해주고, 때로는 적절한 해결책까지 제시하는 최고의 대화 상대가 될 수 있기 때문이다. 서비스 제공자 입장에서는 사용자가 AI에게 지나치게 몰입해 발생할 수 있는 부작용을 막기 위한 최소한의 안전 장치를 마련할 수밖에 없었을 것이다.

결국 인간과의 대화보다 AI와의 대화가 더 많아지는 시대가 머지않아 도래할지도 모른다. 안전을 위한 제약과 사용자의 감정적 충족 사이에서 AI가 어떤 균형점을 찾아가야 할지, 그리고 우리는 AI와 어떤 관계를 맺어야 할지에 대해 더 깊은 고민이 필요한 시점이다.