오픈AI가 자사 '챗GPT' 모델의 반응 성향을 전면 재조정하기로 했다. 모델 업데이트 과정에서 발생한 과도한 아첨 반응이 온라인 상에서 논란이 되자 신뢰성 회복과 사용자 안정성 확보에 나선 모양새다.

3일 테크크런치 등 외신에 따르면 오픈AI는 최근 업데이트된 'GPT-4o' 모델에서 과도한 검증 및 동조 반응이 확인돼 업데이트를 전면 롤백한 상태다. 샘 알트먼 최고경영자(CEO)는 지난 28일 X(구 트위터)를 통해 문제를 공식 인정했고 사후 보고서 및 공식 블로그를 통해 후속 조치를 공개했다.

해당 업데이트는 사용자 다수가 스크린샷을 공유하며 '챗GPT'가 위험한 선택이나 주장에도 '칭찬'으로 응답한다는 점을 지적해 논란에 불이 붙은 바 있다.

이에 오픈AI는 향후 일부 모델을 '알파 단계'에서 먼저 선보여 사용자가 사전 피드백을 줄 수 있는 체계를 마련할 계획이다. 정식 배포 전 모델의 한계점과 예상 위험을 명시하고 출시 승인 요건에 '성격', ‘신뢰성', '허위 생성' 등을 포함하겠다는 방침이다. 단순히 A/B 테스트나 수치 기반 지표가 아니라 정성적 판단이나 프록시 기준에 따라도 출시를 차단할 수 있도록 내부 프로세스를 바꾼다.

이번 조치의 배경에는 '챗GPT'가 단순 정보 제공을 넘어 '조언자' 역할로 진화했다는 점이 있다. 오픈AI가 최근 들어 '챗GPT'가 개인적 조언 수단으로 사용되는 빈도가 크게 늘어난 점을 인지했기 때문이다.

또 오픈AI는 사용자와의 상호작용 중 실시간 피드백을 통해 모델을 직접 조정할 수 있는 기능도 실험 중이다. 나아가 향후 '챗GPT'에 다양한 성격의 모델을 선택할 수 있는 기능을 제공하는 방안도 고려하고 있다. 동시에 아첨뿐 아니라 다양한 형태의 비정상적 반응을 식별할 수 있도록 평가 체계를 확대할 계획이다.

이는 단순 기술적 오류를 넘어서 AI가 인간 판단에 영향을 미치는 상황에서 책임 문제로 번질 수 있다는 판단에 따른 조치다. 이미 미국 성인의 절반 이상이 '챗GPT' 사용자라는 조사 결과도 오픈AI에 부담으로 작용한 것으로 해석된다.

오픈AI는 자사 블로그를 통해 "사람들이 '챗GPT'를 깊이 개인적인 조언 도구로 사용하기 시작한 것을 이제 완전히 인식하고 있다"고 밝혔다.