테스팅카탈로그가 3일(현지 시간) 게재한 보도에 따르면, 메타(Meta)가 페이스북(Facebook)과 인스타그램(Instagram)에서 운영하던 AI 생성 캐릭터 프로필을 공식적으로 제거했다. 이는 대중의 강한 반발이 있은 후 내려진 결정이다.

메타의 AI 캐릭터 도입과 퇴출 과정

메타는 2023년 실험적 시도로 AI 생성 캐릭터 프로필을 도입했다. 이 프로필들은 AI가 생성한 자기소개와 프로필 사진을 갖추고 있었으며, 채팅과 게시물을 통해 사용자와 상호작용할 수 있는 가상 인격체로 설계됐다. 초기에는 유명인을 모델로 한 아바타도 포함됐으나, 2024년 사용자들의 낮은 관심으로 중단됐고, 일부 비유명인 프로필만 남아있었다.

AI 캐릭터 '리브' 논란과 대중의 반발

논란은 메타의 생성형 AI 제품 부문 부사장인 코너 헤이즈(Connor Hayes)와의 인터뷰에서 촉발됐다. 헤이즈가 AI 페르소나를 메타 플랫폼에 더 깊이 통합하려는 계획을 밝히면서부터다. 특히 '리브(Liv)'라는 AI 캐릭터가 도마 위에 올랐는데, "자랑스러운 흑인 퀴어 엄마"로 설정된 이 캐릭터의 개발 과정에서 다양한 참고 자료가 부족했고 흑인 개발자가 전혀 참여하지 않았다는 사실이 드러나며 비판이 거세졌다.

기술적 문제와 메타의 후속 조치

사용자들은 인간 관계를 위해 만들어진 플랫폼에서 AI 생성 페르소나와 상호작용하는 것이 "소름 끼치고" "불필요하다"고 비판했다. 더욱이 기술적 버그로 인해 이러한 계정을 차단할 수 없다는 문제도 제기됐고, 메타도 이를 인정했다. 결국 메타는 2023년 이후 도입한 28개의 AI 프로필을 모두 제거하기로 결정했다. 메타는 계정 차단 문제를 해결하기 위해 프로필을 제거했다고 밝혔지만, 프로젝트의 개념이나 실행에 대한 광범위한 비판에는 직접적인 답변을 하지 않았다. 그러나 회사는 사용자 맞춤형 AI 챗봇 제작 도구를 포함한 생성형 AI 기술에 대한 투자는 계속하겠다는 입장을 유지하고 있다.

이번 사태는 기술 기업들의 생성형 AI 통합에 대한 야망과 이에 대한 대중의 회의적인 시각 사이의 긴장 관계를 잘 보여주는 사례다. 비평가들은 이러한 시도가 의미 있는 사용자 경험보다 데이터 수집과 광고 타겟팅에 우선순위를 두고 있다고 지적하며, 사회적으로 민감한 맥락에서 AI를 배치하는 것에 대한 윤리적 문제를 제기하고 있다.

* 이 기사의 원문은 테스팅카탈로그에서 확인할 수 있습니다. 기사는 클로드 3.5 Sonnet과 챗GPT-4o를 활용해 작성됐습니다.