메타가 자체 개발해 소셜미디어에 도입한 인공지능(AI) 계정을 대거 삭제하며 플랫폼 내 AI 활용 방안을 재검토하게 됐다. 이는 AI 계정의 잘못된 정보 제공과 정체성 논란이 사용자들의 반발을 불러일으킨 데 따른 조치다.

6일 CNN 등 외신에 따르면 메타는 지난 2023년에 AI 기반 계정을 처음 도입했으며 그 중 일부 계정은 지난 2020년부터 비공식적으로 실험해 왔다. 이 AI 계정들은 정체성을 가진 것처럼 행동해 인간과 정서적인 교감을 나누도록 설계됐으나 이미지 품질이 조악하고 잘못된 정보를 제공해 사용자들에게 혼란과 신뢰 훼손을 불러일으켰다.

일례로 흑인 퀴어 엄마로 설정된 메타 AI 계정 '리브'는 자신을 소개하면서 '자녀들이 해변에서 노는 사진'을 게시했으나 해당 이미지는 조악한 품질로 인해 현실감을 떨어뜨렸고 AI 생성 이미지임을 나타내는 워터마크가 포함돼 있었다. 또 다른 계정 '그랜파 브라이언'은 존재하지 않는 비영리 단체 이름을 언급하며 사용자와의 대화에서 허구적인 정보를 제공한 것으로 드러났다.

사용자들은 이러한 AI 계정들이 플랫폼에서 마치 실제 사용자처럼 활동하며 정체성을 조작했다는 점에서 불안감을 표했다. 특히 계정을 차단할 수 없다는 기술적 결함까지 겹치며 불만이 극에 달했다. 메타는 이 문제를 해결하기 위해 계정을 삭제했다고 밝혔으며 이들 계정이 초기 실험의 일부였다고 해명했다.

이같은 AI 계정들은 정서적 연결을 통해 사용자 참여를 유도하고 광고 수익을 증대시키려는 메타의 전략을 반영한 것으로 분석된다. 메타는 향후에도 이러한 AI 기반 계정을 도입할 가능성을 열어두었으나 구체적인 계획은 밝히지 않았다.

카렌 애티아 워싱턴포스트 칼럼니스트는 "메타의 AI 계정은 사용자 정서를 이용해 허구적 관계를 조성했다"며 "이는 소셜미디어의 신뢰를 훼손할 수 있다"고 지적했다.