유명 인사를 사칭한 인공지능(AI) 광고가 급증하면서 광고 플랫폼의 신뢰도가 위협받고 있다는 경고가 나왔다. 가짜 음성과 얼굴을 활용해 소비자를 속이는 방식이 고도화되자 구글 등 글로벌 플랫폼 기업들은 관련 계정 대규모 정지, 정책 강화 등 선제적 대응에 속도를 내고 있다.

17일 구글 '2024 광고 안전 보고서'에 따르면 지난해 생성형 AI 기술을 악용한 사기 광고가 급증하면서 회사는 사칭 광고를 운영한 광고주 계정 70만 개 이상을 영구 정지했다. 보고서는 이 같은 위협에 대응하기 위해 AI 기반 탐지 시스템을 고도화했고 광고 차단, 계정 제재, 신원 인증 강화, 선거 광고 투명성 제고 등 다각도의 조치를 집행한 내용을 담고 있다.

보고서에 따르면 구글은 거대언어모델(LLM)을 중심으로 광고 감시 체계를 정교화해 실시간 위협에 대응하고 있다. AI의 신속한 위반 탐지 능력을 활용해 정책 집행 정확도를 높이고 사기 계정의 진입 자체를 차단하는 방향으로 전략을 전환했다.

특히 지난 2023년부터 이어진 기술 업그레이드의 일환으로, 지난해에만 50건이 넘는 기술 업데이트를 실시해 모델 성능을 끌어올렸다. 이를 기반으로 전체 광고 집행의 자동화율이 높아졌고 인력은 복잡하고 모호한 사안에 집중할 수 있게 됐다.

구글은 광고 수익화 플랫폼인 게시자 네트워크에서도 유사한 방식으로 AI를 활용하고 있다. 작년 기준 조치가 이뤄진 전체 페이지 중 97%가 AI 기반 모델로 탐지됐으며 광고 검토 속도가 빨라지면서 위반 페이지에 대한 신속한 차단이 가능해졌다.

AI는 단순한 감시를 넘어 사전 예방에도 적극 활용되고 있다. 이상 결제 정보나 비즈니스 사칭 같은 초기 징후를 분석해 광고가 실제로 노출되기 전 단계에서 계정을 정지시키는 방식이다. 이 과정에서 정지된 계정 수는 3천920만 개 이상으로, 대부분 광고를 한 번도 게재하지 못한 채 차단됐다.

예방적 접근의 핵심에는 '광고주 신원 인증 프로그램'이 있다. 인증을 거치지 못한 광고주가 플랫폼에 재진입하는 것을 막고 광고 시청자에게 광고의 출처를 투명하게 공개하는 방식이다. 현재 인증된 광고주는 전 세계 200개 이상의 지역에 걸쳐 있으며 전체 광고 노출의 90% 이상이 이들에게서 발생했다.

구글은 올해 글로벌 사기 동향에 대응하기 위한 협력도 확대했다. 글로벌 안티스캠 얼라이언스(GASA)와 손잡고 사기 탐지 정보 공유 시스템인 '시그널 익스체인지'를 출범시켰고 자체 사기 대응팀 역시 신속 대응 중심으로 운영 체계를 개편했다.

사기 광고 대응 외에도 구글은 올해 전 세계에서 이뤄진 선거를 대비해 정치 광고에 대한 관리도 강화했다. '광고주 명시' 조항을 전 국가로 확대했고 선거 광고에 AI 생성 콘텐츠가 포함될 경우 해당 내용을 명확히 표기하도록 요구했다.

이와 관련해 구글은 8천900개 이상의 신규 선거 광고주를 인증했으며 신원이 인증되지 않은 계정으로부터 게시된 선거 광고 1천70만 건을 제거했다. 명백한 허위 정보가 포함된 광고에 대해서도 적극적인 조치를 이어갔다.

광고 및 게시자 정책 역시 30건 이상이 업데이트됐다. 구글은 AI 기술의 발전 속도를 반영해 실시간 감시 및 정책 적용이 가능한 구조를 만들었다며, 앞으로도 기술 고도화와 파트너십 확대를 통해 생태계 전반의 안전성을 강화할 계획이다.

알렉스 로드리게스 구글 광고 부문 부사장은 "위협이 진화하는 만큼 대응 체계도 진화해야 한다"며 "AI 기반 기술을 통해 보다 빠르고 정밀한 사기 방지를 구현하고 있다"고 밝혔다.