지난달 25일에 추가된 챗GPT의 이미지 생성 기능은 '지브리 프사' 유행을 만들어내며 선풍적인 인기를 끌고 있다. 너도나도 지브리 프사를 위해 사진을 챗GPT에 업로드하고 있는 가운데 일각에서는 사진 속 얼굴 정보가 데이터로 활용됨에 따라 저작권과 개인정보 보호 문제가 생길 것이라는 의견을 제기하고 있다.

AI 기술에 대한 개인정보 보호의 복잡성과 중요성은 점점 더 커지고 있다. 생성형 AI의 다음 단계로 여겨지는 AI 에이전트도 마찬가지다. AI 에이전트는 사람의 개입 없이 특정 작업을 자율적으로 실행하도록 설계된 자율 지능형 시스템이다.

AI 에이전트는 이미 광범위하게 사용되고 있다. 금융부문에서는 시장 동향을 자율적으로 감시하고, 거래 신호를 해독하며, 전략을 조정하는 등 즉각적으로 위험을 감지하고 대응한다. 공공부문에서는 보조금 자격 평가와 같은 업무를 간소화하고 개인 맞춤형 공공 서비스를 제공해 효율성을 향상시키고 있다.

AI 에이전트는 강력한 기능과 다양한 이점을 제공하고 있지만, 개인 식별이 가능한 방대한 양의 데이터에 의존하기에 개인정보 보호 문제가 발생할 수 있다. 이는 기업의 개인정보 관리 방식에 대한 소비자의 불신을 심화시킬 수 있다. 개인정보 보호가 매우 중요한 의료·금융 서비스 분야에서는 더욱 심각한 문제를 일으킬 수 있다.

클라우데라가 국내 IT 리더를 대상으로 실시한 설문조사에 따르면 응답자의 82%는 자신의 기업에서 AI 에이전트를 사용하고 있으며, 95%는 AI 에이전트를 위한 투자의 중요성에 공감하는 등 관심이 높은 것으로 나타났다.

반면 개인정보 보호 리스크는 AI 에이전트 도입의 가장 큰 걸림돌로 작용하는 것으로 나타났다. 응답자의 42%가 데이터 프라이버시 문제를 가장 우려한다고 답했으며, 82%는 AI 에이전트가 보다 강력한 데이터 프라이버시 및 보안 기능을 갖추길 바란다고 답했다.

개인정보 보호 리스크를 해소하기 위해서는 여러 가지 단계가 필요하다. 첫 단계는 중요 개인 식별 정보(PII)를 차별화하고 보호하는 것이다. AI 에이전트는 적절한 매개변수가 설정되지 않으면 어떤 데이터든 가리지 않고 사용한다.

민감 정보 사용을 사전에 방지하려면 포괄적인 암호화·토큰화 전략을 사용하는 데이터 플랫폼 도입이 필수다. 높은 안전성을 갖춘 데이터 플랫폼은 온프레미스와 클라우드 등 모든 데이터 환경에 일관되게 적용되며 악의적 행위자에 대한 강력한 방어를 구축해 AI의 안전한 도입을 지원하는 동시에 데이터를 안전하게 보관할 수 있다.

두 번째 단계는 복잡한 데이터 거버넌스와 보안 의무를 이행하는 것이다. 전 세계적으로 개인정보 보호 규정이 강화되면서 각 지역의 시장 규제와 데이터 주권법 준수가 까다로워지고 있다. AI 에이전트가 효과적으로 작동하려면 과거 데이터와 국경 간 데이터에 대한 접근이 필요하고, 이는 규정 준수의 어려움을 한 층 더 높인다.

이를 대비하기 위해서는 모든 사용자의 접근 권한을 매번 검증하는 '제로 트러스트' 보안 모델을 권장한다. 제로 트러스트 모델에는 특정 고객 데이터가 있는 위치를 정확하게 식별하고 적절한 통제를 행사하며 세부적인 감사 보고가 수반된다. 소비자의 기대에 부응하고 규제를 준수하기 위해 기록을 삭제하거나 익명화하는 메커니즘도 구현해야 한다.

클라우데라 SDX와 같은 솔루션은 통합된 보안과 거버넌스를 제공하는 동시에 필요한 사람만이 적절한 이유로 적절한 시기에 해당 정보에 접근할 수 있도록 보장한다.

세 번째 단계는 모든 사업부문에 개인정보 보호와 신뢰를 확립하는 것이다. 신뢰와 투명성을 바탕으로 한 기업 문화 구축은 AI 에이전트 도입에 따른 데이터 사용에 대한 기대와 혁신의 윤리적 한계를 관리하는 데 필수적이다. 데이터 처리의 모든 단계에서 투명성을 최우선으로 고려한다면 신뢰 구축과 기업 평판 보호를 넘어 장기적으로 비즈니스 리스크를 완화할 수 있을 것이다.

다가오는 AI 에이전트 시대에서의 성공은 혁신과 책임의 균형을 맞추는 능력에 달려 있다. 개인정보 보호는 혁신을 지속 가능하게 만들 수 있는 주춧돌이다. 데이터 개인정보 보호 정책과 거버넌스 구축은 더 이상 미룰 수 없는 과제다.