영국 정부가 인공지능(AI) 기술의 안전성 확보와 국가 안보 강화를 위해 AI 보안연구소에 막대한 예산을 투입하고 있다. 국내 AI 안전연구소 역시 이에 대응해 신속히 연구 역량을 확장하고 있으나 안정적 성과 창출을 위해서는 지속적·안정적 지원이 필요하다는 지적이 나온다.

18일 영국 과학혁신기술부(DSIT) 공식문서에 따르면 영국 정부는 올해 회계연도 기준으로 AI 보안연구소에 6천600만 파운드(한화 약 1천236억원)를 배정했다. 예산은 고위험 AI가 초래할 수 있는 국가 안보·범죄 위협을 분석해 과학적 근거로 제시하고 이를 정부 정책에 반영하는 데 쓰인다.

AI 보안연구소는 지난해 말 기준 130명의 전담 인력을 갖췄으며 이 가운데 60명이 순수 연구 인력이다. 구성원 대부분이 공무원으로 연구 결과가 즉시 안보 정책에 투영될 수 있는 구조다.

이 연구소는 지난 2월 파리 정상회의 직후 명칭을 'AI 안전연구소'에서 'AI 보안연구소'로 변경하며 단순한 기술 안정성 검증을 넘어 국가 안보 및 범죄 대응 기능을 강화했다. 국방과학기술연구소(DSTL), 국방부, 내무부 등과 협력해 사이버 공격, 생화학 무기, 아동 성착취물 생성 등 실질적 위협에 대응한다.

영국 정부 관계자는 지난 2월 "AI 보안연구소를 통해 국가 안보를 확보하고 범죄 예방을 위한 책임 있는 AI 개발의 기본 원칙을 세울 것"이라고 밝혔다.

이같이 영국 정부가 전폭적인 지원에 나선 것과 달리 국내 상황은 온도 차가 뚜렷하다. 과학기술정보통신부와 국회 예산안에 따르면 올해 한국 AI 안전연구소의 운영 예산은 72억1천만원에 그친다. 여기에 '공존 가능한 신뢰 AI를 위한 AI 세이프티 기술개발' 명목으로 115억8천5백만원이 추가로 편성됐지만 두 항목을 합쳐도 총예산은 약 188억원 수준이다.

인력 규모에도 차이가 난다. AI 안전연구소는 지난 해 11월 7명으로 출범한 이후 올해 상반기 기준 21명까지 인원이 확대된 상태다. 연내 연구 인력 30명 확보를 목표로 추가 채용이 진행 중이지만 영국과 비교하면 6분의 1 수준에 머물러 있는 셈이다.

창립한 지 6개월이 된 상황에서 연구소는 국제 협력·표준화, 안전성 평가 체계, 정책 연구 등 분야에서 가시적인 성과를 내기 시작하고 있다. 미국·영국·일본 안전연구소와 공동으로 AI 안전성 평가 프레임워크를 마련했고 24개 기관이 참가한 '대한민국 AI 안전 컨소시엄'을 출범시켜 안전 기술 개발과 표준화 논의에도 적극 참여 중이다.

더불어 연구소는 국가적 위기에 직결될 고위험 AI 시나리오를 발굴·우선순위화하는 '리스크 매핑' 작업에 착수해 국가 AI 안보 전략 수립의 기반을 다지고 있다. 다만 출범 초기 단계로, 전담 인력과 예산이 제한적인 만큼 현재의 성과를 확장하려면 추가 지원이 필요할 것으로 보는 목소리도 나온다.

업계 관계자는 "AI가 전략 자산화되는 동시에 국가적 안보 위협으로 부상한 상황에서 기술이 초래할 위험을 파악하려면 산학연 간 긴밀한 협력과 소통이 필수적"이라며 "국내에서는 AI 안전연구소가 이 역할을 주도하고 있는 만큼, 우리도 대응 역량을 키우기 위한 장기적인 기반을 차근차근 다져 나갈 필요가 있어 보인다"고 말했다.