26일 국회 본회의를 통과한 AI기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법안)은 보칙을 포함해 총 5장(제1장 총칙, 제2장 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계, 제3장 인공지능기술 개발 및 산업 육성, 제4장 인공지능윤리 및 신뢰성 확보, 제5장 보칙)으로 구성됐다.

1장에서는 인공지능과 인공지능 기술이 무엇인지 정의했다. 법에 따르면, 인공지능이란 학습, 추론, 지각, 판단, 언어 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것을 말한다. 또 인공지능기술이란 인공지능을 구현하기 위해 필요한 하드웨어, 소프트웨어 기술 또는 그 활용 기술을 말한다.

특히 1장에는 규제가 필요한 '고영향 인공지능'을 11개 분야로 포괄적으로 규정, 설명했다. 즉, 고영향 인공지능이란 사람 생명, 신체 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로 ▲에너지 공급 ▲먹는물 생산 공정 ▲보건의료 제공과 이용체계 구축 및 운영 ▲핵물질과 원자력시설의 안전한 관리 및 운영 ▲범죄 수사나 체포 업무를 위한 생체인식정보(얼굴·지문·홍채 및 손바닥 정맥 등 개인을 식별할 수 있는 신체적·생리적·행동적 특징에 관한 개인정보를 말한다) 분석 및 활용▲채용, 대출 심사 등 개인의 권리·의무 관계에 중대한 영향을 미치는 판단 또는 평가 ▲'교통안전법' 제2조제1호부터 제3호까지에 따른 교통수단, 교통시설, 교통체계의 주요한 작동 및 운영 ▲공공서비스 제공에 필요한 자격 확인, 결정 또는 비용징수 등 국민에게 영향을 미치는 국가, 지방자치단체, '공공기관의 운영에 관한 법률' 제4조에 따른 공공기관 등(이하 “국가기관등”이라 한다)의 의사결정 ▲'교육기본법' 제9조제1항에 따른 유아교육·초등교육 및 중등교육에서의 학생 평가 ▲그 밖에 사람의 생명·신체의 안전 및 기본권 보호에 중대한 영향을 미치는 영역으로, 이 중 어느 한 영역에 미치는 시스템을 말한다. 또 국외에서 이뤄진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우 이 법이 적용된다.

2장에서는 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계(거버넌스)를 규정했다. 법이 규정한 추진체계는 국가AI위원회, 인공지능정책센터, 인공지능안전연구소 등 세 곳이다. 이중 국가AI위원회는 지난 9월말, AI안전연구소는 11월말 이미 출범했다. 이에, 앞으로 설립할 인공지능정책센터에 시선이 쏠렸다. 신설 보다는 NIA 등 기존 공공기관 중 한 곳을 지정할 가능성이 높은 것으로 알려졌다.

3개 조직 중 대통령이 위원장으로 있는 최상위 거버넌스인 국가AI위원회는 위원장 1명(대통령)과 민간 부위원장 1명을 포함한 45명 이내 위원으로 구성한다. AI 정책과 연구개발 전략 수립 뿐 아니라 투자와 규제 발굴 및 개선을 담당한다. 또 고영향 인공지능과 관련한 정책 대응과 규율도 담당한다. 위원회 산하에 필요한 경우 특별위원회를 둘 수 있고, 분과위원회와 전문가로 구성한 자문단도 둘 수 있다.

아직 출범하지 않은 '인공지능정책센터'는 ▲기본계획의 수립·시행에 필요한 전문기술 지원 ▲인공지능과 관련한 시책의 개발 및 관련 사업의 기획·시행에 관한 전문기술 지원 ▲인공지능의 활용 확산에 따른 사회, 경제, 문화 및 국민의 일상생활 등에 미치는 영향의 조사·분석 ▲ 인공지능 및 인공지능기술 관련 정책 개발을 지원하기 위한 동향 분석과 사회,문화 변화와 미래예측 및 법, 제도 조사 연구 ▲다른 법령에서 센터의 업무로 정하거나 센터에 위탁한 사업 ▲ 그 밖에 국가기관등의 장이 위탁하는 사업 등을 수행한다.

이들 공공성 기관과 함께 '한국인공지능진흥협회(이하 협회)' 조항도 담았다. 인공지능 개발과이용 촉진, 인공지능산업 및 인공지능기술의 진흥, 인공지능등에 대한 교육과 홍보 등을 위해 대통령령으로 정하는 바에 따라 과학기술정보통신부장관 인가를 받아 협회를 설립하거나 지정받을 수 있게 했다. 협회는 법인이며 인공지능 제품이나 서비스 이용 촉진 및 확산, 현황 및 관련 통계 조사, 전문인력 양성 교육 및 해외 진출 지원 등의 일을 한다.

이외에도 법안은 과학기술정보통신부장관이 인공지능기술과 관련한 표준화를 위해 표준 제정 등의 사업을 추진할 수 있게 했다. 현재 국가 표준은 산업부 산하 국표원이 담당하고 있어 역할 조정이 필요한 부분이다. 특히 법안은 국가 및 지방자치단체가 인공지능산업 진흥과 인공지능 개발 및 활용의 경쟁력 강화를 위해 인공지능과 인공지능기술 연구·개발을 수행하는 기업, 기관이나 단체의 기능적·물리적·지역적 집적화를 추진할 수 있다고 규정했다. 현재 광주에 AI 단지가 조성돼 있는데, 향후 추가 단지를 선정할 계획이다.

특히 법안은 고영향 인공지능 또는 생성형 인공지능을 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 해당 사실을 이용자에게 사전에 고지해야 하며, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의해 생성됐다는 사실을 표시해야 하고, 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 결과물을 제공하는 경우 그 사실을 이용자가 명확하게 알 수 있게 고지 또는 표시하도록 했다. 아래는 과기정통부가 발표한 법안의 주요 내용.

과기정통부장관은 관계부처 및 지자체 의견을 수렴해 국가 AI 경쟁력 강화를 위한 인공지능기본계획을 3년마다 수립하고 시행(제6조)할 수 있다. 아울러, 지난 9월 출범한 국가인공지능위원회(위원장 대통령) 운영의 법적 근거를 마련(제7조)하고, 인공지능과 관련해 발생할 수 있는 위험으로부터 국민의 생명‧신체‧재산 등을 보호하기 위한 전문기관으로 인공지능안전연구소 운영 근거(제12조)를 뒀다.

인공지능 산업육성을 위해 R&D 지원(제13조), 표준화(제14조), 학습용데이터 시책 수립(제15조), AI 도입‧활용 지원(제16조) 등에 대한 정부 지원 근거를 마련했다. 또 AI집적단지 지정(제23조), AI 데이터센터 시책 추진(제25조), AI 융합 촉진(제19조) 등을 통해 대한민국 인공지능 생태계의 혁신적인 발전을 지원하는 한편 AI 전문인력 확보(제21조), 중소기업을 위한 특별지원(제17조), 창업 활성화(제18조) 등 AI 시대를 선도할 인재 양성과 중소·스타트업의 성장을 촉진하기 위한 사항도 함께 담았다.

인공지능의 기술적 한계, 오‧남용 등으로 발생가능한 문제를 사전에 예방하기 위해 규제 대상으로 고영향AI와 생성형AI를 정의하고, 투명성 확보 의무(제31조), 안전성 확보 의무(제32조), 사업자 책무(제34조)를 규정했다. 아울러, 민간이 자율적으로 추진하는 AI 안전성‧신뢰성 검‧인증(제30조), 인공지능 영향평가(제35조)에 대한 정부의 지원 근거도 마련했다.

이번 'AI기본법'은 국무회의 의결 및 공포를 거친 후 1년의 경과 기간을 둔 뒤 2026년 1월부터 시행될 예정이다. 정부는 이 법이 신속하게 시장에 안착할 수 있게 하위법령과 가이드라인 마련 등 후속조치도 조기에 추진할 계획이다.

유상임 과기정통부 장관은 "국가 AI경쟁력 강화의 밑거름이 될 AI기본법 국회 통과를 매우 뜻깊게 생각한다”며 “인공지능을 둘러싼 치열한 글로벌 경쟁 속에서 AI기본법 제정을 통해 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 명실상부하게 AI G3 강국으로 도약할 수 있는 중요한 이정표가 마련됐다"고 밝혔다. 이어 "AI기본법 제정은 끝이 아닌 시작”이며 “현장과의 긴밀한 소통을 통해 하위법령 제정과 각종 산업지원 시책 수립을 속도감 있게 추진하고, 국가 AI 컴퓨팅 인프라를 조속히 구축하도록 최선의 노력을 기울이겠다"고 말했다.

한편 AI기본법 통과에 대해 국회 과방위 소속 의원들이 잇달아 소감을 밝혔다. 황정아 의원(민주당, 대전 유성구을)은 "우리가 적극 추진한 인공지능사업자의 인공지능 실증, 성능시험 등을 지원하기 위한 시설, 장비, 설비 구축 등 국가와 지자체의 민간 실증 지원 근거 규정도 반영, AI 기술 발전에 보다 활력을 불어넣을 것으로 기대한다"면서 "딥페이크를 비롯한 AI의 부작용을 막기 위한 규제도 포함됐다. 인공지능사업자가 고영향 인공지능 또는 이를 이용한 제품 서비스를 제공하는 경우 신뢰성 확보를 의무화하도록 했다. 인간의 생명과 신체, 정신적 건강 등에 해가 되지 않는 등의 윤리원칙도 명시했다"고 밝혔다.

이어 과기계의 숙원이자 시대적 과제인 AI기본법이 마침내 통과돼 산업 발전과 신뢰성 확보라는 두 축을 조화롭게 아우르는 법적 기반이 마련됐다면서 "AI기본법 제정은 대한민국의 AI 생태계 구축을 위한 중요한 첫 발걸음"이라고 강조했다.

이훈기 의원(민주당, 인천 남동구을)은 "미국, 유럽 등 세계 각국이 인공지능 법제를 마련하는 상황에서. 우리 역시 우리나라만의 인공지능 발전과 안전성 확보를 위한 법제 마련이 시급했다"면서 "이번에 통과된 기본법에는 인공지능이 우리 국민의 기본권에 미치는 영향평가를 하도록 한 내용이 포함돼 의미가 남다르다"고 진단했다.

실제 이번 제정안은 '인공지능 영향평가' 규정을 포함하고 있다. 영향평가는 사업자가 고영향 인공지능 제품이나 서비스 출시 전에 사회, 경제, 환경 등 사람의 기본권에 미치는 다양한 영향을 고려하도록 한 것으로, 공공기관 등이 채용이나 공공서비스를 위해 인공지능을 사용할 때는 영향평가가 완료된 서비스를 우선 이용하도록 했다.

조인철 의원(민주당, 광주 서구갑)은 광주가 AI 거점도시를 표방하면서 그간 진행한 AI 관련 사업을 중단없이 진행할 수 있게 ▲인공지능집적단지 조성 지원 ▲인공지능 실증 기반 조성 등의 내용을 법안에 포함했면서 "또 인공지능 집적화를 지원하기 위한 전담기관 지정에 대한 근거도 마련했다"고 밝혔다. 광주광역시는 지난 2020년부터 총사업비 4265억 원을 투입해 인공 지능 중심 산업융합 집적단지를 조성해 왔다. 국가 AI데이터센터 등 연구 개발을 지원하는 핵심 기반시설도 구축했다. 오는 2029 년까지 약 9000 억 규모의 '인공지능 실증 밸리 확산사업'을 추진, AI 2 단계 사업에 박차를 가하고 있다. 조 의원은 "AI 기본법이 광주를 AI 거점도시로 성장시키는 발판이 되고, 광주의 AI 발전이 곧 대한민국 전체의 미래 경쟁력을 높이는 마중물이 되기를 기대한다"고 덧붙였다.