한국인공지능산업협회(AIIA)가 인공지능(AI) 산업계의 현안과 기술 전략을 논의하는 조찬포럼을 열었다. 생성형 AI의 실질적 도입과 조직 변화 가능성에 주목하는 자리로, 기업 내 AI 활용 방식과 전환(AX) 전략이 핵심 의제로 다뤄졌다.

AIIA는 20일 서울시 서초구 양재엘타워에서 '제50회 AIIA 조찬포럼'을 개최했다. 연사로는 조경수 한국남부발전 차장과 김수연 EY컨설팅 파트너가 참석해 각각 '생성형 AI 활용 전략과 남부발전 사례', '기업 환경에서의 AX 동향과 성공 방정식'을 주제로 발표를 진행했다.

양승현 한국인공지능산업협회 회장은 "이번이 50번째 조찬포럼인데 그만큼 업계가 이 이슈에 지속적으로 주목하고 있다는 방증"이라며 "생성형 AI는 더 이상 기술 검토 수준이 아니라 실제 조직 변화를 유도하는 도구로 자리잡고 있다"고 말했다.

이날 첫 연단에 오른 발표자는 조경수 한국남부발전 디지털인프라실 AI혁신부 차장이었다. 조 차장은 공공기관 내 생성형 AI 도입이 단순한 기술 채택을 넘어 운영 체계와 조직 문화까지 바꾸는 전환점이라고 강조했다.

한국남부발전은 단순한 거대언어모델(LLM)을 넘어 다양한 최신 AI 기술을 실무에 녹여내고 있다. 일례로 검색증강생성(RAG), 프롬프트 엔지니어링, 랭체인 등을 조합한 맞춤형 시스템을 도입했으며 이를 통해 기존 레거시 시스템과의 호환성도 확보했다. 또 실무자가 AI를 직접 활용하도록 거대언어모델 운영(LLMOps) 기반의 전용 운영 플랫폼과 사내 AI 포털도 구축했다.

교육과 조직 설계 측면의 접근 역시 강조됐다. 모든 직원을 대상으로 기초 활용 교육부터 고급 데이터 분석 실습까지 전방위 AI 교육을 시행했으며 경영진을 포함한 의사결정자들까지 학습 과정에 참여했다. 이를 통해 기술 수용력과 AI 내재화를 동시에 확보했다는 평가다.

조직 운영 방식에서도 거버넌스를 중심으로 일관된 전략을 취하고 있다. AI 전담부서를 통해 모든 AI 관련 기획과 정책을 통합 관리하고 있으며 타부서의 기술 도입은 반드시 협의를 거치도록 하고 있다. 이 같은 체계는 내부 혼선을 줄이고 기술 도입의 방향성을 유지하는 데 기여하고 있다.

남부발전은 향후 데이터 통합, AI 에이전트 개발, 업무 자동화를 위한 외부 도구 연계 등 후속 과제에 집중할 방침이다. 기술 변화 속도가 빠른 만큼 글로벌 흐름을 민감하게 반영해 LLM을 넘어 시각언어모델(VLM) 등 멀티모달 AI까지 확장 여부를 검토 중이다.

조 차장은 이날 발표 말미에 "기술을 도입하는 것이 중요한 게 아니라 그 기술로 일할 수 있는 조직을 만드는 것이 중요하다"며 "생성형 AI는 실험이 아닌 실전의 단계로 진입했다"고 말했다.

이날 두 번째 발표자로 나선 김수연 EY컨설팅 파트너는 기업 AX가 이제는 기술 검토 차원을 넘어 조직 전환의 핵심 동력으로 작동하고 있다고 진단했다.

그는 "AI는 단순한 도입이 아니라 기업 내부 사고방식, 운영방식, 일하는 문화 전반을 재편하는 과정"이라며 "기술보다 전략과 리더십의 정비가 선행돼야 한다"고 강조했다.

EY컨설팅은 국내 기업에 AI가 본격 확산되기 시작한 지난 2016년부터 전략 컨설팅과 기술 구축을 병행해 왔다. 특히 AI 혁신 사무국 형태로 고객사의 AI 전략 전반을 관장하며 과제 도출부터 실행, 사후 운영 및 개선까지 '엔드투엔드' 방식으로 개입하고 있다. 다수 대기업의 AI 프로젝트에서 실질적 혁신을 유도한 실적도 축적돼 있다.

현장에서 김 파트너는 최근 기업들의 AX 전략에서 나타나는 공통 패턴을 조목조목 짚었다. 내부 진단 기반의 과제 발굴과 동시에 외부 사례 벤치마킹을 병행하는 '투트랙 접근'이 확산되고 있으며 AI를 '도구'가 아닌 '조직 내 업무 동반자'로 간주하는 기업 문화가 중요하다고 설명했다. 특히 단일 프로젝트 중심이 아닌 포트폴리오 방식의 단계적 투자 전략이 성과를 좌우한다고 분석했다.

실제 고객사 사례도 소개됐다. 어떤 국내 기업은 AI 기반의 납사 구매 및 환매도 예측 시스템을 도입해 코로나19와 지정학적 리스크에도 신속 대응할 수 있는 구조를 마련했다. 매일 1만 건이 넘는 지표를 학습하는 모델은 20~80일 후 시장을 예측하며 대시보드를 통해 실시간 의사결정을 지원하는 역할을 하고 있다.

이같이 EY는 생성형 AI의 활용이 챗봇을 넘어 내부 비정형 데이터를 기반으로 맥락을 이해하고 새로운 콘텐츠를 생성하는 방식으로 확장되고 있다. 제품 상세 FAQ 자동 생성, 검색엔진(SEO) 최적화, 국가별 자연 유입 극대화 등은 모두 생성형 AI가 고객경험(CX)과 직결되는 영역에서 실질적 가치를 만들어내는 방식이다.

김 파트너는 "AI를 단기 과제로 보고 끝내면 안 된다"며 "기업의 AI 투자는 재투자를 전제로, 전략적 이해가 기업 전반에 확산돼야 한다"고 말했다.