"우리는 머신러닝 운영(MLOps)을 통해 기업들이 인공지능(AI)을 가장 쉽고 빠르고 저렴하게 활용할 수 있도록 지원하고 있습니다. 이는 곧 다가오는 '에이전트 AI' 시대에 필수적입니다. 이로써 장기적으로는 수십, 수백 개의 AI 모델이 협력하는 컴파운드 AI 시스템을 구축하고자 합니다."

안재만 베슬에이아이 대표는 최근 기자와 만나 회사의 비전과 전략을 설명하면서 이같이 말했다. 국내 행사에 참가하기 위해 실리콘밸리에서 한국을 방문한 그는 MLOps 플랫폼이 AI 기술을 기업 내 실질적 자산으로 만드는 데 필수적 역할을 한다며 베슬에이아이가 이 변화를 전폭 지원하고 있다고 강조했다.

16일 업계에 따르면 AI 기술의 급속한 발전으로 인해 기업들은 새로운 도전에 직면했다. 단일 AI 모델 운영에서 벗어나 여러 모델을 관리하고 자동화해야 하는 시대가 도래한 것이다. 이러한 상황에서 MLOps 플랫폼 전문 기업인 베슬에이아이가 주목받고 있다.

MLOps란 머신러닝 모델의 개발부터 배포, 운영까지의 전 과정을 효율적으로 관리하는 방법론으로, AI 모델의 지속적인 통합과 배포를 가능하게 한다. 지난 2020년 세워진 베슬에이아이는 기업들이 AI 모델을 효율적으로 학습하고 운영할 수 있도록 지원하는 MLOps 플랫폼을 제공하고 있다.

회사가 현재 기업들에 제공하는 플랫폼은 그래픽카드 처리 장치(GPU) 컴퓨팅 비용을 최대 80%까지 절감하고 AI 모델 배포 시간을 몇 주에서 몇 분으로 단축하는 등 운영 효율성을 크게 향상시켰다. 이로써 기업들이 복잡한 기술적 고민 없이도 AI 모델을 개발하고 배포할 수 있게 됐다.

안 대표는 "기업들은 AI 모델을 개발하고 운영할 때 컴퓨팅 자원과 인프라 관리에 많은 어려움을 겪는다"며 "우리는 이러한 문제를 해결하기 위해 모델 학습 및 운영 레이어와 에이전트 레이어를 제공한다"고 설명했다.

모델 학습 및 운영 레이어는 AI 모델의 학습, 배포, 운영 과정을 효율화해 개발자들의 생산성을 높여준다. 또 에이전트 레이어는 여러 AI 모델 간의 상호작용과 협업을 지원하여 복잡한 AI 시스템 구축을 가능하게 만든다. 이 두 레이어는 기업들이 단일 AI 모델 운영에서 벗어나 다중 모델을 효과적으로 관리하고 장기적으로는 에이전트 AI 시스템을 구축할 수 있는 기반을 제공한다.

이러한 기술적 강점을 통해 베슬에이아이는 이미 국내외에서 다양한 성공 사례를 만들어내고 있다. 국내에서는 뤼튼, 업스테이지, 스캐터랩 등 스타트업부터 현대자동차, LG전자 같은 대기업까지 베슬에이아이의 플랫폼을 도입했다. 고객사 중 일부 기업은 수십억 원에 달하던 거대언어모델(LLM) 운영 비용을 수억 원대로 줄이는 성과를 거둔 것으로 알려졌다.

안 대표는 "우리 플랫폼을 통해 고객사들은 복잡한 인프라 문제에서 벗어나 AI 모델 학습과 배포에만 집중할 수 있는 환경을 제공받고 있다"며 "이는 비용 절감뿐만 아니라 운영 효율성 면에서도 혁신적인 변화를 가져왔다"고 말했다.

해외에서도 베슬에이아이는 유수 기업들과 협업하며 글로벌 시장에서의 입지를 점차 확대하고 있다. 특히 실리콘밸리에 위치한 본사를 중심으로, 현지 AI 생태계와 긴밀히 연결된 활동을 전개하고 있다.

실제로 회사는 미국의 유명 VC인 안드레센 호로위츠가 주최하는 해커톤을 공동 개최하며 현지 스타트업 및 대기업들과의 네트워크를 구축했다. 이 행사를 통해 파인콘, 라마인덱스와 같은 실리콘밸리 AI 선도 기업들과의 협력을 통해 기술력을 인정받았으며 베슬에이아이의 플랫폼이 대규모 AI 모델 운영에 필수적인 도구로 자리 잡을 가능성을 보여줬다.

또 오라클 및 구글 클라우드와의 파트너십을 통해 글로벌 기술 대기업들과 협력하고 있다. 구글 클라우드 공식 블로그에는 베슬에이아이 플랫폼을 도입해 운영 효율성을 향상시킨 사례가 소개되기도 했다. 이러한 협력은 단순히 기술력을 알리는 데 그치지 않고 글로벌 시장에서 베슬에이아이의 경쟁력을 증명하는 중요한 발판이 되고 있다.

안 대표는 이어 곧 다가올 에이전트 AI 시대에 대비해야 한다고 강조했다. 그는 "조만간 웹 브라우저 중심의 패러다임이 AI 에이전트 기반으로 전환될 예정"이라며 "사용자들은 에이전트를 통해 검색, 예약, 의사 결정을 수행하는 시대가 올 것"이라고 설명했다.

베슬에이아이는 이러한 에이전트 AI 시대를 준비하며 기업들이 다중 AI 모델을 효과적으로 학습시키고 협력할 수 있는 환경을 제공하고 있다. 이는 AI 모델 간 상호작용과 협업을 가능하게 하는 컴파운드 AI 시스템 구축으로 이어지며 장기적으로는 기업들이 AI를 통해 더욱 정교하고 자동화된 의사결정을 내릴 수 있도록 지원한다.

안 대표는 "에이전트 시대에는 수많은 AI 모델들이 서로 협력해 의사 결정을 내리는 컴파운드 AI 시스템이 필수적"이라며 "이 시스템을 통해 수십, 수백 개의 특화된 AI 모델들이 협력해 기업 내 다양한 지식을 통합하고, 고도화된 솔루션을 제공할 수 있다"고 강조했다.

그러면서 "우리는 이러한 컴파운드 AI 시스템 구축을 지원함으로써 범용 인공지능(AGI) 실현을 지원할 것"이라고 밝혔다.

안 대표가 컴파운드 AI 시스템과 AGI에 관심을 갖게 된 배경에는 이전에 몸담았던 의료 AI 스타트업에서의 업무 경험이 있다. 당시 그는 병원에서 실시간으로 환자의 생체 신호를 모니터링하고 심정지와 같은 응급 상황을 사전에 감지하는 시스템 개발에 참여했다. 이러한 경험에서 AI 기술이 인간의 삶에 미치는 긍정적 영향을 몸소 목격했다.

안 대표는 "AI가 사람의 생명을 살릴 수 있다는 점을 직접 경험하며 기술의 잠재력에 매료됐다"며 "단순히 의료를 넘어 다양한 산업에서 AI 발전은 인류에 기여할 수 있을 것"이라고 말했다.

그러면서 "기업들에 비용 효율적으로 MLOps 플랫폼을 제공하고 장기적으로는 컴파운드 AI 시스템의 생태계를 제공함으로써 기술의 혜택이 모두에게 돌아갈 수 있도록 노력하겠다"고 강조했다.