네오와인(대표 이효승) 특허청으로부터 '새로운 NPU IP 구조'에 관한 특허를 취득했다고 28일 밝혔다. 인공지능 반도체 개발을 빠르고 쉽게 개발할 수 있게 해주는 주는 기술이다.

네오와인은 하이퍼비주얼에이아이와 GPNPU IP를 공동으로 개발하고 있다. GPNPU 기술은 그래픽 프로세서인 GPU 와 사람 두뇌를 모델링한 신경망처리장치인 NPU를 합쳐서 고속으로 가속할 수 있는 장치다. 과기정통부의 IITP, NIPA, KEIT 등에서 지원한 과제를 통해 국산 인공지능 컴파일러를 성균관대학교 신동군 교수와 함께 개발했다.

인공지능 컴파일러란 엔비디아의 쿠다(CUDA)와 같은 프로그램으로 파이토치, 텐서플로우 등으로 제작한 파이선 프로그램을 인공지능 가속기에서 실행할 수 있게 파이선 소스코드를 바이너리 형태로 변환해 주는 프로그램이다. 기존에는 해외에서 제작된 컴파일러 기술에 종속, 인공지능 모델을 가속하는데 시간과 비용이 많이 소요됐는데, 국산 컴파일러 기술을 사용하면 쉽게 인공지능 모델을 가속할 수 있다고 네오와인은 설명했다.

현재 욜로8(YOLO8) 수준 모델을 변환하고 있는데, 상위 인공지능 모델 변환도 상대적으로 간단하게 변환할 수 있다고 회사는 덧붙였다. GPNPU는 하이퍼비주얼에이아이를 통해 IP와 컴파일러 기술을 구입할 수 있다.

이번에 네오와인이 특허를 취득한 기술은 'MAC Array Processors에서의 Depthwise Convolution 구현 방안'으로, 이전에는 깊이별 분할 컨벌루션 이라는 연산을 수행하려면 96개의 연속된 컨벌루션 장치를 별도로 구현했다. 기존의 깊이별 분할 컨벌루션 장치는 3x3 개의 커널만 가속이 가능했고, 이보다 큰 것은 소프트웨어 방식을 사용함으로써 가속기의 성능이 저하되었으나, 32x32 커널을 한 번에 가속시킬 수 있게 돼 가속 성능이 비약적으로 향상됐다고 네오와인은 강조했다. 이를 통해 칩 면적을 줄이고 소비전력을 감소시킬 수 있다는 것이다.

네오와인은 2000년부터 과기부, 산업부 등의 정부 과제를 수주하고 인공지능 NPU IP 개발을 시작해 국산 컴파일러 내재화 및 인공지능 반도체를 위한 다양한 컴파일러 기술을 내재화하고 있다. 이효승 네오와인 대표는 "인공지능 반도체는 500억~1000억이 소요되는 대형 프로젝트인데 네오와인과 같은 중소팹리스가 개발한 GPNPU IP 와 컴파일러 기술을 통해 인공지능 반도체 개발을 빠르고 쉽게 개발할 수 있다"면서 "인공지능 반도체 기술은 대형 자본과 인력, 프로그램, 양산 기술이 합쳐져야 완성될 수 있다. 네오와인이 개발한 단단한 기초 IP 개발 환경을 통해 강력한 AI SoC 선진국으로 도약했으면 좋겠다"고 밝혔다.