AI 반도체 기업인 사피온(SAPEON)은 전작 대비 속도가 4배 향상된 데이터센터용 AI 반도체 ‘X330’ 을 출시한다고 밝혔다.

TSMC의 7나노 공정을 통해 생산된 X330은 추론용 NPU로서 전작인 X220에 비해 응용 범위가 확대되었다. 따라서 보다 다양한 분야와 산업군에서 손쉽게 활용할 수 있는 NPU라는 것이 사피온의 설명이다. X330은 기존 X220 대비 4배 이상의 연산 성능, 2배 이상의 전력 효율을 확보하였다. 또한 X330은 동영상 관련 프로그램의 처리 속도 향상을 위해 비디오 코덱 및 비디오 후처리 IP를 내장하고 있다. X330은 내장된 하드웨어 IP를 통해 4채널 4K 60fps 동영상 입력 처리가 가능하다. 또한 X330은 대화형 AI 챗GPT의 원천기술인 트랜스포머(Transformer) 기반 LLM(대규모 언어 모델) 실행을 달성하였다.

사피온은 이러한 성능과 AI 반도체 기술력을 기반으로, SK텔레콤과 협력을 강화하여 신규 서비스 시장 공략에 나서고 있다. 특히 사피온은 2022년 12월에 SK브로드밴드 가산 IDC 내에 사피온 AI 반도체 X220 장착 서버를 사용하여 7.6 페타옵스(Peta OPS) 처리량에 달하는 대규모 NPU 팜을 구축하였고, 이를 통해 실제 데이터센터 환경에서 서비스를 상용화하고 운영하는 프로젝트를 추진한 바 있다. 이는 실제 서비스 상용화를 목표로 대규모 NPU 팜을 구축한 사례다. 사피온은 "NPU 팜 프로젝트를 통해 이미지 분석, 자연어 처리, 화질 개선 등 다양한 분야에서의 상용화 테스트를 수행함으로써 비즈니스 모델 확대 가능성을 확인하였다"고 밝혔다.

사피온은 향상된 성능 및 전력효율을 제공하는 X330을 통해 LLM 지원을 추가하여 전반적인 TCO(총소유비용)을 개선함으로써, AI서비스  모델 개발 기업 및 데이터센터 시장 공략에 나설 계획이다. 사피온은 X330 반도체 하드웨어와 함께 서버 장착시 성능을 최적화할 수 있는 ONNX(개방형 신경망 교환, Open Neural Network Exchange) 기반의 소프트웨어 스택을 지원하며, AI 추론 플랫폼 소프트웨어 및 SDK(소프트웨어 개발 도구)도 함께 제공한다. 

사피온은 이번에 출시한 데이터센터용 AI 반도체인 X330과 함께, 향후 자율주행 자동차용 IP(반도체 설계자산), CCTV 등 고성능 에지 디바이스용 AI NPU도 선보일 계획이다. 사피온은 주요 고객사들을 대상으로 X330 시제품 테스트와 고객사들과 신뢰성 검증 작업을 진행하고 2024년 상반기부터 양산을 시작할 예정이다.

사피온의 류수정 대표는 “사피온은 지난 2020년 국내 최초로 데이터센터용 AI 반도체 X220을 발표한 이후 기반 서비스를 다수 제공하여 시장에서의 검증을 완료하였고, 자동차, 보안, 미디어 등 다양한 분야로 상용 서비스 분야들을 지속적으로 확대하고 있다. X220의 장점을 극대화한 X330으로 AI 서비스 모델 개발 기업 및 데이터 센터 시장 공략에 박차를 가할 전략이다. 산업 전분야에서 AI 반도체 활용도를 높여 고도의 AI 기술을 누구나 저렴하게 이용할 수 있게 제공함으로써, 모두가 첨단 기술 발전의 혜택을 향유할 수 있는 사회를 만드는데 공헌하고자 한다”고 전했다.