[MWC 2023] 사피온,  트랜스포머 기반 자연어 처리 시연


[테크수다 기자 도안구 eyeball@techsuda.com] 류수정 사피온 대표는 “사피온은 MWC2023에 참가하여 국내최초로 트랜스포머 기반 언어모델을 시연했으며, 특히 사피온의 탁월한 성능을 직접 확인할 수 있는 시연으로 참관객들로부터 큰 주목을 받고있다”라고 말하며, “사피온은 글로벌 AI 반도체 대표 기업으로서 지속적인 혁신을 기반으로 앞으로도 성능을 크게 향상시킨 차세대 제품을 시장에 내놓을 계획이다”라고 강조했다.


AI 반도체 스타트업 사피온(SAPEON, 대표 류수정, www.sapeon.com)은  27일부터 다음달 2일(현지시간)까지 4일간 스페인 바르셀로나에서 개최되는 세계 최대 IT 및 ICT 전시회 '모바일월드콩그레스(MWC) 2023'에 참가하여 ‘사피온 X220’기반의 언어 및 영상 애플리케이션을 소개한다고 밝혔다.


사피온은 MWC 2023 핵심 전시장인 '피라 그란 비아' 제3홀 중심부에 있는 SK텔레콤 전시관 내부에 부스를 마련했다.


가장 먼저 눈에 띄는 점은 사피온이 국내 최초로 대화형 AI '챗GPT'의 원천기술인 '트랜스포머(Transformer)'를 가속했다는 점이다. 이번 시연에서는 트랜스포머 계열 중 현재 가장 범용적으로 활용되고 있는 BERT 기반의 자연어 처리 애플리케이션을 선보였다.


https://www.youtube.com/watch?v=UKwT9wspDlA


사피온은 대표적인 질의응답 데이터셋인 “스쿼드” (SQuAD, The Stanford Question Answering Dataset)를 활용해, 주관식 수능시험과 같은 방식으로 주어지는 지문과 문제를 인공지능이 고속으로 풀어내는 데모를 시연하였으며, 사피온 X220으로 최신 GPU와 비교하여 약 4배에 달하는 전력대비성능(Performance per Watt) 개선을 보여주었다.






























 



사피온 X220



GPU



비교



성능 (문장/초)



1,396



856



1.6배↑



전력 (W)



23.9



60



60%↓



전력 대비 성능(문장/초/W)



58



14



4배↑



이번 전시에서 사피온은 지난 2020년 말 출시한 국내 최초 서버 AI반도체 X220이 이미 오래 전부터 트랜스포머 기반의 언어 모델을 효율적으로 동작시키고 있었으며, 올해 하반기에 출시 예정인 X330을 통해 챗GPT와 같은 초거대 언어모델을 차별화된 성능으로 지원할 계획이라고 밝혔다.


이와 함께 사피온의 AI반도체와 SK텔레콤의 이미지 화질 개선 기술, 슈퍼노바(SUPERNOVA)를 기반으로 개발한 두다지(AI 반도체 미들웨어 개발 업체)의 '매직터치' 앱을 이번 전시에서 선보였다. MWC 사피온 부스에는 많은 방문자들이 ‘매직 터치(Magic Touch)’ 스마트폰 앱으로 오래된 사진, 저해상도 사진을 실시간으로 업스케일링을 해보며 사피온의 높은 성능을 직접 체험했다. 두다지의 '매직 터치(Magic Touch)' 어플은 구글 플레이스토어, 애플 앱스토어에서 다운로드 받을 수 있다.


-       Magic Touch애플 앱스토어: https://apps.apple.com/kr/app/magic-touch/id1660139484


-       Magic Touch 구글 플레이스토어: https://play.google.com/store/apps/details?id=com.dudaji.magictouch




한편, 스페인 바르셀로나 '피라 그란 비아(Fira Gran Via)'에서 열리는 MWC2023에서는 'Velocity(내일의 기술을 실현하는 오늘의 속도)'를 주제로 160개국 1,900여개 회사가 참가하고, 8만명 이상이 방문하여, 5G, AI, IoT, 로봇 등 다양한 ICT 기술을 만나볼 수 있다. 사피온은 MWC 2023 핵심 전시장인 '피라 그란 비아' 제3홀 중심부에 있는 SKT 전시관 내부에 부스를 마련했다.


사피온은 AI 반도체 원천기술인 NPU(Neural Processing Unit) 하드웨어에 뿐 아니라 애플리케이션에 이르는 풀스택 소프트웨어를 내부 기술로 개발하고 있으며, AI반도체 시장에서도 가장 큰 규모를 차지하는 데이터센터 서비스 반도체와 자율주행 반도체 시장 공략을 강화하고 있다. 우리나라 최초로 데이터 센터용 AI 반도체(X220)를 개발하고 상용화에 성공하였으며, 자동차, 보안, 미디어 등 다양한 분야로 상용 서비스 영역을 확장해 나가고 있다.


또한 NHN클라우드는 2021년부터 판교 소재 NHN 데이터 센터에 X220 기반의 클라우드 인프라를 구축하고 확장하고 있다. 양사는 협력을 통해 GPU 대비 향상된 기술과 성능을 상용 데이터센터에서 다양한 응용을 통해 검증해 왔으며, 지난해에는 인공지능으로 상품을 추천해주는 AI 패션 서비스(Fashion)에서 검증을 성공적으로 완료한 바 있으며, 올해는 다양한 상용서비스를 동작시킬 계획이다.


사피온은 2022년 SK텔레콤에서 분사한 이후 외부 사업화를 위해 객관적인 벤치마크 성능 결과를 공개한 바 있다. MLPerf Inference v2.1 벤치마크에 따르면 사피온 ‘X220’은 경쟁제품대비 2.3배에서 최대 4.6배 높은 성능(데이터 센터용 성능 측정)을 기록하며 우수성을 인정받았으며, 전력소비 측면에서도 강점을 나타내어 타제품에 비해 2배 이상 높은 전력 효율성을 보여줬다.


[테크수다 기자 도안구 eyeball@techsuda.com]

Newsletter
디지털 시대, 새로운 정보를 받아보세요!