테크수다

[인텔 AI 에브리웨어] 권명숙 인텔코리아 대표, "클라우드∙PC∙엣지∙네트워크 등 전 영역에 최상의 AI 솔루션 지원"

도안구 -


[테크수다 기자 도안구 eyeball@techsuda.com] 권명숙 인텔코리아 사장은 “인공지능(AI) 혁신의 가속화로 인해 현재 국내총생산(GDP: Gross domestic product)의 약 15%를 차지하는 디지털 경제의 비중이 앞으로 10년 안에 약 25%로 증가할 것이며, AI는 이를 가속화해 결국엔 GDP의 1/3 규모로 성장할 것이다”라고 말했다. 그는 또 “인텔은 효율적인 최상의 AI 성능을 제공하는 하드웨어와 소프트웨어 솔루션을 지원해 고객이 클라우드, 네트워크는 물론 PC와 엣지 인프라까지 AI를 원활하게 구축하고 확장해나갈 수 있도록 지원하겠다”라고 말했다.


인텔은 12월 18일(월) 서울 여의도 전경련회관 다이아몬드룸에서 “AI 에브리웨어(AI Everywhere)”를 주제로 기자간담회를 개최하고, 데이터 센터부터 클라우드, 네트워크, PC, 그리고 엣지에 이르는 광범위한 인프라 어디서나 AI 솔루션을 구현할 수 있도록 지원하는 업계 최상의 AI 제품 포트폴리오를 출시했다고 발표했다.


AI Continuum graphic


주요 발표:


  • ‘인텔 코어 울트라 노트북용 프로세서 제품군(The Intel Core Ultra mobile processor family)’, 인텔 4 공정 기술 및 40년 만에 최대 규모로 변화한 아키텍처를 기반으로 설계된 최초의 프로세서로 인텔 프로세서 사상 최고의 전력 효율을 자랑하며 AI PC 시대 개방 및 선도
  • ‘5세대 인텔 제온 프로세서 제품군(The 5th Gen Intel Xeon processor family)’, 모든 코어에 AI 가속기를 내장해 AI성능 및 전반적인 성능 향상하고, 총소유비용(TCO) 절감
  • 2024년 하반기 출시 예정인 차세대 AI 가속기 ‘인텔 가우디3(Intel Gaudi3)’ 최초 공개, 기업의 대규모 언어 모델(LLM) 및 딥러닝 워크로드 실행에 최적화된 성능 제공


인텔은 이번 행사에서 클라우드 및 엔터프라이즈 서버부터 대규모 클라이언트, 유비쿼터스 엣지 환경에 이르는 엔드-투-엔드 AI 솔루션을 선보였다. 또한 4년 내 5개 노드 달성 로드맵이 순항하고 있음을 밝혔다.


특히 이번 행사에서는 인텔의 국내 파트너사가 참석해 자사의 기술과 신제품을 소개하며 많은 관심을 모았다. 삼성전자는 인텔 5세대 제온 프로세서와 인텔 코어 울트라 프로세서 출시로 메모리 시장에 미칠 영향을 긍정적으로 평가하고, 인텔과의 긴밀한 협력을 지속할 것을 강조하며 내년 시장에 대한 기대를 보였다.


또한 인텔 코어 울트라 프로세서를 탑재한 세계 최초의 AI PC 제품군으로 삼성전자는 ‘삼성 갤럭시 북4 시리즈’를, LG전자는 ‘LG 그램 16(LG Gram 16)’ 신제품을 소개했다. 인텔은 이 제품으로 AI PC 사용사례에 대한 데모를 진행했다.


5세대 인텔 제온 프로세서, 데이터 센터, 클라우드, 네트워크 및 엣지 전반에서 ‘더욱 강력하고 빠른 성능을 갖춘 AI’를 구현하도록 지원


인텔코리아 나승주 상무가 인텔 AI Everywhere 미디어 간담회 현장에서 ‘5세대 인텔 제온 스케일러블 프로세서’를 선보이고 있다.


나승주 인텔코리아 상무는 기술 브리핑을 진행하며, 5세대 인텔 제온 프로세서 제품군이 이전 세대 제품 대비 성능과 효율성에서 확연한 개선을 보였다며, 초대형 AI 모델뿐 아니라 엣지 및 클라이언트에서 점차 증가하는 민첩한 소규모 AI 모델 수요를 충족시키며 하이브리드 AI 성장을 지원한다고 밝혔다. 4세대 제온과 비교해, 새로운 제온은 동일한 전력 범위 내에서 평균 21% 향상된 범용 컴퓨팅 성능을 제공하며, 평균 36% 향상된 와트당 성능을 제공해 기업의 광범위한 워크로드 요구사항을 충족시킨다. 5년 주기로 업그레이드하는 고객 및 심지어 더욱 이전 세대에서 업그레이드하는 고객은 최대 77%까지 TCO를 절감할 수 있다.


제온은 유일하게 AI 가속기를 내장한 메인스트림 데이터 센터 프로세서다. 또한 새롭게 출시되는 5세대 제온은 최대 200억 개 파라미터 규모의 대형 모델 상에서 최대 42% 향상된 추론 및 미세 조정 성능을 구현한다. 그 밖에도 MLPerf 훈련 및 추론 벤치마크 결과에서 시중 CPU 제품 중 유일하게 일관적으로 성능을 향상시켜 온 것으로 확인된다(벤치마크 결과 참조).


제온에 내장된 AI 가속기는 통신 서비스 제공업체, 콘텐츠 전송 네트워크 및 소매·의료·제조를 포함한 다양한 시장을 대상으로 최적화된 소프트웨어 및 향상된 텔레메트리(원격자료송수신) 기술과의 결합을 통해 까다로운 네트워크 및 엣지 워크로드를 더욱 손쉽고 효율적으로 배포할 수 있도록 지원한다.


나승주 인텔코리아 상무는 “5세대 인텔 제온 프로세서는 AI 워크로드를 효율적으로 처리하기 위해 설계된 제품으로, 고객이 클라우드, 네트워크에서 엣지에 이르는 광범위한 인프라에서 AI 역량을 갖추도록 지원할 것”라며, “인텔은 AI 인프라 구축 및 배포를 쉽게 만드는 하드웨어와 소프트웨어를 함께 제공함으로써 개발자가 어디서나 AI를 구현할 수 있도록 지원할 것”이라고 말했다.


한편, 12월 14일(미국 동부시 기준) 미국 뉴욕 나스닥(Nasdaq)에서 생중계된 현지 행사에서는 선두 기업들이 제온 프로세서 도입을 통해 AI 워크로드 및 데이터 처리 성능을 향상시킨 사례를 발표했다. 이러한 발표에 따르면, IBM은 자체 테스트 결과 자사의 데이터 레이크하우스 플랫폼 왓슨x.데이터(watsonx.data)에서 5세대 인텔 제온 프로세서가 이전 세대 제품 대비 최대 2.7배 향상된 쿼리 쓰루풋을 달성했다고 밝혔다.


구글 클라우드는 팔로알토 네트워크가 자사의 위협 탐지 딥러닝 모델 구동을 위해 구글 클라우드를 통해 4세대 제온 프로세서의 가속 기능을 사용한 결과 2배 향상된 성능을 확보했다. 또한 인디 게임 스튜디오인 갈리움 스튜디오(Gallium Studios)는 실리콘밸리의 신경과학 AI 솔루션 전문기업 누멘타(Numenta)의 제온 프로세서 상에서 구동되는 AI 플랫폼을 도입함으로써 GPU 기반 클라우드 인스턴스 대비 6.5배 높은 추론 성능을 달성할 수 있었다. 이렇게 강력한 성능은 데이터 센터와 클라우드는 물론이고 전 세계 네트워크 및 엣지 애플리케이션 전반에서 어드밴스드 AI(Advanced AI)의 새로운 가능성을 지원한다.


인텔 코어 울트라, AI PC와 함께 AI PC 상에서 획기적인 AI 경험을 제공하는 애플리케이션 확산 주도


인텔코리아 최원혁 상무가 인텔 AI Everywhere 미디어 간담회 현장에서 ‘인텔 코어 Ultra 프로세서’를 선보이고 있다.


최원혁 인텔코리아 상무는 기술 브리핑을 통해 인텔 코어 울트라가 앞으로 CPU 컴퓨팅, 그래픽, 전력, 배터리 수명, AI 신기능 등 모든 영역의 혁신을 바탕으로 새로운 AI PC 세대를 만들 것이라고 강조했다. AI PC는 2023년 어디에서나 와이파이를 연결할 수 있는 인텔 센트리노(Intel Centrino) 노트북이 출시된 이후 지난 20년간의 PC 시장 역사상 가장 큰 전환을 이뤄낼 것이다.


인텔 코어 울트라는 인텔 최초의 클라이언트 온칩 AI 가속기 ‘신경처리장치(NPU)’가 새로 탑재돼 이전 세대와 비교해 2.5배 높은 전력 효율성을 제공하며, AI 가속 기능을 지원한다. 세계적인 수준의 GPU 및 세계 최고의 CPU 역시 탑재돼 AI 솔루션 실행 속도를 더욱 가속화시킨다.


무엇보다도 인텔은 앞으로 100여 개의 소프트웨어 공급업체와 긴밀하게 협력해 PC 시장에 AI로 개선된 수백 가지의 애플리케이션을 선보일 계획이다. 매우 창의적이고, 생산적이며, 흥미로운 다양한 종류의 애플리케이션은 PC 경험을 근본적으로 혁신할 것이다. 이는 일반 소비자 및 기업 고객이 자신의 PC에서 이전보다 더 큰 규모로 더욱 광범위해진 AI 기반 애플리케이션의 뛰어난 성능을 누릴 수 있음을 의미한다. 특히 이러한 PC 상의 AI 애플리케이션 조합은 인텔 코어 울트라 상에서 경쟁 플랫폼과 비교해 더 높은 성능으로 실행할 수 있다. 예를 들어 콘텐츠 크리에이터는 인텔 코어 울트라가 탑재된 PC에서 어도비 프리미어 프로를 사용해 작업할 경우 경쟁 제품 대비 40% 개선된 성능을 경험할 수 있다.


인텔 코어 울트라는 2024년 전 세계 노트북 및 PC 제조사의 230여 가지의 제품에 탑재돼 AI 가속 기능을 지원할 것이다. 이러한 PC에서 인텔 코어 울트라를 기반으로 최적화된 방식으로 구동될 100여 개의 독립 소프트웨어 공급업체(ISV)의 혁신적인 소프트웨어 기능 및 300여 개의 다양한 AI로 가속화된 기능을 구현할 것이다. 이는 실리콘밸리의 주요 경쟁사들과 비교했을 때 3배 더 많은 AI 앱 및 프레임워크에 해당한다. AI PC는 AI의 엄청난 성능 향상 이점 덕분에 2028년까지 PC 시장에서 80%의 비중을 차지할 것으로 예상되며, 우리가 일하고 배우며 콘텐츠를 창조하는 방식을 변화시킬 것이다.


최원혁 인텔코리아 상무는 “앞으로 2년 동안 인텔은 전용 AI 가속기를 탑재한 1억 개의 클라이언트 프로세서를 공급할 것이며, 이는 시장에서 가장 많은 물량을 공급하는 것이다.”라며, “인텔은 폭넓은 하드웨어와 소프트웨어 파트너사들이 포함된 생태계와 협력해 차세대 컴퓨팅인 AI PC에서 최고의 위치를 점유해 나갈 것이다”라고 설명했다.


어디에서나 개발자의 요구사항을 충족시키는 AI 가속 솔루션 및 성능


5세대 제온과 코어 울트라는 모두가 예상하지 못한 분야까지 길을 개척할 것이다. 예를 들어 음식점에서 메뉴는 보여주지 않고 예산과 식이요법 요구사항에 따라 고객을 안내하거나, 생산 현장에서 근본적인 품질 및 안전 문제를 발견하거나, 초음파를 통해 육안으로 볼 수 없는 것을 확인하거나, 전력망에서 매우 정밀하게 전기를 관리하는 모습 등을 상상할 수 있다.


이러한 엣지 컴퓨팅 사용사례는 컴퓨팅 시장에서 가장 빠른 성장세에 힘입어 향후 10년 안에 전 세계적으로 4,450억 달러(한화 약 578조 550억 원)의 가치를 지닌 시장으로 성장할 전망이다. 특히 엣지 및 클라이언트 장치는 데이터 센터와 비교해 1.4배 더 많은 AI 추론 수요를 견인하고 있으며, AI는 가장 빠르게 성장하는 엣지 컴퓨팅 워크로드가 됐다11.


인텔은 AI 하드웨어 기술을 제공하는 데서 그치지 않고 접근성과 사용 편의성을 최대한 높이기 위해 노력하고 있다. 개발자가 사용하는 AI 프레임워크(PyTorch, TensorFlow 등)에 인텔 최적화 기능을 지원해 성능을 향상시키거나 oneAPI(oneAPI)를 통해 기반 라이브러리를 제공해 인텔의 여러 종류의 하드웨어에 걸쳐 소프트웨어 이식성과 고성능을 제공하는 것도 이러한 노력에서 비롯된다.


또한 인텔의 오픈소스 oneAPI(oneAPI) 및 오픈비노(OpenVINO) 툴킷을 포함한 고급 개발자 도구는 개발자가 AI 워크로드 및 솔루션에 하드웨어 가속 기능을 적용해 AI 모델을 빠르게 구축 및 최적화한 후 광범위한 추론 대상에 걸쳐 배포하는 데 효과적이다.


행사 후반부에 인텔은 딥러닝 및 대규모 생성형 AI 모델용 차세대 AI 가속기 ‘인텔 가우디3(Intel Gaudi3)’를 발표하며 내년 출시를 예고했다. 인텔은 경쟁력 높은 TCO 및 가격대와 함께 더욱 향상된 성능 혜택을 바탕으로 가우디 파이프라인을 빠르게 확장하고 있다. 또한 생성형 AI 솔루션 수요가 증가하면서 2024년에는 가우디가 주도하는 AI 가속기 제품군을 주축으로 가속기 시장 점유율을 넓혀갈 것으로 기대한다.


인텔은 오늘날 파트너를 비롯한 폭넓은 에코시스템과 협력하며 AI가 촉발시킨 성장 기회를 현실화하는 동시에, 어디에서나 AI를 구현하고 있다.


[테크수다 기자 도안구 eyeball@techsuda.com]