[인텔 AI 에브리웨어] 나승주 상무, "AI 확산 위한 비용∙산업 특화 LLM 구축 두마리 토끼잡는 5세대 인텔 제온 프로세서"

[테크수다 기자 도안구 eyeball@techsuda.com] "기업 내 AI 서비스를 확산시키려면 비용 효율적이면서 컴퓨팅 파워는 강력해야 합니다. 그런 면에서 5세대 인텔 제온 프로세서가 제격입니다."

나승주 인텔코리아 상무는 5세대 인텔 제온 프로세서가 비용과 산업 특화 거대 언어모델을 기업 내부에 확산하는데 최적의 해결책이라고 강조했다.

인텔은 오늘 여의도 전경련회관에서 진행된 "AI 에브리웨어(AI Everywhere)" 기자간담회에서 인공지능, 고성능 컴퓨팅(HPC), 네트워킹, 스토리지, 데이터베이스 및 보안을 위한 중요 워크로드에서 와트당 성능은 높이고 총소유비용(TCO)은 낮춘 5세대 인텔 제온 프로세서(5th Gen Intel Xeon, 코드명 에메랄드 래피즈)를 출시했다.

이번 출시는 올해 두 번째 제온 제품군 업그레이드로, 이전 세대와 동등한 전력 사용량으로 더욱 높은 컴퓨팅 성능과 빠른 메모리 속도를 경험할 수 있다. 또한, 4세대 인텔 제온 프로세서와 소프트웨어 및 플랫폼 호환이 가능해, 비용과 탄소 배출을 절감하는 동시에 인프라 투자 수명을 업그레이드하고 극대화할 수 있다.

산드라 리베라(Sandra Rivera), 인텔 수석 부사장 겸 데이터센터 및 AI 그룹 총괄 매니저 "AI를 고려해 설계된 5세대 인텔 제온 프로세서는 클라우드, 네트워크 및 엣지 사용사례 전반에 걸쳐 AI 기능을 배포하는 고객에게 더 뛰어난 성능을 제공한다. 고객, 파트너, 그리고 개발자 에코시스템과 오랜 기간 협력 관계를 유지한 덕분에, 검증된 기반을 토대로 더 낮은 총소유비용(TCO)으로 도입 및 확장 속도를 높일 수 있는 5세대 인텔 제온을 출시하게 했다"고 말했다.

5세대 제온

5세대 제온 프로세서는 모든 코어에서 AI 가속 기능을 지원해 추론 성능을 42%까지 높이고, 파라미터 수가 최대 200억 개인 대규모 언어 모델(LLM)에서 지연 시간을 100밀리초 미만으로 유지하는 등 까다로운 엔드-투-엔드 AI 워크로드 문제를 해결하기 때문에 고객이 외장형 가속기를 별도로 추가할 필요가 없다.

이번 신규 프로세서는 이전 제온 세대와 비교하면 광범위한 고객 워크로드에서 범용 컴퓨팅의 평균 성능 이득을 21%까지 개선하고, 와트당 평균 성능을 36%까지 높일 수 있다. 일반적으로 5년 주기로 업그레이드하는 고객 및 심지어 더욱 이전 세대에서 업그레이드하는 고객들도 최대 77% TCO 절감 효과를 경험할 수 있다.

5세대 제온 프로세서는 이전 세대를 기반으로 새로운 혁신을 구현해 성능과 효율 측면에서 고객에게 다양한 이점을 제공한다. 5세대 제온 프로세서는 CPU 1개당 지원되는 코어 수가 최대 64개이고, 최대 마지막 레벨 캐시가 이전 세대와 비교 시 거의 3배에 이른다. 또한 CPU 1개당 DDR5 채널을 8개 제공하고, 초당 최대 5,600메가트랜스퍼(MT/s)로 DDR5를 지원하고, 인텔 UPI 2.0을 통해 소켓 간 대역폭을 높여 초당 최대 20기가트랜스퍼(GT/s)까지 제공한다.

그 밖에도 일부 5세대 제온 프로세서 기반 인스턴스는 앞으로 선두 클라우드 서비스 제공업체(CSP)를 통해 컴퓨팅 익스프레스 링크(CXL) 타입 3 워크플로우를 지원할 예정이다.

국내에서는 이미 메모리 파트너가 제품을 사용하고 있는 것으로 알려졌다. 행사장에는 메모리 분야 강력한 파트너인 삼성전자 배용철 메모리 사업부 부사장도 참석해 5세대 제온 프로세서 발표를 축하했다. 인텔은 4세대 제온 프로세서부터 DDR5 를 탑재했고 이번 5세대 제품도 DDR5 제품을 탑재한다.

그는 "인텔 5세대 제온 프로세서 개발 초기부터 메모리 분야 DDR5 관련해 협력해 왔습니다. AI 실현 위해 뛰어난 성능의 프로세서와 메모리의 결합은 필수"라며 두 회사의 협업은 앞으로도 지속될 것이라고 강조했다. 삼성전자는 DDR5 뿐아니라 CXL, HBM 관련해서도 인텔과 꾸준히 협력해 클라우드 사업자들이 최적의 AI 인프라를 구축할 수 있도록 협력한다.

5세대 제온 프로세서는 이전 세대와 핀 호환이 가능하며, 나아가 시스코(Cisco), 델(Dell), HPE, 인스퍼일렉트로닉인포메이션(IEIT Systems), 레노버(Lenovo), 슈퍼마이크로컴퓨터(Super Micro Computer) 등 최고의 주문자상표부착생산(OEM) 업체들이 2024년 1분기부터 단일 및 이중 소켓 시스템을 다양하게 제공할 계획이다. 주요 CSP 업체들은 1년에 걸쳐 5세대 제온 프로세서 기반 인스턴스의 출시를 발표할 것으로 기대된다.

인텔 트러스트 도메인 확장(Intel Trust Domain Extensions, 이하 인텔 TDX)은 가상 머신(VM) 수준에서 기밀성과 보안을 강화해 더욱 강력한 개인정보 보호와 데이터 제어를 제공한다. 올해 초, 4세대 제온 프로세서에서 도입돼 일부 CSP에서만 제공했던 인텔 TDX는 이제 5세대 제온 프로세서의 출시와 함께 모든 OEM 및 CSP 솔루션 공급업체에서 이용할 수 있다. 인텔 TDX 기밀 VM에서는 게스트 운영 체제와 VM 애플리케이션이 플랫폼의 클라우드 호스트, 하이퍼바이저, 기타 VM에서 액세스하지 못하도록 격리된다.

인텔의 새로운 프로세서는 기업 고객 및 파트너를 위해 성능을 크게 높이고 포괄적인 이점을 제공할 뿐만 아니라 주요 워크로드에서 성능을 개선 및 최적화할 수 있다.

2023년 1월에 4세대 제온 프로세서를 출시한 이후 오늘 5세대 제온 프로세서를 출시한 인텔은 앞서 고객에게 약속한 로드맵을 변함없이 실천해 나갈 방침이다. 내년에 출시되는 차세대 인텔 제온 프로세서의 경우, 전력 효율 및 성능 측면에서 크게 향상된 모습을 보일 것으로 기대를 모은다. 2024년 상반기에는 E-코어 기반의 시에라 포레스트(Sierra Forest)를 출시하고, 곧 이어 P-코어 기반 그래나이트 래피즈(Granite Rapids)를 출시할 예정이다.

나승주 상무는 기업들의 AI 확산을 위해서는 최적의 인프라라고 다시 한번 강조했다. 올해 네이버와 협력한 AI 분야와 관련해서 "GPU를 활용하기도 하지만 파인튜닝된 제품을 경쟁력 있는 비용으로 기업 내 확산하기 위해서는 다양한 가속기가 들어가 있는 인텔 4세대 제품이 안성맞춤이었습니다. 많은 고객들이 정작 서비스를 내부에 제공하기 위해서는 이런 비용 효율적이며 강력한 파워의 제품이 필요합니다"라고 말했다.

[테크수다 기자 도안구 eyeball@techsua.com]