테크수다

[AWS re:Invent 2024] 피터 데샌티스 AWS 유틸리티 컴퓨팅 부문 수석 부사장,

도안구 -

[테크수다 기자 도안구 eyeball@techsuda.com] AWS re:Invent 2024 첫날 기조 연설을 시작으로 행사의 문을 열었다. 전체 기술 스택에 걸쳐 AWS가 어떻게 혁신하고 있는지 피터 데샌티스(Peter DeSantis) AWS 유틸리티 컴퓨팅 부문 수석 부사장의 기조연설이 있었다.

AWS 컴퓨팅 및 네트워킹 서비스 부문 부사장 데이브 브라운(Dave Brown)과 AI 안전 및 연구 기업 앤트로픽(Anthropic)의 공동 설립자인 톰 브라운(Tom Brown)이 초청 연사로 참여한 가운데 디산티스는 AWS가 어떻게 기술의 경계를 넓혀 가장 까다로운 AI 워크로드에 AWS의 성능, 안정성, 저렴한 비용을 제공하는지 공개했다.

DeSantis는 AI 학습 및 추론 워크로드의 특정 요구사항은 AWS 팀에게 최고 성능의 칩 개발부터 새로운 기술과의 상호 연결에 이르기까지 완전히 다른 방식으로 발명할 수 있는 새로운 기회를 제공한다고 말했다.

머신 러닝을 위해 특별히 제작된 AWS Trainium2 칩에 더 많은 컴퓨팅 성능과 메모리를 담는 데 도움이 되는 고급 패키징과 복잡한 설계 요소부터 서버를 데이터 센터에 설치하기 전에 모든 배선을 테스트할 수 있는 Firefly Optic Plug와 같은 사소해 보이는 혁신까지, 모든 것이 AWS의 AI 클러스터 배포 속도에 큰 차이를 만들어 냈다.

DeSantis에 따르면 AWS의 가장 독특한 점 중 하나는 리더들이 세부 사항을 파악하는 데 많은 시간을 할애하기 때문에 고객에게 무슨 일이 일어나고 있는지 파악하고 빠르고 영향력 있는 결정을 내릴 수 있다는 점이다. 그는 12년 전 맞춤형 실리콘에 투자를 시작한 것이 그러한 결정 중 하나였으며, 그 과정에서 회사의 역사가 바뀌었다고 말했습니다.

그는 오늘 이 자리가 고객에게 진정으로 차별화된 서비스를 제공하기 위해 전체 기술 스택을 혁신하는 AWS의 “다음 장”이라고 청중에게 말했습니다.

"" 주요 내용 요약:

행사 소개 및 시작:

  • AWS 유틸리티 컴퓨팅 담당 수석 부사장 Peter DeSantis가 발표를 시작하며 AWS의 기술 혁신과 이를 뒷받침하는 문화에 대해 강조. (타임스탬프: 00:21)

핵심 주제 - "어떻게(The How)":

  • 클라우드 컴퓨팅의 핵심 속성을 제공하기 위해 설계 단계부터 중요성을 강조하며, 이를 나무 뿌리에 비유. (타임스탬프: 01:28 - 04:01)

AWS 리더십 및 의사 결정:

  • 매주 열리는 운영 회의와 같은 체계적 메커니즘을 통해 세부 사항에 집중하고 빠르고 정확한 결정을 내리는 것이 AWS의 성공 비결로 설명. 예: Nitro 시스템과 같은 커스텀 실리콘 투자. (타임스탬프: 05:03 - 06:23)

Graviton 프로세서와 실리콘 혁신:

  • AWS의 Graviton 프로세서 개발 여정 소개. Graviton4는 전통적인 벤치마크를 넘어 고객의 실제 워크로드 성능을 중점적으로 개선. (타임스탬프: 11:19 - 16:47)

분리형 스토리지 아키텍처:

  • Nitro 기반 분리형 스토리지 소개. 컴퓨팅과 스토리지를 분리하여 확장성과 효율성을 높이고 운영 복잡성을 줄이는 데 기여. (타임스탬프: 29:53 - 34:42)

AI 인프라 및 확장 혁신:

  • AI 워크로드를 위해 설계된 Tranium2 칩과 초고성능 서버(울트라 서버)를 발표, 대규모 AI 모델의 훈련과 추론을 위한 고성능 및 확장성을 강조. (타임스탬프: 35:22 - 53:49)

네트워크 혁신:

  • AWS의 차세대 AI 최적화 네트워크(TNP Ten Network)를 공개. 높은 대역폭, 낮은 지연 시간, CIDR 프로토콜을 통해 장애에 빠르게 대응할 수 있도록 설계.

Anthropic과의 협력:

  • AWS의 인프라를 활용한 AI 모델 훈련 및 추론 속도 향상 사례를 소개, 대규모 AI 클러스터(Project Rainier)도 발표.

혁신을 위한 문화:

  • AWS의 리더십 원칙과 체계는 보안, 운영 성능, 비용 효율성을 유지하면서도 확장 가능한 혁신을 가능하게 함.

마무리:

  • Peter DeSantis가 AWS의 전반적인 스택에서 이루어진 혁신과 이를 통해 고객에게 제공되는 차별화된 솔루션을 강조하며 발표 종료.