테크수다

레드햇 서밋 2024 주요 발표 내용···'AI도 클라우드처럼 하이브리드로'

도안구 -

[테크수다 기자 도안구 eyeball@techsuda.com] 레드햇이 미국 덴버에서 ‘레드햇 서밋 2024(Redhat Summit 2024)’를 개최하고 ‘RHEL AI’, 오픈시프트 AI (OpenShift AI) 등 신제품 출시 및 업데이트를 했다.

매트 힉스(Matt Hicks) 레드햇 CEO는 "지난 10년간 학계가 오픈소스를 수용하면서 혁신이 활발해졌고, 특히 AI 분야에서 학계와 오픈소스가 만나 시너지를 내고 있습니다"라고 전하고 "AI가 단일 기업에 의해 만들어지지 않을 것이며, 오픈소스 기반이 될 것"이라고 강조했다.

레드햇은 인스트럭트랩(instruct-lab)을 오픈소스로 공개한다고 발표했는데요. 누구나 기여할 수 있는 방법을 제공해 AI 모델에 지식과 기술을 더할 수 있게 되었다. 또 IBM 리서치와 함께 그래닛(Granite) 언어모델을 아파치 라이선스로 오픈소스화 한다고 밝혔다.

주요 내용은 다음과 같습니다.

  • 레드햇, 오픈소스 기반 생성형 AI 플랫폼 ‘레드햇 엔터프라이즈 리눅스 AI’ 출시: RHEL AI는 오픈소스 커뮤니티 프로젝트 인스트럭트랩을 기반으로 하며 오픈소스 라이선스 생성형 AI 모델을 엔터프라이즈에 도입할 수 있는 파운데이션 모델 플랫폼입니다.
  • 레드햇 오픈시프트 AI, 하이브리드 클라우드 전반에 예측형 및 생성형 AI 지원 확대: 레드햇 오픈시프트 AI는 업데이트를 통해 빠른 혁신 및 생산성 향상을 통해 비즈니스 운영에 AI를 적용할 수 있는 역량을 제공하며, AMD와 인텔 등과 협업으로 AI 생태계 확장했습니다.
  • 데이터가 하나의 인프라 또는 환경에서 운용할 수 없듯, AI도 마찬가지
  • 하이브리드 클라우드는 언제 어디서든 혁신할 수 있는 이점을 제공하며, AI도 하이브리드로 구축하면 그 이점을 받을 수 있다
  • 워크로드가 있는 곳에 AI를 배포할 수 있고, 이를 위한 유연성과 선택권을 제공
  • 레드햇은 일관성, 포괄성, 그리고 신뢰성을 바탕으로한 플랫폼을 하이브리드 클라우드에 그랬듯이     AI에도 제공하고자 한다

레드햇이 지향하는 AI

  • 모두를 만족시킬 하나의 AI 모델은 존재하지 않지만, 다행히 사용할 수 있는 오픈소스 모델이 다수 존재한다
  • 하지만 대부분 사용에 제약이 있고, 정보가 어떻게 처리되는지 확실하지 않다
  • 그동안 ‘기여'라는 오픈소스 가치를 갖춘 AI 모델이 없었으며, 레드햇은 RHEL AI와 인스트럭트랩을 통해 이를 바꾸고자 한다

레드햇 오픈시프트 AI (Red Hat OpenShift AI)

  • 오픈시프트 AI로 오픈소스 혁신 지속을 주요 업데이트
  • 엣지에서의 모델 서빙
  • 다수의 모델 서버로 예측형과 생성형 AI 모두 지원
  • AMD, 인텔, Nvidia 지원하는 새로운 가속기 프로필
  • 더 빠르고 효율적인 데이터 처리와 모델 학습을 위한 워크로드 분산

RHEL AI

  • IBM리서치와 레드햇이 함께 만든 생성형AI 파운데이션 모델 플랫폼 (레드햇 오픈시프트 AI에 포함)
  • 그래니트라는 오픈소스 코드와 IBM의 개발언어 모델 + 인스트럭트랩 프로젝트와 레드햇 엔터프라이즈 리눅스 컨테이너의 배포 지원의 조합
  • 오픈소스 라이선스 생성형 AI 모델을 엔터프라이즈에 도입할 수 있는 파운데이션 모델 플랫폼 제공

인스트럭트랩 (InstructLab)

  • 현재 사용할 수 있는 개방형 AI 모델은 나날이 빠르게 발전되고 있어 진입장벽이 높다
  • 또한 오픈소스 프로젝트와 달이 이를 중심으로 한 커뮤니티가 없었다
  • 인스트럭트랩은 생성형AI를 위한 커뮤니티이며, Large-scale Alignment for chatBots (LAB)를 통해 AI 모델 학습을 시킬 수 있고, 동시에 커뮤니티에 이 학습 정보를 커뮤니티에 공유할 수 있다
  • RHEL AI에 포함된 인스트럭트랩 프로젝트를 기업이나 조직에서 활용 가능
  • RHEL AI를 통해 기업에서 필요로 하는 정보를 직접 학습시키며 개발 가능: 인스트럭트랩은 노트북에서도 사용이 가능할 정도로 가벼운 프로그램으로, 레드햇이 제시하는 하이브리드 접근 방식에 맞게 노트북이나, 엣지단, 데이터센터 등에서 학습을 시키면 이 정보를 취합, 처리할 수 있다

레드햇 엔터프라이즈 리눅스용 이미지 모드 (Image mode for RHEL)

  • 리눅스는 오픈소스에서 볼 수 있는 모든 혁신의 기반
  • AI 워크로드를 원활하게 지원하기 위해 리눅스 환경을 신속하게 구축, 업데이트 및 조정해야 한다
  • RHEL용 이미지 모드는 변경 불가능한 RHEL 이미지를 리눅스 컨테이너로 제공함으로써 이 문제를 해결한다
  • 컨테이너가 운영 체제 상의 언어로 기능하는 것이며, OS를 부팅 가능한 컨테이너로 제공함으로써 운영 팀은 이제 개발자 팀과 함께 워크플로우를 통합할 수 있다

포드맨 AI랩 (Podman AI Lab)

  • 애플리케이션 개발자들은 AI 모델 작업에 여러 어려움을 겪으며, 특히 개발자가 원격 모델 엔드포인트로 작업하는 경우, 로컬에서 모델을 실험할 리소스가 부족하기 때문에 데이터 지역성과 보안은 중요한 요소로 꼽힌다
  • 포드맨 데스크탑은 클라우드 네이티브 애플리케이션을 통해 개발자들에게 이 문제를 해결해준다.
  • 개발자는 자신의 노트북으로 그들에게 익숙한 도구와 환경에서 바로 모델 작업을 할 수 있다.
  • 그런 다음 컨테이너로 손쉽게 패키징하고 RHEL용 이미지 모드를 통해 배포하거나 오픈시프트 AI를 사용하여 대규모 제작이 가능하다.
  • 현재 커뮤니티에서 사용 가능

레드햇 플랫폼 전반에 걸친 레드햇 라이트스피드

  • 레드햇은 지난해 레드햇 앤서블 오토메이션 플랫폼 (Red Hat Ansible Automation Platform)에 생성형 AI를 통합한 레드햇 앤서블 라이트스피드(Red Hat Ansible Lightspeed)를 발표했다.
  • 라이트스피드는 자동화 기술을 하이브리드 클라우드 전반으로 확장하여 초보자에게는 더 높은 수준의 기능을 수행할 수 있도록, 전문가에게는 역량을 배가할 수 있도록 지원했다.
  • 생성형 AI를 통해 기술 격차와 리소스 제약 해결
  • 레드햇은 레드햇 오픈시프트와 레드햇 엔터프라이즈 리눅스 모두에 레드햇 라이트스피드를 적용
  • → 운영팀, 시스템 관리자 및 쿠버네티스 운영자 모두 생성형 AI의 이점을 누릴 수 있다.
  • 챗봇에 질문을 하는 것과 유사한 기능을 제공한다
  • 콘솔에 사용자가 질문하면 여기에 적합한 제안을 해주기 때문에 초보 사용자도 코드 작업 대신 자연어로 원하는 정보를 얻을 수 있고, 간단한 작업의 경우 실행도 가능하다

레드햇 앤서블 오토메이션 플랫폼을 위한 코드 정책(Policy-as-a-Code)

  • 앤서블은 오랫동안 IT 자동화의 표준이 되어왔고, 시스템 관리를 용이하게 하고 규정을 준수하는 동시에 AI 지원의 속도를 높이기 위해서는 더욱 개선된 추가적인 자동화가 필요
  • 코드 정책을 통해 앤서블은 컴플라이언스 및 기타 IT 정책에 동일한 수준의 자동화를 제공한다
  • 이를 통해 AI 적용 전후 모두에서 대규모로 시스템 컴플라이언스를 유지할 수 있다
  • AI가 요구하는 속도로 운영하며 규정을 준수하고 일관된 프로세스를 구현할 수 있다

부가 자료

●       RHEL AI에 대해 더 알아보기

●       인스트럭트랩에 대해 더 알아보기

●       오픈소스 라이선스 그래니트 코드 모델에 대해 더 알아보기

●       레드햇 서밋에 대해 더 알아보기

●       레드햇 서밋 뉴스룸에서 레드햇 주요 발표 보기

[테크수다 기자 도안구 eyeball@techsuda.com]