[테크수다 기자 도안구 eyeball@techsuda.com] 최동진 카카오엔터프라이즈 AI 총괄(CAIO)은 “이번에 선보이는 카카오 i 머신러닝은 어려운 인프라 지식이나 운영 노하우없이도 AI 모델의 라이프사이클 전 과정을 손쉽게 통합 관리할 수 있는 강력한 플랫폼”이라며 “더 나아가 챗GPT, 생성형 AI와 같은 대규모 컴퓨팅 자원을 요구하는 고성능 분산 학습 환경까지 지원해 새로운 가치를 창출하는 데 기여할 것"이라고 전했다.

카카오엔터프라이즈(대표 백상엽)가 더 많은 사람들이 보다 많은 분야에서 AI를 쉽게 활용할 수 있도록 지원하는 ‘모두를 위한 AI’ 실현에 나선다.

카카오엔터프라이즈(대표 백상엽)가 30일, 효율적인 AI 개발 환경을 지원하는 머신러닝 운영 플랫폼 ‘카카오 i 머신러닝(Kakao i Machine Learning)’을 출시했다고 밝혔다. 카카오 i 머신러닝은 어려운 인프라 지식이나 모델 운영 노하우없이도 AI 모델 학습부터 추론, 배포까지 프로세스 전반을 통합 관리할 수 있는 플랫폼으로 시스템 개발과 서비스 운영을 통합해 안정적이면서 신속한 개발 환경을 제공한다.

다년간 카카오의 AI 모델 연구⬝개발⬝운영 경험과 노하우가 집약된 MLOps 플랫폼

카카오 i 머신러닝은 카카오의 다양한 서비스에서 활용되는 AI 모델을 연구⬝개발하고 직접 운영한 경험과 노하우를 집약해 선보이는 머신러닝 운영 플랫폼으로 실제 현업에서 바로 적용 가능한 수준으로 안정성과 실용성을 갖췄다.

보편적으로 AI 모델 개발 과정에서 머신러닝 엔지니어는 △데이터 수집 및 이해 △데이터 전처리 △모델 학습 △편향검증 △배포 등의 단계를 거친다. 완성도 높은 AI 모델을 만들기 위해 모델 학습 과정에서 반복 작업이 필요하며 이때 여러 시행착오를 겪게 된다. 카카오 i 머신러닝은 모델 학습 과정에서 반복 작업을 줄여 업무 생산성을 대폭 향상하며, AI 모델의 버전 관리를 통해 지속적인 모니터링과 유지⬝보수가 가능해 주기적으로 최신 AI 모델을 출시할 수 있도록 지원한다.

원하는 목적에 따라 GPU 팜 활용해 인프라 비용 절감

IT 및 비즈니스 의사결정자들은 카카오 i 머신러닝을 통해 효율적으로 연산 자원을 활용해 인프라 비용을 절감할 수 있다. 카카오 i 머신러닝은 고성능 컴퓨팅(HPC) 클러스터가 구축된 GPU 팜을 제공해 기업 고객은 원하는 목적에 따라 엔비디아 A100, V100, T4 등 고성능 GPU 장비를 연동해 사용할 수 있으며 ▲인프라 관리 ▲데이터 관리 ▲실험 관리 ▲머신러닝 파이프라인 ▲배포 관리 등의 기능을 지원한다.

높은 호환성⬝유연성⬝신속한 데이터 처리가 강점

카카오 i 클라우드는 쿠버네티스 기반 클라우드 컴퓨팅 기술을 통해 높은 호환성과 유연성을 보장하고, 여러 고성능 장비 간 통신을 동시다발적으로 처리할 수 있는 인피니밴드 기술이 적용된 GPU 노드간 통신 및 스토리지로 빠른 데이터 입출력(I/O) 속도를 제공한다. 따라서 AI 기술을 사용하는 모든 산업군에서 활용할 수 있고, 특히 대규모 데이터를 사용해 AI 연구 및 서비스를 제공하는 기업에 적합하다.

AI 서비스 상용화에 최적화

현업에서 다양한 AI 프로젝트를 진행하며 상용화하는 데 많은 어려움을 겪고 있는 머신러닝 엔지니어와 개발자들은 카카오 i 머신러닝을 통해 보다 쉽고 간편하게 AI 모델을 배포⬝관리할 수 있다. 실제로 카카오 i 머신러닝을 활용해 카카오 i 클라우드의 ▲OCR ▲번역 ▲음성 인식 ▲유사 상품 검색 등 다양한 AI 서비스를 제공하고 있다.

개인화된 워크스페이스 및 다양한 개발자 도구 제공

머신러닝 엔지니어와 개발자들은 카카오 i 머신러닝을 통해 개인 작업공간인 워크스페이스를 원하는 만큼 생성하고 필요한 컴퓨팅 자원을 할당받아 사용할 수 있으며 IT 관리자는 조직 내에서 각자 담당하는 역할에 따라 권한을 부여할 수 있다. 또한 각자의 워크스페이스에 동료를 초대해 손쉽게 결과물을 공유하고 소통할 수 있어 머신러닝 연구자와 엔지니어 간 협업을 원활하게 한다. 또한 각 사용자가 원하는 작업 환경에 따라 선택할 수 있도록 직관적인 웹 콘솔과 CLI(명령줄 인터페이스), SDK(소프트웨어 개발 키트)를 모두 제공해 편리하게 사용할 수 있다.

[테크수다 기자 도안구 eyeball@techsuda.com]