오라클, 기술스택 전반에 생성형 AI 내장 적용···코히어·라마2 지원

도안구

2024년 1월 26일

[테크수다 기자 도안구 eyeball@techsuda.com] 오라클이 오라클 클라우드 인프라스트럭처(OCI) 생성형 AI(Oracle Cloud Infrastructure Generative AI) 서비스를 정식 출시한다고 발표했다. AWS의 베드록(Bedrock) 서비스에 유사한 서비스다. 베드록 서비스는 API를 통해 아마존과 타사 모델 제공업체의 기본 모델에 액세스할 수 있도록 하는 완전 관리형 서비스다.

오라클은 우선 코히어(Cohere)의 거대언어 모델(LLM)과 메타(Meta)의 라마 2(Llama 2) 를 지원한다. 앞으로 계속해서 다른 LLM은 물론 고객이 직접 개발한 모델까지 지원을 확대해갈 예정이다.

OCI 생성형 AI 서비스는 100개 이상의 다국어 기능과 개선된 GPU 클러스터 관리 경험, 유연한 미세조정 옵션 등을 제공한다. 고객은 OCI 생성형 AI 서비스를 오라클 클라우드 상에서 이용할 수 있으며, OCI 전용 리전(OCI Dedicated Region)을 통해 온프레미스 환경에서도 이용 가능하다.

오라클의 그렉 파블릭(Greg Pavlik) 오라클 클라우드 인프라스트럭처(OCI) 사업부문 AI 및 데이터 관리담당 수석부사장은 "오라클의 AI 부문 전략적 목표는 기업들의 광범위한 AI 도입을 위해 실제 비즈니스 사례에서 발생했던 문제들을 해결하는 데 집중하는 것이다. 따라서 빠르고 비용 효율적인 AI 인프라를 기반으로 생성형 AI 모델을 자체 애플리케이션 및 융합형 데이터베이스에 통합하고, 새로운 LLM 및 관리형 서비스 제공을 통해 AI를 오라클 기술 스택의 모든 계층에 내장하고 있다"며, "오라클은 고객이 직접 모아서 구성해야 하는 방식의 도구모음이 아닌, 하나의 제품처럼 유기적으로 작동하는 강력한 사전구축 생성형 AI 서비스 및 기능 제품군을 제공한다. 이를 통해 고객은 비즈니스 문제를 영민하고 빠른 방식으로 해결할 수 있게 된다"고 말했다.

생성형 AI 모델의 커스터마이징 간소화

오라클은 고객이 텍스트 생성과 요약, 의미론적(semantic) 유사성 작업을 중심으로 비즈니스 문제 해결을 지원하기 위해 코히어 및 메타 라마 2의 최신 LLM 모델을 API 호출을 통해 이용가능한 관리형 서비스 방식으로 제공한다. 또한 고객은 오라클의 강력한 데이터 보안 및 거버넌스를 바탕으로 생성형 AI 모델을 자체 기술 스택에 손쉽고 안전한 방식으로 적용할 수 있다.

또한 오라클의 검색 증강 생성(Retrieval Augmented Generation, RAG) 기술을 통해 고객은 자체 데이터를 사용해 생성형 AI모델을 추가적으로 학습시킴으로써 조직의 독특한 내부 운영방식을 이해하도록 할 수 있다. 현재 베타 단계인 OCI 생성형 AI 에이전트(OCI Generative AI Agents) 서비스에는 RAG 에이전트가 포함돼 있다. OCI 생성형 AI 에이전트는 LLM과 OCI 오픈서치(OCI OpenSearch)를 기반으로 구축한 엔터프라이즈 검색 체계를 결합함으로써 엔터프라이즈 데이터로 보강된 맥락 기반의 검색 결과를 제공한다. 사용자는 해당 에이전트를 통해 전문 기술 없이도 자연어 기반 대화 방식으로 다양한 엔터프라이즈 데이터 소스와 상호작용할 수 있다. 또한 동적 데이터 저장소로부터 최신 정보를 검색하며, 검색 결과와 함께 원본 소스 데이터에 대한 참조 정보를 제공받을 수 있다.

현재 OCI 생성형 AI 에이전트의 베타 버전은 OCI 오픈서치 검색 서비스를 지원한다. 향후 버전에서는 보다 광범위한 데이터 검색 및 집계 도구를 지원하고, AI 벡터 검색(AI Vector Search) 기능을 탑재한 오라클 데이터베이스 23c와 벡터 스토어(Vector Store) 기능을 활용한 MySQL 히트웨이브(MySQL HeatWave)에 대한 액세스를 제공할 예정이다. 또한 오라클은 오라클 퓨전 클라우드 애플리케이션 스위트(Oracle Fusion Cloud Applications Suite), 오라클 넷스위트(Oracle NetSuite)를 비롯한 SaaS 애플리케이션 제품군 및 오라클 헬스(Oracle Health)를 비롯한 산업별 애플리케이션 전반에서 사전 구축된 에이전트 활동 기능을 제공할 예정이다.

IDC의 리투 조티(Ritu Jyoti) 글로벌 인공지능 및 자동화 연구 실무담당그룹 부사장 겸 글로벌 AI 연구 책임자는 "이번 OCI 생성형 AI 서비스 발표를 기점으로 오라클은 고객이 데이터를 별도의 벡터 데이터베이스로 옮기지 않고도 자사의 워크로드와 데이터에 생성형 AI를 적용할 수 있도록 지원할 것"이라며, "오라클은 자율운영 데이터베이스부터 퓨전 SaaS 애플리케이션에 이르는 오라클 생태계 전반에 통합되고 있는 생성형 AI용 공통 아키텍처를 통해 생성형 AI를 엑사바이트 규모의 고객 데이터가 저장된 클라우드 데이터센터 및 온프레미스 환경에 제공하게 됐다. 이와 같은 접근방식은 기업조직이 생성형 AI를 기존 비즈니스 운영 체계에 배포하는 과정을 크게 간소화한다"고 말했다.

오라클의 솔루션 포트폴리오 전반에 걸쳐 내장되는 생성형 AI

오라클의 AI 인프라스트럭처와 포괄적인 클라우드 애플리케이션 포트폴리오는 고객의 두터운 신뢰를 얻고 있다. 오라클은 ERP, HCM, SCM, CX를 비롯한 자사의 클라우드 애플리케이션 포트폴리오 전반에 생성형 AI를 통합해 기업이 기존 비즈니스에 최신 혁신 기술을 적용할 수 있도록 지원한다. 또한 오라클은 고객의 AI 기반 애플리케이션 구축을 지원하기 위해 생성형 AI 기능을 자체 데이터베이스 포트폴리오에 도입하고 있다. 고객은 자율운영 데이터베이스 셀렉트 AI(Autonomous Database Select AI) 기능을 사용해 자체 엔터프라이즈 데이터와 생성형 AI가 제공하는 생산성 및 창의성의 장점 모두를 활용함으로써 애플리케이션 개발을 가속화할 뿐만 아니라, 신규 비즈니스 솔루션 구축을 진행할 수 있다.

오라클은 고객이 허깅페이스(Hugging Face)의 트랜스포머(Transformers), 파이토치(PyTorch) 등의 오픈소스 라이브러리를 사용해 LLM을 구축, 학습, 배포, 관리하는 과정을 지원하고자 OCI 데이터 사이언스(OCI Data Science)의 기능을 확장해 나가고 있다. 2월에 베타 버전 출시가 예정된 OCI 데이터 사이언스 AI 퀵 액션(OCI Data Science AI Quick Actions) 기능은 메타 또는 미스트랄 AI(Mistral AI) 등의 주요 AI 공급업체를 비롯한 다양한 오픈소스 LLM에 노코드 액세스를 지원할 예정이다.

추가 자료