오라클, 성능과 보안 강화된 B2B 생성형 AI 제공한다···AI 기업 코히어와 협업

도안구

2023년 6월 16일

[테크수다 기자 도안구 eyeball@techsuda.com] 오라클이 생성형 AI 시장에 적극 뛰어든다.

오라클은 전 세계 기업 조직을 위한 강력한 생성형 AI(generative AI) 서비스를 개발하겠다고 밝혔다. 오라클은 기업용 AI 플랫폼 제공 선도업체인 코히어(Cohere)와의 협업을 통해 네이티브 환경에서 생성형 AI 서비스를 제공함으로써, 기업 조직이 비즈니스 전과정의 프로세스 자동화 및 의사결정 개선, 고객 경험 향상을 이룰 수 있도록 지원할 계획이다.

오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure, OCI)를 기반으로 구축되고, 오라클의 독창적인 수퍼클러스터(Supercluster) 기능을 활용하는 오라클 생성형 AI 서비스는 애플리케이션에서부터 인프라스트럭처에 이르기까지 전반에 적용될 예정이며, 업계 최고 수준의 보안 및 성능, 가치 제공을 목표로 삼고 있다.

오라클의 클레이 마고요크(Clay Magouyrk) 오라클 클라우드 인프라스트럭처 총괄 부사장은 “첨단 보안 및 동급 최강의 데이터 관리 기능과 모든 종류의 비즈니스 문제를 해결할 수 있는 통합 클라우드 애플리케이션 포트폴리오를 갖춘 오라클만이 생성형 AI를 위한 완전한 엔드투엔드 플랫폼을 제공할 수 있다.”라며 “코히어와의 협력을 통해 고객들은 생성형 AI를 자사 비즈니스에 손쉽게 도입할 수 있다. 고객은 코히어의 기반 모델들(foundational models)을 통해 보유한 데이터를 안전하게 통합해 특정 모델의 훈련에 활용할 수 있으며, OCI를 통해 이를 동급 최강의 AI 인프라스트럭처에 배포하여 해당 모델이 선사하는 비즈니스 이점을 애플리케이션을 통해 즉각 경험할 수 있게 됐다.”라고 말했다.

코히어는 오라클과의 협력을 통해 자사의 생성형 AI 모델을 OCI에서 훈련, 구축 및 배포할 예정이다. OCI는 클러스터당 16,000개 이상의 H100 GPU와 초저 대기 시간, 클라우드 사상 최고 대역폭을 제공하는 RDMA(Remote Direct Memory Access) 네트워크를 통해 최고 성능과 최저 비용의 GPU 클러스터 기술을 제공함으로써 AI 워크로드 실행 측면에서 단연 독보적이다. 특히 이번 협력을 통해 대규모 언어 모델(large language models, LLM) 훈련 가속화 및 비용 절감 효과도 기대된다.

코히어의 마틴 콘(Martin Kon) 회장 겸 최고운영책임자(COO)는 “오라클과 코히어는 데이터 보안과 모델 커스텀화에 중점을 두고 있으며, 우리의 목표는 기업이 비즈니스 가치를 창출할 수 있도록 지원하는 것이다.”라며 “오라클과 코히어는 전 세계 기업들이 자사의 AI 이니셔티브를 가속화하고, 더 큰 가치를 창출할 수 있도록 지원하는 동시에, 비즈니스 성공을 극대화할 수 있도록 확실한 데이터 보안과 개인정보 보호를 보장하는 것은 물론, 새로운 수준의 자동화 기능도 제공할 것이다.”라고 전했다.

또한, 코히어 모델들은 업계에서 가장 완전한 오라클의 클라우드 애플리케이션(SaaS) 포트폴리오에 직접 통합될 예정이다. 오라클은 코히어의 언어 모델들을 오라클 퓨전 클라우드 애플리케이션(Oracle Fusion Cloud Applications)과 오라클 넷스위트(Oracle NetSuite), 오라클의 산업별 애플리케이션 등 다양한 비즈니스 애플리케이션에 내장함으로써 고객이 생성형 AI를 빠르고 안전하게 배포해 각자가 직면한 가장 까다로운 비즈니스 과제 해결에 활용할 수 있도록 지원할 것이다.

오라클의 통합 클라우드 애플리케이션 포트폴리오와 독보적인 데이터 관리 전문성, 동급 최강의 AI 인프라스트럭처와 코히어의 최첨단 거대 언어 모델의 결합을 통해 고객기업은 다음과 같은 이점을 누릴 수 있다:

독보적인 데이터 보안, 개인정보 보호, 거버넌스: OCI의 생성형 AI 서비스는 고객기업이 자사 데이터에 대한 완전한 제어 능력 및 소유권을 누릴 수 있게 해 준다. 또한 타 생성형 AI 제품과 달리 오라클의 생성형 AI 서비스는 고객 데이터를 한데 섞지 않기 때문에 한 기업의 경쟁 우위는 해당 기업만의 것으로 남게 된다. 데이터 출처 및 계보 액세스용 도구 역시 출시 예정이다.
강력한 고성능 모델: 오라클의 생성형 AI 서비스는 코히어의 최첨단 기반 LLM을 활용하며, 오라클의 독창적인 산업 지식 및 데이터 인사이트를 기반으로 맞춤화 및 개선될 수 있다. 또한 고객은 자체 데이터를 사용해 이 모델들을 추가로 정제하여 특정 비즈니스 사용 사례들의 정확성을 높일 수 있다.
내장된 생성형 AI 서비스: ERP, HCM, SCM, CX 등 클라우드 애플리케이션 포트폴리오 전반에 생성형 AI를 내장함으로써 오라클은 고객이 기존 비즈니스 프로세스 안에서 최신 혁신 기술을 누릴 수 있도록 지원할 예정이다. 오라클은 헬스케어 및 공공 안전을 위한 신규 모델 배포를 앞두고 있으며, 산업별 애플리케이션 전반에도 생성형 AI를 내장할 계획이다. 이 AI 서비스들은 지식 근로자의 생산성과 효율성을 끌어올리는 동시에, 이들이 개념 도출(ideation), 창의적인 활동, 부가가치 작업 등에 더 많은 시간을 할애할 수 있도록 지원하고, 전반적인 직원 경험도 개선해 줄 것이다. 또한, 오라클은 오라클 데이터베이스(Oracle Database) 및 MySQL 히트웨이브(MySQL HeatWave)에 머신러닝 기능을 도입했을 때와 동일한 방식으로 생성형 AI 기능을 데이터베이스 포트폴리오에 내장할 예정이다.
고객기업이 필요할 때 언제든 사용할 수 있는 생성형 AI: 고객기업은 OCI에서 생성형 AI 서비스를 사용할 수 있으며, 퍼블릭 클라우드의 모든 이점을 활용하여 원할 때 온디맨드 방식으로 솔루션을 확장하고, 모델을 맞춤화하고, 비즈니스를 위한 개별 모델 엔드포인트를 생성할 수 있다. 또한, 오라클은 기업 조직의 데이터 센터에 생성형 AI 서비스를 제공해 기업이 다양한 생성형 기능과 자체 온프레미스(사내구축형) 데이터 및 애플리케이션을 결합할 수 있게 지원할 계획이다.

우버(Uber)의 캄란 자가히(Kamran Zargahi) 전무는 “생성형 AI는 우리 비즈니스를 지원하고, 고객을 만족시키고, 생산성을 높일 수 있는 엄청난 기회다.”라며 “오라클과 코히어의 파트너십을 통해 이와 같은 목표를 함께 달성하게 되어 기쁘다.”라고 말했다.

코업(Co-op)의 가레스 아브류(Gareth Abreu) HCM 비즈니스 플랫폼 수석 도메인 담당자는 “HCM 애플리케이션에 생성형 AI를 활용한다는 건 조직에게는 판을 뒤흔드는 변화일 것이다.”라며 “우리는 이 영역이 가진 잠재력에 대단히 큰 기대를 걸고 있다. 작업의 간소화 및 효율화, 개별 직원들이 더 나은 성과를 거둘 수 있도록 지원하는 스마트한 안내, 직원 경험 개선은 오라클 클라우드 HCM(Oracle Cloud HCM)에서 생성형 AI를 활용함으로써 얻을 수 있을 것으로 기대되는 이점 중 일부에 불과하다. 이 기술은 우리가 그동안 업무, 특히 HR 업무에 대해 가지고 있던 개념 자체를 완전히 바꿔 놓을 힘을 가지고 있다.”라고 설명했다.

미주리 대학교 의과대학의 의학 부총장이자 휴 E. 및 사라 D. 스티븐슨 학장(Hugh E. and Sarah D. Stephenson Dean)인 의학 박사 리처드 J. 바론(Richard J. Barohn)은 “미주리 대학병원은 보유한 오라클 전자 보건 기록 시스템에 생성형 AI를 통합하여 의사 및 간호사들의 워크플로를 간소화하게 될 그날을 고대하고 있다. 이를 통해 의료진은 환자 치료에 더 많은 시간을 할애할 수 있게 될 것이고, 그 결과 치료의 질과 헬스케어 경험 모두가 개선될 것이다.”라고 말했다.

추가 자료