[테크수다 기자 도안구 eyeball@techsuda.com] "생성형 AI의 핵심은 더 이상 단순한 모델 성능 경쟁이 아니라, 실제 업무 요구에 어떻게 가치를 창출하는지에 있습니다. 추론 통합 거대언어모델(LLM)부터 AI PC까지 포괄하는 제품군 확장을 통해 AI의 활용 범위를 넓히고, 실질적인 성능을 발휘할 수 있는 환경 구축에 앞장서겠습니다."

김영섬 코난테크놀로지 대표의 포부다. 코난테크놀로지가 13일 서울 광화문 호텔 코리아나에서 '코난 LLM 투명성 모델'을 포함한 2025년 신규 AI 제품과 사업 전략, 기술 로드맵을 발표했다.

임완택 전략기획본부장은 MCP(Model Context Protocol), A2A(Agent-to-Agent) 등 앤쓰로픽과 구글 등이 최근 선보인 글로벌 AI 기술 트렌드를 분석하고, 국내 AI 자체 개발사로서 코난테크놀로지의 기술 비전인 'Agentic RAG'와 2025년 기술 로드맵을 소개했다.

Agentic RAG는 기존 검색 기반 RAG를 한 단계 발전시킨 개념이다. 기존 RAG가 사용자 질문에 대한 단발적 응답에 그쳤다면, Agentic RAG는 에이전트가 능동적으로 검색 전략을 수행하고 다단계 동작을 통해 정보를 수집·조합하여 문제 해결을 목표로 한다. 이는 단순한 '정답 찾기'가 아닌 '문제 해결'에 초점을 맞춘 멀티-스텝 에이전트 프로세스로, 산업 현장에 실질적으로 배치할 수 있는 방향성을 제시했다.

코난테크놀로지가 공개한 첫 번째 2025년 신규 모델은 코난 LLM 'ENT-11'이다. 가장 큰 특징은 일반 모드와 추론 모드를 하나의 엔진에 통합한 것으로, 국내 유일의 통합형 모델이다. 이를 통해 범용 LLM과 전문 작업용 모델을 별도로 운영할 필요 없이 하나의 모델로 다양한 작업을 처리할 수 있어 리소스 효율성을 크게 향상시켰다.

도원철 연구소 상무는 범용 및 하이브리드 모델 간 성능 비교와 딥시크 R1과 대등한 벤치마크 결과를 소개했다. 특히 미국 MATH 500 테스트에서 94점을 기록한 점을 강조하며, 실시간 대조 시연을 통해 코난 LLM 'ENT-11' 모델의 뛰어난 성능을 입증했다. 또한 양형 분산 추론, 테이블 데이터가 포함된 복잡한 문서 처리 등 다양한 기능을 선보였다.

코난 LLM은 출시 3년 차를 맞아 의료, 공공, 산업 분야에서 비즈니스 개선 효과를 입증하고 있다. 이형주 사업부 이사는 주요 도입 사례를 공유하며 각 기관들의 과제 해결 방식과 성과를 소개했다.

한국남부발전은 생성형 AI 기반 35개 업무와 15개 시스템에 코난 LLM과 RAG를 구축하여 디지털 전환에 선제 대응, 최대 20%의 업무 효율 향상을 기대하고 있다. 한림대학교 의료원은 의무기록지 작성에 코난 LLM을 적용해 연간 약 9만 5,000시간의 업무 시간을 절감하고, 의사 1인당 연간 36일의 시간을 확보하는 성과를 거뒀다. 또한 행정심판 청구서 초안 생성을 통해 민원인의 검색과 작성 시간을 60% 이상 단축했다. 이 외에도 금융, 교육, 행정, 세일즈 등 다양한 산업 분야에서 PoC(개념검증)를 확대하고 있다.

코난테크놀로지는 LLM의 한계를 보완하는 핵심 기술로 특화 RAG 기술을 기반으로 한 '코난 RAG-X'를 출시했다. 이 솔루션은 내부 문서, DB, 기존 시스템은 물론 외부 웹과 공개 데이터까지 연결이 가능하다. 내부 자산은 보호하면서 외부 지식과 결합한 신뢰도 높은 응답을 제공하는 것이 특징이다.

행사에서는 퍼플렉시티와의 비교 시연을 통해 코난 RAG-X의 경쟁력도 입증했다. '삼성전자 사업보고서의 재무제표 분석'과 같은 내부 데이터 활용 질의는 물론, '트럼프 당선에 대한 시장 반응과 전망'과 같은 외부 소스 기반의 복합 질의까지 정밀하게 처리하는 모습을 선보였다.

마지막으로 코난테크놀로지는 LLM 내장형 AI PC '코난 AIStation'과 기업형 AI 서버 '코난 AIStation Server'를 공개했다. 자체 개발 LLM이 탑재된 AI PC 출시는 국내 AI 개발사 중 최초다.

'AI 기반 작업 환경'을 주제로 개발된 이 제품은 보안과 생산성이 중요한 업무 환경에서 로컬 기반 AI 처리를 통해 문서 관리 위험을 줄이고 작업 효율을 크게 향상시킨다.

TG삼보의 조인배 팀장은 코난 AIStation의 제품 사양을 공개하고 연간 40만대 규모의 시장을 목표로 한 판매 계획을 설명했다. 기업형 AI 서버 '코난 AIStation Server'는 에스넷그룹을 필두로 한 파트너사들과 함께 시장 공략에 나설 계획이다.

올해는 국내 검색 솔루션 기업들이 그간 준비한 제품과 서비스를 계속해서 선보이는 해가 되고 있다. 그만큼 국내 고객사들도 선택의 폭이 넓어지고 있다.

[테크수다 기자 도안구 eyeball@techsuda.com]