마이크로소프트 전하는 AI 에이전트 — 정의와 업무 방식의 변화

[테크수다 기자 도안구 eyeball@techsuda.com] 생성형 AI 시대가 활짝 열렸다. 채팅을 넘어 업무 전반으로 확산되고 있다. 최근의 키워드 하나를 꼽으라면 'AI 에이전트'다. 이에 대해 마이크로소프트 뉴스 사이트에 글이 하나 올라 왔다. 클로드 3.5 소넷을 활용해 전문 번역을 했다.

오역이 있을 수 있으니 반드시 원문을 참고해 확인해야 한다.

글쓴이: Susanna Ray

월요일 아침, 아직 카페인이 효과를 발휘하기 전인데 바쁜 하루가 기다립니다. 검토해야 할 반품이나 새로운 배송 송장이 쌓여있거나, 현장 기술자들에게 최신 업데이트를 전달해야 하거나, 직원들의 IT 지원을 더 효율적으로 처리해야 할 수도 있습니다.

이제는 AI 에이전트에게 이 모든 일을 처리해달라고 요청하면 됩니다 — 여러분은 커피 한 잔 더 마시면서 팀의 장기 전략에 집중할 수 있죠.

에이전트는 가상 프로젝트 관리자 역할부터 장부 마감을 위한 재무제표 조정과 같은 더 복잡한 업무까지, 여러분과 함께 또는 여러분을 대신해 특정 업무를 처리할 수 있습니다. Microsoft 365 Copilot은 이미 지루한 일상 업무부터 창의적인 프로젝트 착수까지 모든 것을 돕는 개인 비서입니다. 다양한 에이전트와의 상호작용을 통해 조직은 직원들의 역량을 강화하고, 비즈니스를 추진하며, 더 많은 것을 달성할 수 있는 새로운 가능성의 세계를 맞이하게 됩니다.

에이전트는 24시간 운영되며 고객 반품을 검토하고 승인하거나 배송 송장을 검토해 기업이 값비싼 공급망 오류를 피하도록 도울 수 있습니다. 방대한 제품 정보를 분석해 현장 기술자에게 단계별 지침을 제공하거나, 맥락과 기억을 활용해 IT 헬프데스크의 티켓을 열고 닫을 수 있습니다.

Jared Spataro Microsoft AI at Work 최고마케팅책임자는"에이전트를 AI 기반 세상을 위한 새로운 앱이라고 생각하세요"라고 전하고 "우리는 업무상 가장 큰 애로사항을 해결하고 실질적인 비즈니스 성과를 창출하기 위해 새로운 기능을 빠르게 추가하고 있습니다"라고 말했습니다.

에이전트란 무엇인가?

에이전트는 생성형 AI의 힘을 한 단계 더 발전시킨 것입니다. 단순히 지원하는 것을 넘어 여러분과 함께 일하거나 여러분을 대신해 일할 수 있기 때문입니다. 에이전트는 질문에 대한 응답부터 더 복잡하거나 다단계 작업까지 다양한 일을 할 수 있습니다. 개인 비서와 다른 점은 특정 전문 분야에 맞춤화될 수 있다는 것입니다.

예를 들어, 회사의 제품 카탈로그에 대한 모든 것을 알고 있는 에이전트를 만들어 고객 질문에 대한 상세한 응답을 작성하거나 예정된 프레젠테이션을 위한 제품 세부 정보를 자동으로 컴파일하도록 할 수 있습니다.

다른 에이전트들은 더 많은 일을 할 수 있습니다. 판매 주문 처리를 돕는 에이전트처럼 여러분을 대신해 행동함으로써, 여러분이 새로운 고객 관계 구축에 집중할 수 있게 해줍니다. 이러한 일상적인 요구사항을 에이전트가 처리하면 제조업과 연구에서부터 금융과 소매업에 이르기까지 모든 산업에서 생산성을 높일 수 있으며, 기업은 시간과 비용을 절약할 수 있습니다.

Microsoft 365와 Dynamics 365에서 기성품 에이전트를 사용하거나, Copilot Studio에서 더 구체적인 요구사항을 위한 맞춤형 에이전트를 구축할 수 있습니다.

분기별 목표 달성이 필요한 영업 담당자를 상상해보세요. Copilot은 이메일 초안 작성, 놓친 회의 요약, 세련된 판매 프레젠테이션 디자인을 돕는 개인 비서 역할을 합니다. 한편, 판매 리드 생성을 전문으로 하는 에이전트는 주말에 후속 조치를 취할 수 있는 새로운 잠재 고객을 찾기 위해 자율적으로 백그라운드에서 작업합니다.

Copilot은 일상적인 작업을 파트너처럼 수행하고, 맞춤형 에이전트는 특화된 기술을 활용하여 분기말 목표 달성을 돕습니다.

AI 에이전트는 사람들에게 더 많은 가치를 제공할 뿐만 아니라 업무 수행 방식에 있어서도 패러다임의 전환을 가져올 것입니다.

에이전트는 새로운 것이 아닙니다. Microsoft는 이 분야에서 광범위한 연구를 수행했으며, 2023년에는 전 세계 개발자를 위한 멀티 에이전트 라이브러리를 만들었습니다. 이 작업은 오늘날 에이전트가 할 수 있는 일을 형성하는 데 도움을 주었습니다. 최근 대규모 언어 모델(LLM)의 발전으로 개발자 커뮤니티 외부의 누구나 AI와 소통할 수 있게 되면서 에이전트가 더 주목받고 있습니다. 이러한 에이전트-LLM 조합으로 AI 도구가 더욱 실용적으로 유용해졌습니다.

"사람들은 AI가 단순히 언어를 생성하는 것이 아니라 자신들을 위해 일을 해주기를 기대합니다," Microsoft AI Frontiers Lab의 관리 이사인 Ece Kamar는 말합니다. "실제 문제를 해결하고 사람들을 도울 수 있는 시스템을 원한다면, 그 시스템은 우리가 사는 세상을 잘 이해해야 하고, 무언가가 발생했을 때 그 변화를 인식하고 그에 따라 조치를 취할 수 있어야 합니다."

에이전트는 정보를 관찰하고 수집하며, 모델에 입력을 제공하고, 함께 실행 계획을 생성하여 사용자에게 전달하거나 – 허용된 경우 – 스스로 행동할 수 있는 언어 모델 위의 레이어와 같습니다. 따라서 생성형 AI 도구에 있어서는 에이전트와 모델이 모두 동등하게 중요한 퍼즐 조각입니다.

에이전트는 필수적인 세 가지 요소인 메모리, 권한, 도구의 혁신을 통해 더 유용해지고 더 많은 자율성을 가질 수 있게 될 것입니다.

메모리는 매번 무언가를 요청할 때마다 처음부터 시작하지 않도록 연속성을 제공합니다.

Sam Schillace Microsoft 부최고기술책임자는 "자율성을 갖기 위해서는 여러 행동을 통해 맥락을 유지해야 하지만, 모델은 매우 단절되어 있고 우리처럼 연속성이 없어서 모든 프롬프트가 진공 상태에 있으며 잘못된 메모리를 끌어낼 수 있습니다"라고 전하고 "마치 스톱모션 애니메이션을 보는 것과 같아서, 한 프레임씩 격리된 것을 보고 여러분의 마음이 그것을 동작으로 만드는 것과 같습니다. 점토 모델은 스스로 움직이지 않습니다"라고 말했습니다.

이를 해결하기 위한 메모리 인프라를 구축하기 위해, Schillace와 그의 팀은 청킹(chunking)과 체이닝(chaining) 프로세스를 연구하고 있습니다. 이는 본질적으로 들리는 대로입니다: 그들은 상호작용을 관련성에 따라 저장하고 연결할 수 있는 비트로 나누는 실험을 하고 있습니다. 이는 마치 특정 프로젝트에 대한 대화를 그룹화하여 상태 업데이트를 요청할 때 에이전트가 전체 데이터베이스를 검색할 필요 없이 해당 세부 사항을 기억할 수 있게 하는 것과 같습니다.

권한과 도구에 대한 작업은 에이전트가 여러분을 위해 일을 수행하는 데 필요한 정보(예: 여러분의 상사가 누구인지)와 Teams, PowerPoint와 같은 컴퓨터 프로그램에 여러분의 허가를 받아 안전하게 접근할 수 있도록 보장하는 것입니다.

업무용 에이전트를 사용하고 구축하는 방법

이미 Microsoft 365 Copilot에서 일상 업무를 도울 수 있는 에이전트를 스프레드시트나 프레젠테이션을 만드는 것만큼 쉽게 생성하고 게시할 수 있습니다 – 코딩 기술이 필요하지 않습니다.

Copilot Studio를 사용하여 에이전트를 구축하는 데도 개발자가 될 필요가 없습니다. 누구나 이메일, 보고서, 고객 관리 시스템과 같은 관련 비즈니스 데이터에 연결하여 작업을 수행하고 인사이트를 제공할 수 있습니다.

곧 Microsoft 365에서 새로운 에이전트를 활용하여 일반적인 워크플로우와 작업을 지원받을 수 있게 될 것입니다. 예를 들어, Teams의 통역사는 회의 중 실시간 음성-음성 번역을 제공하며, 여러분의 목소리를 시뮬레이션하도록 선택할 수 있습니다. 직원 셀프 서비스 에이전트는 직원들이 노트북 문제를 해결하거나 특정 혜택을 모두 사용했는지 확인하는 것과 같은 인사 및 IT 헬프데스크 관련 작업을 단순화하며, Copilot Studio에서 추가 맞춤화를 위해 회사 시스템에 연결할 수 있습니다.

Microsoft Dynamics 365도 판매, 공급망, 금융, 고객 서비스 기능 전반에 걸친 다양한 일반적인 비즈니스 워크플로우를 위한 에이전트를 보유하게 될 것입니다.

곧 모든 SharePoint 사이트에는 조직의 콘텐츠에 맞춤화된 에이전트가 장착되어 직원들이 작업 일정표에 묻혀 있는 프로젝트 세부 사항이나 최근 제품 메모의 요약과 같은 필요한 정보를 몇 초 만에 정확히 찾을 수 있게 될 것입니다.

개발자들에게는 더 많은 옵션이 있습니다. 새로운 Azure AI Agent Service를 통해 주문 처리나 고객 데이터 동기화와 같은 복잡한 워크플로우를 간소화하고 자동화하는 에이전트 기반 앱을 조율, 개발, 확장하기 위해 소형 또는 대형 언어 모델 중에서 선택할 수 있습니다. Visual Studio Code와 GitHub를 사용하여 에이전트 기능을 효율적으로 통합할 수 있도록 도구가 포함된 개발 키트를 제공합니다.

최근 발표된 OpenAI의 o1 시리즈와 같은 한 유형의 모델은 에이전트에 더 발전된 추론 능력을 제공하여 IT 헬프데스크 담당자가 문제를 해결하는 데 필요한 정보를 얻고, 시도했던 해결책을 고려하여 계획을 수립하는 것과 같은 더 복잡한 작업을 단계별로 분석하여 처리할 수 있게 합니다.

LinkedIn에서도 에이전트의 힘을 활용할 수 있습니다. 이 플랫폼의 첫 번째 에이전트는 채용 담당자의 채용을 돕습니다.

자율 행동에 대한 위험 평가

자율적으로 행동할 수 있는 에이전트에는 추가적인 안전 고려사항이 있으며, Microsoft는 에이전트가 여러분이 원하는 것에만 접근하도록 하는 데 집중하고 있다고 Microsoft의 책임있는 AI 최고제품책임자인 Sarah Bird는 말합니다.

"에이전트는 확실히 책임있는 AI 관점에서 더 높은 수준의 요구사항을 가지고 있습니다," Bird는 말합니다. "따라서 우리는 훨씬 더 낮은 오류율을 가져야 합니다. 그리고 무언가가 오류가 될 수 있는 더 많은 미묘한 방법들이 있습니다. 이것이 에이전트와 관련된 큰 도전과제입니다."

하지만 다른 AI 애플리케이션에 사용되는 동일한 책임있는 AI 기본 규칙을 에이전트의 위험을 평가하고 완화하는 데 사용할 수 있다고 그녀는 말합니다.

새로운 Copilot 제어 시스템은 IT 부서가 데이터 접근 및 거버넌스, 관리 및 보안 제어, 그리고 채택과 비즈니스 가치를 추적하기 위한 측정 보고서 및 도구와 함께 Copilot과 에이전트를 관리하는 데 도움을 줍니다.

Microsoft 365와 Dynamics 365를 위해 만들어진 많은 에이전트는 "인간 개입" 승인을 포함하고 있어, 예를 들어 판매 주문 에이전트가 작성한 이메일을 검토하고 보내는 최종 단계에서 사람의 참여가 필요합니다. Copilot Studio에서 개발된 에이전트의 경우, 작성자는 에이전트가 취한 조치와 그 이유를 기록에서 검토할 수 있습니다.

Bird는 정확성을 보장하기 위해 테스트와 중재에 집중하고, 조직이 자신들의 요구사항에 맞는 적절한 시작점을 선택하는 것이 핵심이라고 말합니다.

"우리는 물론 이미 가지고 있는 기반을 토대로 발전할 것이므로, 강력한 위치에서 여정을 시작하고 있습니다," Bird는 말합니다.

과거를 돌아보고 — 미래를 바라보며

2005년부터 AI 에이전트 연구를 해왔고 2010년에 이 주제로 박사 논문을 쓴 Kamar는 기술자들이 오랫동안 사람들을 돕기 위해 자율 시스템이 사람들과 나란히 일하는 아이디어에 흥분해왔다고 말합니다. 장애물은 "백엔드에서 그러한 일반적인 문제 해결 능력이 부족했다"는 것이었습니다.

LLM으로 "우리는 마침내 이 누락된 구성 요소를 가지게 되었습니다," 그녀는 말합니다. "이제 우리는 수십 년간의 연구에서 나온 많은 아이디어를 되살릴 수 있습니다."

앞으로 Kamar는 스마트폰으로 더 많은 일을 할 수 있게 해주는 앱처럼 에이전트의 새로운 생태계나 마켓플레이스를 구상합니다.

에이전트는 이미 "작업을 완료하는 데 필요한 기본적인 구성 요소를 가지고 있습니다," 그녀는 말합니다. "'회의가 더 오래 걸리고 있으니 다음 회의를 연기해야겠다'고 관찰하는 것처럼 말입니다."

메모리와 권한의 혁신을 통해 자율성을 얻으면서 에이전트는 더욱 도움이 되고 있습니다. 경비 보고, 프로젝트 관리, 회의 진행과 같은 일을 도와 직원들의 고충을 덜어주고 있습니다. 그리고 재고 부족을 공급망 관리자에게 알리고 자동으로 재주문하여 판매를 촉진하고 고객 만족도를 유지하는 등의 업무를 수행함으로써 기업에 기하급수적인 영향을 미치고 있습니다.

에이전트가 중요한 이유는 "사람들을 위해 작업을 수행하는 전체적인 기회를 열어주기 때문이며, 이것이 바로 우리가 AI 시스템에 기대하는 것"이라고 Kamar는 말합니다. "AI 에이전트는 단순히 사람들에게 더 많은 가치를 제공하는 방법일 뿐만 아니라, 업무 수행 방식에 있어 패러다임의 전환이 될 것입니다."

그리고 이것은 시작에 불과합니다. Copilot은 휴가 중 놓친 이메일 요약, 의제 항목 컴파일, 월간 보고서 생성과 같이 직원들의 시간을 뺏는 일상적인 작업을 처리하도록 설계된 Copilot Actions와 같은 새로운 기능으로 발전할 예정입니다. 이와 같은 더 많은 기능이 내년에 도입되어 직원과 팀의 업무 부담을 덜어줄 것입니다.

"Copilot은 모든 직원이 더 적은 시간에 최고의 성과를 내고, 더 의미 있는 작업에 집중할 수 있도록 할 것입니다," Spataro는 말합니다. "그리고 Copilot Studio에서 만들어진 에이전트는 모든 비즈니스 프로세스를 변화시켜 기업이 운영을 간소화하고, 협업을 강화하며, 대규모로 혁신을 추진하는 데 도움을 줄 것입니다."

일러스트: Michał Bednarski / Makeshift Studios

2024년 11월 19일 발행