사람들은 이제 인공지능(AI)으로 무엇을 할 수 있을지 묻고 있다. AI는 짧은 시간에 전례 없는 혁신을 가져왔지만, 높은 비용에도 불구하고 비즈니스와 연결되는 성과에서는 다소 미진한 점을 드러냈기 때문이다. 기업들은 많게는 수십억 원을 투입한 AI의 비용 대비 효과를 입증해야 하게 됐다. AI를 통한 투자수익률(ROI) 확보에 골머리를 앓는 기업에 AI 에이전트가 구세주로 떠올랐다. AI 에이전트는 향상된 자율성과 실행 능력으로, 사람처럼 실제 업무 프로세스를 수행할 수 있다는 점에서 업계의 관심을 받고 있다. 미래 업무 환경을 탈바꿈시킬 AI 에이전트와 초기 시장 선점에 나선 국내외 기업 동향을 살펴본다. 자율적 의사결정으로 사람처럼 업무 수행 거대언어모델(LLM) 기반 서비스는 자연어 텍스트 입력만으로도 정보 제공, 자료 수집, 코딩(개발), 글쓰기, 이미지 생성 등 여러 기능을 제공한다. 특히 복잡한 사용 방법 없이 AI와의 대화만으로 다채로운 서비스를 이용할 수 있다는 점이 대중으로부터 폭발적인 호응을 얻었다. 대표 LLM 서비스인 오픈AI ‘챗GPT’의 경우, 지난달 주간 활성 이용자 수(WAU)가 3억 명을 넘어섰다. AI가 전 세계에 불러일으킨 반향은 거대했으나 비즈니스 성과는 두드러지지 못했다. 외부 프로그램과 연계해 업무 효율성을 개선하는 데 한계를 보였기 때문이다. LLM을 기업 전반에 도입하기 위해선 막대한 비용을 치러야 하지만, 그에 비해 업무에서 거둘 수 있는 효과는 작았다. AI로 구현된 다양한 기능은 모두 특정 서비스 내에서만 가능했으며 이를 다른 프로그램이나 실제 업무로 연결할 수 없었다. 이런 상황에서 비즈니스 업무에서 효율성을 실질적으로 높이는 데 도움을 주는 AI 에이전트가 주목받고 있다. AI 에이전트는 스스로 판단해 의사결정을 내리고, 이를 실제 행동으로 옮길 수 있는 시스템을 일컫는다. 에이전트(agent)라는 말처럼 자연어 프롬프트로 지시가 내려지면, 사람을 대신해 전사적자원관리(ERP), 오피스 소프트웨어 등으로 결과물을 만들어낸다. 도로 상황을 인식하고 알아서 운전하는 자율주행 자동차를 AI 에이전트와 유사한 사례로 볼 수 있다. AI 에이전트가 기존 챗봇, 어시스턴트와 다른 점은 ‘자율성’과 ‘실행 능력’이다. AI 에이전트는 자율성과 실행 능력을 바탕으로 업무를 처리한다. 방대한 데이터를 실시간 분석해 상황을 종합적으로 이해하며, 그에 따른 계획과 해결책을 제시한다. 예를 들어 고객이 복잡한 문제를 제기하면 이를 즉시 해결하거나 필요할 경우 담당 직원에게 이관하는 일이 가능하다. 이처럼 정보 제공을 넘어 업무에 개입함으로써 생산성을 높일 수 있다는 점이 AI 에이전트가 기존 기술에 비해 차별화된 지점이다. 에이전틱 AI는 시스템, AI 에이전트는 개별 소프트웨어 가트너는 지난해 ‘2025년 10대 전략 기술 트렌드’ 중 하나로 ‘에이전틱 AI(Agentic AI)’를 꼽은 바 있다. 가트너에 따르면, 에이전틱 AI는 사용자가 정의한 목표를 달성하기 위해 자율적으로 계획하고 실행하는 시스템으로, 목표를 달성하기 위해 메모리, 계획, 도구 활용 등 여러 기능과 결합해 스스로 작업을 할 수 있다. 에이전틱 AI와 AI 에이전트는 거의 유사하다. 두 기술 모두 자율성을 강조하며 특정 목표를 위한 수행 능력까지 갖춘 것으로 정의된다. 이 때문에 국내외 AI 시장에서는 두 기술을 거의 같은 뜻을 지닌 동의어처럼 사용하기도 한다. 이에 몇몇 전문가는 혼동을 막고자 AI 에이전트를 에이전틱 AI의 하위 집합(Subsets)이라고 소개한다. AI 에이전트는 AI 기술을 사용해 디지털 또는 물리적 환경에서 인지하거나 의사결정을 내림으로써 행동하고 목표를 달성하는 자율 또는 반자율(Semi-Autonomous) 소프트웨어 개체(Entity)라며 계획을 세우는 데 LLM을 활용하기도 하나 엄연히 AI 모델과는 다르다. 과거 ‘지능형 에이전트’보다 더 고도화 사용자 업무를 대신한다는 측면에서 AI 에이전트는 과거 ‘지능형 에이전트’와도 의미가 유사하다. 지능형 에이전트는 사용자로부터 지식을 제공받아 스스로 판단해 인터넷, 데이터베이스(DB) 같은 외부 환경으로부터 정보를 처리할 수 있는 능력을 갖게 된다. 지능형 에이전트는 온라인 쇼핑에서 최저 가격 검토, 전자우편 수발신, 사용자 부재 시 일정 조정 등 적극적 업무 처리를 돕는 기술로 소개됐다. 속성 측면에서도 사용자 참여나 지시 없이 작업·목표를 달성할 수 있는 ‘자율성’과 정보에 접근하기 위한 다른 에이전트 또는 관련된 대상과의 ‘의사소통 능력’이 강조됐다. 20여 년 전 개념이지만 사례, 속성 모두 최근 AI 에이전트와 몇몇 부분에서 유사함을 확인할 수 있다. 두 개념 간 차이는 지능을 구성하는 기술의 발전 수준이다. 지능형 에이전트가 소개된 1990년대 후반 널리 알려진 AI는 IBM이 개발한 체스 특화 컴퓨터 ‘딥 블루(Deep Blue)’였다. 1997년 당시 딥블루는 11.38 기가플롭스(GFLOPS, 1초에 10억 회 연산)의 연산 능력을 보유했다. 28년여가 지난 지금, AI 데이터센터들은 기가플롭스보다 1백만 배 높은 ‘페타플롭스(PFLOPS, 1초에 1,000조 회 연산)’를 단위로 삼고 있다. 고도화된 기술력이 담긴 AI 에이전트는 지능형 에이전트와 실현할 수 있는 기능 범위에 큰 차이가 있다. LLM은 자연어로 쓴 프롬프트를 이해하고 그에 맞는 답변을 제공하며, 검색 증강 생성(RAG)은 내부 데이터를 기반으로 답변 정확도를 높일 수 있다. 오피스, 데이터베이스 관리 시스템(DBMS), ERP 등 다른 소프트웨어도 예전보다 다채로운 기능을 갖추고 있다. 따라서 지능형 에이전트와 AI 에이전트는 개념상 비슷하나 실제 해낼 수 있는 역량에 있어 현저한 차이가 있다고 볼 수 있다. 복잡한 업무 수행 위한 기술 집합체 AI 에이전트는 LLM과 같은 고도화된 AI를 바탕으로 여러 기술을 결합해 사람처럼 업무를 수행하는 소프트웨어다. 따라서 뛰어난 성능을 갖춘 AI 모델과 함께 데이터, 도구, 협업 채널 등 여러 요소가 조화를 이뤄야 한다. 우선, 높은 LLM 성능이 요구된다. LLM은 에이전트에서 ‘두뇌’에 해당하며 주어지는 문서, 이미지 등 여러 파일을 이해하고 처리하는 역할을 맡는다. 두 번째는 데이터다. LLM은 사전 학습된 모델로 기업 내 고유 데이터나 제각기 다른 정책, 가이드라인 등은 담고 있지 않다. AI 에이전트가 업무를 제대로 수행하려면, 기업 내 여러 데이터에 접근할 수 있어야 한다. 이를 위해 내부 데이터에 대한 LLM의 이해도를 높이고자, LLM을 미세 조정(Fine-tuning, 파인튜닝)하거나 RAG를 도입하기도 한다. 다음으로 여러 도구(Tool)가 필요하다. 이는 AI 에이전트가 실제 업무를 처리하는 데 필요하며, 사람으로 비유하자면 손발에 해당한다. LLM이 정보를 찾거나 텍스트를 생성하면, 도구는 이를 스프레드시트에 입력하고 필요시 ERP에 데이터를 업데이트하는 등 일련의 작업을 수행한다. 업무 자동화 도구나 내부 시스템과 연결할 수 있는 API도 이에 포함된다. 사람과 AI 에이전트 간 협업을 위한 지원 채널도 갖춰져야 한다. AI 에이전트가 모든 일을 혼자서 수행할 수는 없다. 업무상 중요한 의사결정은 사람이 내려야 하며, 발생할 수 있는 문제를 예방하고자 사람이 확인해야 하는 일도 존재한다. 따라서 사람과 AI 에이전트 간 협업을 가능케 하는 적절한 제어 기능이 필요하다(컴퓨터월드, 2024. 12. 31). |