기업 시각에서 바라본 AI 에이전트의 핵심 키워드 3가지

기업이 AI를 비즈니스에 적용할 때 AI 에이전트 애플리케이션은 일반적으로 임베디드, 워크플로우, 리액티브 3가지 유형으로 분류된다.

가트너는 최근 공개한 하이프 사이클(Hype Cycle) 보고서에서 생성형 AI가 곧 ‘환멸의 골짜기(trough of disillusionment)’에 들어설 것이며, AI 에이전트는 ‘기대의 정점(peak of inflated expectations)’에 있다고 분석했다. 그러나 기업 현장의 시각은 다소 다르다. 기업 IT 담당자는 애초부터 생성형 AI에 큰 기대를 걸지 않았으며, AI 에이전트가 주목받고 있다는 점에는 동의하지만 처음부터 그렇게 인식했기 때문에 ‘에이전트 환멸의 골짜기’에 빠질 것이라고 보지 않는다.
시각 차이가 존재한다는 사실만으로도 의미가 크다. 그러나 더 중요한 것은, 이런 차이가 생긴 이유다.

기업은 줄곧 AI를 ‘에이전트’ 관점에서 바라봤다. 기업의 IT 전문가는 가치 있는 AI 애플리케이션 대부분이 인터넷 전반을 학습한 거대한 범용 툴이 아니라, 특정 비즈니스 운영 영역에 집중하는 전문가형 AI여야 한다고 본다. 이런 방식은 상대적으로 적은 호스팅 자원만 필요로 하며, 실제 비즈니스 프로세스에 맞춰 적용할 수 있다. 바로 이 ‘분리된 에이전트 개념(compartmentalized agent concept)’은 기업이 AI가 강력한 비즈니스 매출을 낼 수 있다고 판단하는 유일한 길이다. 목적지보다 중요한 것은 여정이라는 말이 있다. 이번 경우도 마찬가지로, 세간에서 떠드는 화려한 AI나 에이전트가 아니라 현실적이고 타당한 비즈니스 활용을 통해 의미 있는 여정을 밟는 것이 핵심이다. 그리고 그 여정은 3가지 키워드로 설명할 수 있다.

AI 에이전트와 관련해 들어본 적 있을 것이다. 이 3가지는 기업이 AI 에이전트 애플리케이션을 분류할 때 사용하는 범주다. 에이전트는 AI의 진정한 미래로 평가되는 기술이며, 따라서 이 3단어는 이 분야 전체에서 가장 중요한 키워드일 수 있다. 동시에 이는 클라우드에 호스팅된 거대한 범용 챗봇에 쏠린 대중적 관심과, 이를 실제로 활용하는 기업 IT의 접근 방식 사이에서 벌어지는 간극을 보여주는 신호일 수도 있다.
기업이 AI 에이전트를 도입하며 쌓아온 여정은 결국 3가지 뚜렷한 범주를 인식하게 만들었고, 바로 이것이 여기서 다룰 ‘3가지 작은 단어’로 요약된다.

리액티브 범주부터 살펴보는 것이 적절하다. 이 범주는 기업이 사용한다고 알려진 전체 AI 에이전트 애플리케이션 중 거의 절반을 차지하기 때문이다. 초기의 기업용 AI 애플리케이션 대부분은 판매 전후 고객 지원을 목적으로 한 챗봇이었다. 그런데 일부는 데이터 보안과 데이터 주권 문제로 인해 점차 온라인 AI 챗봇에서 에이전트 애플리케이션으로 전환되고 있다. 이 흐름 때문에 리액티브형은 대부분 기업이 처음으로 도입한 에이전트 유형이 되었다. 겉보기에는 흔히 접하는 온라인 챗봇 앱과 비슷하지만, 작동 방식은 다르다. 이 애플리케이션은 인터넷 전체 데이터가 아니라 특화된 데이터를 학습시켜 만든 ‘파운데이션 모델’을 기반으로 하고, 이후 RAG(Retrieval-Augmented Generation) 방식을 통해 기업 고유의 데이터를 연결한다. 따라서 이 유형은 하이브리드 모델의 초기 활용을 가장 많이 이끌 것으로 예상된다. 주요 대상 사용자는 전문직 종사자다. 의료, 법률, 여러 엔지니어링 분야, 일부 비즈니스 기획자 등이 리액티브 에이전트를 활용하는 대표적인 그룹이다.

현재 기업이 사용하는 에이전트 애플리케이션 가운데 약 1/3은 임베디드 범주에 속한다. 대부분은 직접 개발한 것이 아니라 서드파티 소프트웨어 형태로 도입되고 있다. 임베디드 에이전트는 생성형 AI와 관련이 없고, 오히려 ML(machine learning) 범주에 더 가깝다. 하지만 최근 기업은 SLM(small language model)이 전통적인 ML을 대체하고 있다고 말한다. 결과가 더 뛰어나기 때문이다. 이런 애플리케이션은 효용성 중심으로 평가된다. 즉, 사용자는 최신 AI 여부보다는 구체적인 효익을 제공하는지에 더 큰 비중을 둔다. 또한 임베디드형 에이전트는 호스팅 요구사항이 매우 적어 서로 통합하거나 리소스를 공유하려는 움직임도 거의 없다.

워크플로우 에이전트는 기업이 직접 개발하는 경우가 가장 많으며, 2025년 현재 가장 빠르게 성장하는 유형으로 꼽힌다. 임베디드 에이전트가 애플리케이션 기능을 중심으로 AI가 보조적 역할을 하는 것과 달리, 워크플로우 에이전트는 기업이 AI 접근 방식 자체를 선택해야 하고, 동시에 호스팅 환경에 대해서도 고려해야 한다. 이들 가운데 약 2/3는 오픈소스 모델을 기반으로 하며, 보통 단일 랙을 넘지 않는 소규모 GPU 서버 클러스터에서 운영된다. 기업이 직접 모델을 선택하고 클러스터를 구축하는 셀프 호스팅 AI도 주로 이 영역에 집중되어 있다. 에이전트 간 워크플로우(agent-to-agent workflow)가 가장 활발히 구현되는 것도 이 유형이다. MCP(Model Context Protocol)와 A2A(Agent2Agent) 활용이 이 유형에서 가장 활발하다. 워크플로우 영역에서의 MCP 도입 경험은 리액티브 에이전트 애플리케이션에서도 MCP가 입지를 넓히는 데 도움을 주는 것으로 보인다.

기업이 마주한 새로운 질문
에이전트 기술이 3가지 범주로 구분된다는 사실은 기업이 계속에서 AI 에이전트를 자사 비즈니스 모델에 맞게 적용하고 있음을 보여준다. 이쯤에서 자연스럽게 이런 질문이 따른다. 앞으로 더 세밀한 조정이 이뤄질 것인가? AI 활용 방식에 영향을 줄 변화와 개선이 계속 이어질 것인가? 그리고 최종적으로는 어떤 기술과 업체가 AI 경쟁에서 주도권을 차지하게 될까?

이런 질문에 답하기 위해 점점 커지는 API의 중요성을 살펴볼 필요가 있다. 기업은 자체적으로 AI를 호스팅할 때 주로 워크플로우 모델을 중심으로 활용해왔기 때문에 자연스럽게 에이전트 간 연계와 API에 관심을 두고 있다. 그 결과 A2A API의 중요성이 높아졌으며, 앞으로는 이와 같은 모델이 워크플로우 통합에서 API와 애플리케이션을 연결하는 방식으로 자리 잡을 가능성이 크다.

예상되는 또 다른 변화는 프론트엔드 기술을 활용해 리액티브 에이전트 모델을 보강하는 것이다. 초기의 기업 리액티브 에이전트 개발 사례를 보면 대부분 경우 에이전트가 자유로운 형태의 사용자 질문을 이해할 필요는 없으며, 이를 필수 조건으로 만들면 오히려 운영에 필요한 자원이 2배로 늘어난다는 점이 드러났다. 에이전트가 특정 영역에 특화되어 있다면, 간단한 어휘 체계만으로도 충분할 뿐 아니라 프로젝트 ROI도 높일 수 있다는 의미다. 일부 기업은 프론트엔드 애플리케이션을 활용해 프롬프트를 생성하면 동일한 에이전트로 3가지 범주의 에이전트 모델을 모두 지원할 수 있다고 설명한다. 하나의 프론트엔드에서는 워크플로우나 실시간 이벤트를 처리하고, 다른 프론트엔드를 통해서는 인간과의 상호작용을 처리할 수 있다는 것이다.

대중적으로 사용되는 서비스형 AI(AI-as-a-service)와 달리, 기업이 활용하는 AI 에이전트는 셀프 호스팅되는 경우가 많고 훈련 시점의 데이터뿐 아니라 기업 데이터에 지속적으로 접근해야 한다. 이 같은 데이터 통합 방식의 변화는 데이터 주권, 비용, 성능에 대한 우려를 불러일으키고 있다. 특히 클라우드 컴퓨팅, AI, 기업 인프라 간의 상호작용은 AI 관련 문제로 가장 많이 언급되며, 앞으로 반드시 짚고 넘어가야 할 핵심 과제다.