최신 리포트 다운로드 지금 바로 문의하기
최신 리포트 다운로드 지금 바로 문의하기
newsletterTODAY'S PICKS

AI가 바꾼 K-공공기관? 일반 기업도 알아야 할 공공 부문 AX 가이드

BESPICK

by 현주 이

최근 1년 사이, 전 세계 공무원들의 AI 활용이 빠르게 늘었습니다. 공공 부문 종사자 10명 중 7명 이상이 업무에 AI를 사용하고 있다고 하는데요. 문서 요약, 정보 검색, 보고서 초안 작성 등에 AI를 활용하는 공무원은 이제 낯선 모습이 아닙니다.

그런데 조금 멀리서 보면 이야기가 달라집니다. 또 다른 연구에 따르면 AI를 조직 전체 혹은 부분적으로라도 공식 도입한 공공기관은 26%에 불과한데요. 생성형 AI 솔루션을 실제로 구현한 기관도 12%에 그쳤다고 하죠. 공무원 개개인은 AI를 적극 활용하고 있지만 조직은 그렇지 않은 것이 현실입니다.

전 세계적으로 AI 전환을 더 이상 미룰 수 없다는 인식이 빠르게 퍼지고 있는 가운데, 공공 부문에서도 많은 리더들이 AI 도입 속도를 높이고 싶어 하는데요. 오늘 베스픽에서는 AI 전환을 현실로 만들어가고 있는 국내외 성공 사례를 살펴보고, 이를 통해 공공기관은 물론 일반 기업에서도 참고할 수 있는 AI 전환 꿀팁도 함께 정리했습니다.

싱가포르: 외교부 장관도 직접 AI를 만들어 쓴다?

싱가포르 정부는 공무원 누구나 맞춤형 AI 챗봇을 제작할 수 있는 AIBots 플랫폼을 만들었습니다. 내부 문서를 업로드하고 시스템 프롬프트를 설정하면 15분 안에 완성할 수 있는데요. 출시 후 6개월 만에 115개 기관에서 4만 명이 1만 2천 개의 봇을 만들었다고 하죠.

또한 정부기술청에서는 공무원의 업무를 돕는 정부 전용 생성형 AI 챗봇을 출시했는데요. 전체 공무원의 80%가 글쓰기, 리서치, 코딩 등에 활용 중이라고 합니다. 싱가포르 외교부 장관은 오픈소스를 활용해 자신만의 AI 에이전트를 직접 만들기도 했는데요. 연설문 초안 작성부터 일일 브리핑까지, 제 2의 두뇌로 사용 중이라고 밝혔습니다.

이처럼 싱가포르 공무원들이 AI를 직접 만들고 내재화할 수 있었던 것은, 정부가 명확한 사용 기준을 제공한 덕분인데요. 어떤 AI 도구와 데이터를 활용하면 되는지, 문제가 생기면 누구에게 물어야 하는지 등 체계가 갖춰져 있었다고 합니다. 그 결과 싱가포르 역시 공공 AI 전환의 선두 국가로 자리매김할 수 있었습니다. 

영국: 민감한 의료 시스템에 AI를 도입한 비결은?

영국의 국영 의료 시스템 NHS(국민보건서비스)는 2024년 6월, 의료 기록 AI 어시스턴트 TORTUS를 시범 운영했습니다. 의사와 환자의 대화를 실시간으로 기록하는 도구인데요. 9개 의료 기관에서 1만 7천 건의 진료를 대상으로 진행한 결과, 의사와 환자의 소통 시간이 늘어나고 진료 시간은 단축되었다고 하죠.

이러한 성과를 바탕으로 작년부터는 전체 외래 진료에 도입했으며, 국가 차원에서 AI 음성 기록 기술 도입을 공식적으로 권고하기도 했습니다. 사실 의료 부문은 AI 진입 장벽이 높은 영역 중 하나인데요. 환자 데이터는 가장 민감한 개인정보이고 AI가 의료 데이터에 접근한다는 것 자체가 반감을 살 수도 있기 때문입니다.

그래서 NHS는 다음 두 가지 원칙을 준수했다고 합니다.

  • AI는 임상적 판단을 하지 않으며 모든 기록은 의사가 검토 및 승인한 뒤에야 저장된다.
  • UK GDPR을 완전히 준수하며, 환자 데이터를 외부에 보관하거나 AI 훈련에 활용하지 않는다.

이와 같이 처음부터 보안과 규제를 고려해 설계함으로써 AI가 의료 현장에서 신뢰받고 안착할 수 있었습니다.

아랍에미리트: AI로 새로운 시민 경험을 만들다

아랍에미리트(UAE)는 영사 서비스 전반을 AI로 전환하는 Smart Mission 프로젝트를 추진했습니다.

  • AI 문서 인증 서비스: 공문서의 인장을 자동으로 인식해 진위 확인
  • AI 홀로그램 어시스턴트: 다국어로 즉각 응답하고 필요 시 실제 영사관 직원 연결
  • 예측 AI 시스템: 사용자의 행동 패턴과 이력을 분석해 필요한 서비스를 먼저 안내
  • AI 안면 인식 서비스: 여권을 분실 시 서류 없이도 귀국 서류 발급 가능

단순히 창구를 디지털화한 것이 아니라 국민들이 정부 서비스를 경험하는 방식을 AI로 재설계한 것인데요. 이러한 변화가 가능했던 데에는 UAE가 수년간 쌓아온 전략적 기반이 있었습니다. UAE는 2017년 세계 최초로 국가 AI 전략을 수립하고, 2023년에는 AI 분야 글로벌 선도국이 되겠다는 UAE AI 전략 2031을 발표했다고 하죠.

일찍부터 공공 서비스를 AI 기반으로 차근차근 혁신해 온 결과, 작년에는 정부 기관의 AI 도구 활용률을 97% 기록하며 세계 최고 수준에 오르기도 했는데요. 앞으로 2년 안에 정부 서비스의 50%를 자율 AI 에이전트로 운영하는 것이 목표라고 합니다. 참고로 Smart Mission이 적용된 스마트 대사관을 최초로 구축한 곳이 주한 아랍에미리트 대사관이라고 하네요.

에스토니아: 복잡한 행정을 AI를 활용해 재설계하다

에스토니아는 수많은 공공기관의 디지털 서비스를 한 곳에서 안내하는 AI 어시스턴트 Bürokratt를 구축했습니다. 어느 기관에 연락해야 하는지 모르는 일도 AI에게 물어보면 필요한 서비스로 연결해 주는 방식인데요. 중앙 정부부터 지방자치단체까지 40개 기관의 5천 개 이상 디지털 서비스를 아우르며, 앞으로는 지역 맞춤형 서비스도 제공할 예정입니다.

각 기관 입장에서도 자체적으로 AI 챗봇을 운영하는 번거로움이 없어 편리한데요. 다만 개인정보 보호와 GDPR 준수를 위해 데이터는 기관에서 직접 관리하는 분산형 구조로 만들었습니다. Bürokratt 담당자는 “챗봇이 아니라 시민을 올바른 서비스로 연결하는 AI 어시스턴트 네트워크를 구축하고 있다”고 설명하는데요. 복잡한 행정을 시민 중심으로 다시 설계하고 확장성까지 고려한 효율적인 공공 AI 서비스라는 평가입니다.

지금까지 해외 공공 기관들의 AI 전환 사례들을 살펴보았는데요. 이에 못지 않게 대한민국 공공 기관들도 빠르게 변하고 있습니다.

국민연금공단: 레거시에 AI를 더해 서비스 품질을 높이다

국민연금공단은 AI를 기반으로 방대한 제도와 규정 정보를 상담원이 빠르게 찾아볼 수 있는 환경을 만들었습니다. 기존에는 매년 바뀌는 제도와 규정, 흩어진 상담 자료 때문에 정보를 찾는 데 많은 시간이 걸렸다고 하죠. 이제는 달라진 법규나 제도가 실시간으로 반영돼 상담원이 항상 최신 정보로 응대할 수 있게 되었습니다.

또한 자주 반복되는 문의는 AI가 자동 응대하도록 상담 시스템을 고도화했는데요. 기존에 운영하던 챗봇에 LLM 기반의 신규 시스템을 연동해 AI 기능을 단계적으로 확장한 것이 특징입니다. 덕분에 상담원들은 복잡한 민원에 집중할 수 있게 되었고요. 자료 검색 시간은 70%, 반복 상담 업무량은 45% 줄어들면서 연간 최대 18억 원을 절감하는 효과를 거뒀다고 합니다.

이처럼 기존 시스템을 유지하면서 새로운 AI 환경을 점진적으로 쌓아 올린 방식은, 레거시 시스템이 많은 공공기관에서 AI 전환을 어떻게 현실적으로 풀어낼 수 있는지 보여줍니다.

한국수력원자력: 원전도 AI 도입이 가능할까?

한국수력원자력은 세계 최초로 원전 산업에 특화된 생성형 AI 서비스를 구축했습니다. 원전 운영 특성상 정확성과 안전성이 극도로 요구되는 업무들이 많은데요. 발전 운영 최적화, 원전 안전 모니터링, 대외기관 대응 업무 등 총 7개 영역에 걸쳐 AI 기능을 도입한 것입니다.

원전 관련 데이터는 안전과 직결되는 민감한 정보이고, 수천만 건에 달하는 방대한 내부 데이터를 다루는 만큼 AI 모델을 선택하는 것이 중요했는데요. 이에 공공 보안 기준을 충족하는 국내 클라우드 인프라와 한국어에 최적화된 LLM을 선택했습니다. 또한 RAG 시스템을 적용해 AI가 내부 데이터를 바탕으로 정확한 답변을 제공하도록 구현했습니다.

원자력과 같이 규제가 엄격한 영역일수록 AI 도입은 거리가 멀게 느껴지는데요. 한국수력원자력은 처음부터 원전이라는 특수한 환경을 고려해 AI 인프라를 설계했기에 세계 최초 원전 특화 생성형 AI 서비스를 현실로 만들 수 있었습니다.

산림청: 업무 생산성 증대부터 버티컬 AI까지

산림청은 흩어진 산림 데이터를 모아 지능형 행정 체계를 구축하는 AI 프로젝트를 추진 중입니다. 기존에는 기후변화 대응, 재난 안전, 생태 정보 등의 데이터가 각 시스템에 산재되어 내부 업무 처리는 물론 국민 서비스 제공에도 어려움이 있었는데요. AI 기반 통합 저장소를 구축하고 AI가 학습할 수 있는 데이터로 정제하는 작업을 진행할 계획입니다.

이를 통해 산림청은 두 가지 서비스를 구현할 예정인데요. 직원들의 업무를 지원하는 AI 업무 어시스턴트와 국민들에게 맞춤형 정보를 제공하는 지능형 검색 서비스입니다. 국민 서비스의 경우 공공 데이터와 예약시스템을 연동해 AI 에이전트가 서비스 추천부터 예약, 신청까지 지원한다고 하죠. 앞으로 정보 탐색 시간은 70%, 반복 문의 대응은 40% 감소할 것으로 기대되는데요. 비용으로 환산하면 연간 25억 원에 달합니다.

업무 효율성을 개선하는 것뿐 아니라 버티컬 AI를 구축한다는 점에서도 의미가 있는데요. 산림청은 이번 AI 프로젝트를 통해 경영, 복지, 재난 안전 등 각 영역에 특화된 AI 생태계를 만들어갈 것이라고 밝혔습니다. 이처럼 데이터 통합에서 출발해 내부 생산성 증대, 국민 서비스 개선, 영역별 특화 AI까지 설계하는 사례는 공공 부문의 AI 전환이 어떤 방향으로 나가야 하는지 잘 보여주고 있습니다.

지금까지 살펴본 국내외 공공기관들의 사례들에는 공통점이 있습니다. 바로 AI 기술 자체보다는 각 기관의 환경과 규제, 데이터 구조 등을 중점적으로 고려했다는 점인데요. 같은 AI라도 기관의 특성과 환경에 따라 전혀 다른 방식으로 동작해야 하기 때문입니다. 그리고 그것이 성과를 좌우하는 핵심 열쇠가 되는 것이죠.

또한 오늘 소개한 국내 공공기관들은 모두 베스핀글로벌과 AI 전환을 진행했습니다. 이 밖에도 베스핀글로벌은 행정안전부, 울산교육청, 서울관광재단 등 다양한 영역의 공공기관들의 AI 전환을 함께하고 있는데요. 그 기반에는 통합 AX 플랫폼 HelpNow Agentic AI Platform(헬프나우 에이전틱 AI 플랫폼)이 있습니다.

공공기관의 AI 활용은 크게 두 가지 방향으로 확산되고 있습니다. 민원 상담·안내 등 대민 서비스 영역과, 내부 문서 처리·지식 검색·업무 자동화 등 내부 업무 관리 영역입니다. 베스핀글로벌은 특히 내부 업무 관리 영역에서 실질적인 성과를 만들어가고 있는데요. 국민연금공단의 상담 지식 통합, 한국수력원자력의 소버린 AI 체계, 산림청의 직원용 AI 업무 어시스턴트가 모두 이 영역의 대표 사례입니다.

헬프나우 에이전틱 AI 플랫폼은 생성형 AI 기반의 엔터프라이즈 AI 에이전트를 구축, 배포, 운영하기 위해 다음 두 가지 솔루션을 제공합니다.

단순히 AI를 구축하는 데 그치지 않고 기획부터 운영까지 공공부문 AI 전환의 모든 과정을 지원하는 플랫폼입니다. ISO/IEC 42001 인증 기반의 보안과 거버넌스 체계도 갖추고 있어 규제 환경에서도 안정적인 AI 운영이 가능한 것이 특징인데요.

AI 전환을 고민하고 있다면 검증된 파트너 베스핀글로벌과 함께 시작해 보시길 바랍니다.

방금 읽은 이 콘텐츠가 마음에 드셨다면?
지금 바로 베스핀글로벌의 뉴스레터 ‘베스픽’을 구독하고, 매주 인사이트를 가장 빠르게 받아보세요.

베스핀글로벌 문의하기
뉴스레터 구독하기

FAQ

Q1. 공공기관 임직원 개인의 AI 활용률에 비해 조직 차원의 공식 도입이 느린 이유는 무엇인가요?
공공 부문은 환자 데이터, 원전 안전, 행정 규정 등 민감한 개인정보와 엄격한 보안 규제를 다루기 때문입니다. 기술 도입 자체보다 기관의 특수한 규제 환경과 데이터 보안 구조를 먼저 해결해야 하므로 조직적 도입에는 신중한 접근이 필요합니다.

Q2. 영국의 NHS나 한국수력원자력은 민감한 보안 규제를 어떻게 극복하고 AI를 도입했나요?
철저한 ‘보안과 규제 중심 설계’ 덕분입니다. 영국의 NHS는 환자 데이터를 외부에 저장하지 않고 의사의 최종 승인을 거치는 원칙을 세웠으며, 한국수력원자력은 공공 보안 기준을 충족하는 국내 클라우드 인프라와 한국어 최적화 LLM, 그리고 폐쇄형 RAG(검색 증강 생성) 시스템을 적용해 이를 해결했습니다.

Q3. 에스토니아의 AI 어시스턴트 ‘Bürokratt’의 차별점은 무엇인가요?
단순한 단일 기관용 챗봇이 아닙니다. 중앙정부부터 지자체까지 40개 기관의 5천 개 이상 디지털 서비스를 한곳에서 연결하는 ‘AI 어시스턴트 네트워크’입니다. 특히 GDPR 준수를 위해 데이터를 각 기관이 직접 관리하는 분산형 구조로 설계해 효율성과 보안을 모두 잡았습니다.

Q4. 공공기관의 AI 활용은 주로 어떤 영역에서 이루어지고 있나요?
크게 두 가지 축으로 확산되고 있습니다. 첫째는 민원 상담 및 안내를 담당하는 ‘대민 서비스 영역’이며, 둘째는 내부 문서 처리, 지식 검색, 업무 자동화를 지원하는 ‘내부 업무 관리 영역’입니다. 최근에는 내부 생산성을 극대화하는 업무 관리 영역에서의 성과가 두드러집니다.

Q5. 베스핀글로벌의 ‘헬프나우 에이전틱 AI 플랫폼’은 어떤 솔루션을 제공하나요?
엔터프라이즈 AI 에이전트를 구축·운영하기 위해 두 가지 솔루션을 제공합니다. 공공기관 임직원이 일상 업무에서 AI를 바로 활용할 수 있는 작업 공간인 ‘HelpNow Agent Portal’과, 기관 고유의 환경에 맞게 에이전트를 직접 설계·배포할 수 있는 ‘HelpNow AI Foundry’를 통해 기획부터 운영까지 전 과정을 지원합니다.

더 읽어볼 만한 컨텐츠

문의하기 베스픽 구독하기
궁금한 점이 있다면 클릭해주세요.