구글 PS2팀 박우진
들어가며
생성형 AI란 무엇일까요?
생성형 AI는 인공지능 기술 중 하나로, 무언가 새로운 것을 생성하는 역할을 수행합니다. 예를들면, 생성형 AI 모델에게 특정 내용을 요청하면 글을 작성하거나 그림을 그리거나 비디오를 만드는 등 창의적인 작업을 수행할 수 있습니다.
생성형 AI는 오랜 기간 동안 연구되어 왔지만, 2022년 12월에 공개된 챗GPT를 통해 전세계적으로 많은 관심을 받게 되었습니다. 동시에 많은 기업들이 생성형 AI를 활용해 새로운 서비스를 개발하거나 기존 서비스에 생성형 AI를 적용하는 등 경쟁적인 움직임을 보이고 있습니다. 구글 또한 생성형 AI를 활용하여 기업이 업무 생산성을 높이거나 비즈니스를 확장할 수 있도록 다양한 도구를 빠르게 런칭하고 있습니다.
이 블로그에서는 구글 서비스 중 구글 클라우드에서 지원하는 생성형 AI 서비스에 대해 살펴보겠습니다.
파운데이션 모델과 초거대 언어 모델
Bard와 챗GPT 같은 자연어를 기반으로 대화를 할 수 있도록 개발된 AI 모델을 초거대 언어 모델(LLM)이라고 합니다. 이는 텍스트를 기반으로 학습된 파운데이션 모델 중 일부입니다. 파운데이션 모델은 대규모 데이터세트를 사용해 미리 훈련된 ML 모델을 의미하는데, 일반적인 언어 이해와 컨텐츠 생성 작업을 수행할 수 있는 기능을 탑재한 모델을 전반적으로 일컫습니다.
구글은 다양한 파운데이션 모델을 제공하는데 이중 구글 클라우드에서 제공되는 파운데이션 모델은 다음과 같습니다.
■ 구글 클라우드에서 지원하는 파운데이션 모델
| 모델 분류 | 모델 | 설명 |
|---|---|---|
| 언어모델 | PaLM 2 | 구글의 최신 초거대 언어 모델로 자연어 기반 텍스트 생성, 대화 생성, 텍스트 임베딩, 코드 생성을 지원하는 모델. |
| 언어모델 | Codey | PaLM2의 세부 조정 모델로 여러 프로그래밍 언어에 대해 코드 생성, 코드 채팅 및 코드 완성을 지원하도록 최적화된 모델. |
| 이미지모델 | Imagen | 자연어 기반으로 이미지를 생성할 수 있도록 지원하는 모델. 이미지 생성/수정, 이미지 캡션 생성, 이미지 Q&A 등 지원. |
| 음성모델 | Chirp | 100개 이상 언어와 방언을 지원하는 Speech-to-Text, Text-to-Speech 모델. |
구글 클라우드는 위와 같은 파운데이션 모델을 활용하여 고객이 생성형 AI 서비스를 빠르게 구축할 수 있는 환경을 제공하고, 기존 GCP 서비스에는 생성형 AI의 언어 이해 기능을 추가해 사용자와 원활한 상호작용을 할 수 있도록 기능을 확장시키고 있습니다.
구글 클라우드의 생성형 AI 포트폴리오
구글 클라우드는 Vertex AI, Generative AI App Builder, 기존 AI 서비스의 세 가지 방향으로 생성형 AI 기능을 지원하는 포트폴리오를 구성하고 있습니다.
- Vertex AI : End-to-End ML 플랫폼인 Vertex AI에서 필요한 모델을 빠르게 탐색하고, 자체 데이터를 사용해 생성형 모델의 프로토타입을 신속하게 제작, 테스트 및 조정 할 수 있는 도구를 제공합니다.
- Generative AI App Builder : 웹 사이트 및 기업의 데이터를 이용해 최소한의 코드로 챗봇과 검색 엔진을 구축할 수 있는 도구를 제공합니다.
- 기존 AI 서비스 : Contact Center AI, Document AI, Discovery AI, Healthcare AI 등 기존 AI 서비스에 LLM 기능을 통합하여 사용자에게 더 원활하고 완성된 응답을 제공할 수 있도록 합니다.
이제 생성형 AI 기능을 지원하는 주요 서비스들을 조금 더 알아보겠습니다.
Vertex AI Model Garden
모델 가든은 생성형 AI 모델을 포함하여 Vertex AI에서 사용 가능한 다양한 모델과 ML API를 검색하여 빠르게 ML 시스템을 구축할 수 있게 도와주는 검색 플랫폼입니다.
모델 가든 화면은 사전 분류된 카테고리를 클릭하여 모델 유형을 빠르게 필터링할 수 있는 필터 영역, 모델 설명에서 키워드로 탐색할 수 있는 검색 영역, 검색된 모델이 출력되는 모델 카드 영역으로 구성되어 있습니다.
검색된 모델 카드의 ‘상세 보기’ 페이지는 모델에 대한 설명과 사용 사례, 샘플 코드 및 사용 방법을 설명하는 문서 영역으로 구성되어 있습니다. PaLM 모델과 같은 생성형 AI 모델의 경우 “Open Prompt Design” 버튼을 통해 Generative AI Studio에서 바로 프롬프트 설계를 시작할 수 있습니다.
Generative AI Studio
Generative AI Studio는 생성형 AI 모델을 빠르게 프로토타입하고 테스트할 수 있는 UI 환경을 제공합니다. Generative AI Studio에서 할 수 있는 작업은 다음과 같습니다.
- 프롬프트 설계 및 저장
- 파운데이션 모델 튜닝
- 음성과 텍스트 간 변환
- 이미지 생성 및 수정
■ 프롬프트 설계 및 저장
여기에서 프롬프트란 무엇일까요?
프롬프트는 생성형 AI 모델에게 어떤 행동을 해야 하는지 자연어로 설명해 원하는 결과물을 생성할 수 있도록 하는 입력 텍스트입니다. 아래 그림을 보시면 쉽게 이해하실 수 있습니다.
생성형 AI 모델은 입력하는 프롬프트에 따라 다양한 응답을 제공합니다. 사용자가 입력한 텍스트가 어떤 의도를 가지고 있고 어떤 답변을 원하는지 AI 모델이 잘 파악할 수 있도록 입력 값을 잘 설계하는 것이 중요합니다. 이를 프롬프트 엔지니어링이라 하고, Vertex AI Generative AI Studio는 이런 프롬프트를 UI 기반으로 쉽게 설계할 수 있는 환경을 제공합니다.
그리고 설계된 프롬프트를 기반으로 애플리케이션에 통합할 수 있는 샘플 코드를 자동으로 생성해주고, 프롬프트 저장을 통해 협업할 수 있는 환경을 제공합니다.
■ 파운데이션 모델 파인 튜닝
Generative AI Studio는 미리 학습된 언어 모델에 고객이 보유하고 있는 자체 데이터를 추가로 학습하여 가중치를 적용함으로써, 기반 모델의 장점을 그대로 사용함과 동시에 고객의 데이터를 기반으로 도메인에 최적화된 응답을 생성할 수 있도록 파인 튜닝 기능을 제공합니다.
모델 튜닝은 별도의 분리된 고객 테넌트에서 Vertex AI 플랫폼 기반으로 수행되며, 추가된 고객 데이터와 튜닝된 가중치는 분리된 공간에 안전하게 저장됩니다.
튜닝된 모델은 Generative AI Studio 프롬프트 설계 화면에서 기존 파운데이션 모델과 동일하게 프롬프트 설계 및 API 사용을 지원합니다.
■ 음성 텍스트 간 변환
Generative AI Studio의 음성 도구에서는 텍스트 일부를 가져와 음성 오디오 파일로 변환하여 재생하고 다운로드할 수 있습니다. 여러 음성 유형 중에서 선택하고 말하기 속도도 조절할 수 있습니다. 반대로, 음성 파일이 있는 경우, 그것을 Generative AI Studio에 업로드하고 텍스트로 변환하고 다운로드 할 수 있는 환경을 제공합니다.
■ 이미지 생성 및 수정
Generative AI Studio는 프롬프트를 입력하여 이미지를 생성하고 수정할 수 있는 환경을 제공합니다. 뿐만 아니라 이미지에 대한 질의 응답, 캡션 생성 작업을 테스트해볼 수 있습니다.
Generative AI App Builder
Generative AI App Builder(이하 Gen App Builder)는 고객 자체 데이터를 이용해 머신러닝에 대한 전문지식 없이 기업 규모의 생성형 AI 애플리케이션을 구축할 수 있도록 지원하는 서비스입니다.
2023년 8월 기준으로 3가지 앱 유형을 제공하고 있으며, 앱 생성 시 선택하는 유형에 따라 다음과 같은 서비스로 분리됩니다.
- Search : 고객 자체 데이터를 기반으로 검색 앱을 빠르게 구축할 수 있습니다. 이 유형으로 생성되는 서비스를 ‘Enterprise Search’라고 합니다.
- Chat : GCP Dialogflow CX와 통합하여 LLM의 자연어 이해 기능을 이용한 대화형 AI를 구성할 수 있습니다. 이 유형으로 생성하는 서비스를 ‘Generative AI agent’라고 합니다.
- Recommendations : Recommendations를 사용하면 사용자가 현재 보고 있는 콘텐츠와 유사한 내용을 제안할 수 있는 최신 추천 앱을 자체 데이터로 빠르게 구축할 수 있습니다.
요약
지금까지 생성형 AI와 구글 클라우드에서 제공하는 생성형 AI 서비스에 대해 간단히 살펴보았습니다. 구글은 생성형 AI 분야에서 가장 선도적인 기술을 보유하고 있으며 그 모델을 구글 클라우드를 통해 기업이 쉽게 활용하고 빠르게 자체 생성형 AI 서비스를 구축할 수 있는 환경을 지원하고 있습니다.
구글 클라우드에서 고품질의 생성형 AI 서비스를 이용해 자사 서비스를 한 단계 업그레이드 해보시기 바랍니다.