Build a Question-answering Bot using Generative AI (Korean)

실습 개요

이 실습에서는 AWS 서비스에 대한 질문에 답변하는 챗봇을 빌드합니다. 이 실습은 대규모 언어 모델(LLM)을 배포하고, 이를 Amazon Kendra 데이터 원본과 통합하고, LLM을 쿼리하고 검색 증강 생성(RAG)을 통해 사용자 질문에 대한 답변을 찾는 Amazon Lex V2 챗봇을 빌드할 수 있는 실습 환경을 제공하도록 설계되었습니다. 이 실습에서는 추가 정보를 사용하여 언어 모델의 네이티브 기능을 보완하는 방법을 이해할 수 있습니다.

빌드하는 챗봇에는 Flan T5-XL 파운데이션 모델(FM), Langchain 및 Kendra 인덱스의 3가지 기본 구성 요소가 있습니다. Flan T5-XL은 Amazon SageMaker에서 호스팅되는 대규모 언어 모델입니다. Langchain은 AWS 설명서로 구성된 Kendra 인덱스를 수집하는 데 사용되는 프레임워크입니다. 이러한 문서는 챗봇 텍스트 창에 입력된 질문과 함께 응답을 생성하는 Flan 모델에 전달됩니다. 이 실습에서는 Lex V2를 사용하여 챗봇 인터페이스를 빌드하는 방법과 다양한 AWS 서비스를 사용하여 언어 모델의 기능을 향상시키는 방법에 대한 포괄적인 이해를 제공합니다.

목표

이 실습을 마치면 다음을 수행할 수 있게 됩니다.

• 검색 증강 생성을 사용하여 생성형 AI 애플리케이션에서 생성된 출력을 개선하는 방법을 설명합니다.
• 대규모 언어 모델에서 구동되는 Lex 챗봇을 배포합니다.
• Langchain을 Amazon SageMaker에서 시작된 모델에 연결합니다.

필수 기술 지식

이 실습에서는 컨테이너화된 애플리케이션과 기본 기계 학습 개념에 대한 지식이 필요합니다. AWS CodeBuild, AWS Lambda, AWS Cloudformation, Amazon Kendra 및 Amazon Lex를 포함하여 다양한 AWS 서비스에 대해 기본적으로 이해하고 있어야 합니다. 또한 Amazon Kendra 시작 과정도 이수했어야 합니다.

소요 시간

본 실습은 완료하는 데 75분 정도가 소요됩니다.

아이콘 설명

이 실습에서는 다양한 유형의 지침 및 참고 사항에 대한 주의를 환기하기 위해 다양한 아이콘을 사용합니다. 각 아이콘의 목적은 다음과 같습니다.

• 명령: 실행해야 하는 명령입니다.
• 예상 출력: 명령 또는 편집된 파일의 출력을 확인하는 데 사용할 수 있는 샘플 출력입니다.
• 참고: 힌트, 팁 또는 중요한 지침입니다.
• 자세히 알아보기: 자세한 정보를 찾을 수 있는 위치를 나타냅니다.
• 주의: 특별히 관심을 가질 중요한 정보입니다(놓쳤다고 해도 장비나 데이터에 문제가 발생할 정도로 중요하지는 않지만 특정 단계를 반복해야 할 수 있음).
• 경고: 되돌릴 수 없으며 명령 또는 프로세스의 실패에 영향을 줄 수 있는 작업입니다(설정한 후 변경할 수 없는 구성에 대한 경고 포함).
• 고려 사항: 자신의 환경에 개념을 적용하는 방법을 고려하거나 당면한 주제에 대한 대화를 시작하기 위해 일시 중지할 시점입니다.
• 파일 내용: 사용자를 위해 미리 생성되었으며 실행해야 하는 스크립트 또는 파일의 내용을 표시하는 코드 블록입니다.
• 태스크 완료: 실습의 결론 또는 요점입니다.