Criar um bot que responde a perguntas usando IA generativa (Português) | Build a Question-answering Bot using Generative AI (Portuguese)

Visão geral do laboratório

Neste laboratório, você vai criar um chatbot que responde a perguntas sobre os serviços da AWS. O laboratório foi projetado para proporcionar experiência prática na implantação de um grande modelo de linguagem (LLM), na integração dele a uma origem dos dados do Amazon Kendra e na criação de um chatbot do Amazon Lex V2 que consulta seu LLM e usa geração aumentada de recuperação (RAG) para encontrar respostas às perguntas dos usuários. Este laboratório vai ajudar você a entender como aprimorar as habilidades nativas de um modelo de linguagem com informações adicionais.

O chatbot que você vai criar tem três componentes principais: modelo fundamental do Flan T5-XL, Langchain e um índice do Kendra. O Flan T5-XL é um grande modelo de linguagem hospedado no Amazon SageMaker. Langchain é um framework usado para ingerir um índice do Kendra composto de documentação da AWS. Esses documentos, juntamente com as perguntas inseridas na janela de texto do chatbot, são passados para o modelo Flan que gera uma resposta. Este laboratório fornece uma compreensão abrangente de como criar uma interface do chatbot usando o Lex V2 e como usar vários serviços da AWS para aprimorar os recursos de um modelo de linguagem.

Objetivos

Ao final deste laboratório, você deverá ser capaz de fazer o seguinte:

• Explicar como a geração aumentada de recuperação pode ser usada para melhorar a saída produzida por aplicações de IA generativa.
• Implantar um chatbot do Lex com tecnologia de um grande modelo de linguagem.
• Conectar o Langchain a um modelo iniciado no Amazon SageMaker.

Pré-requisitos de conhecimentos técnicos

Familiaridade com aplicações em contêineres e conceitos básicos de Machine Learning são necessários para este laboratório. Você deve ter conhecimentos básicos sobre vários serviços da AWS, incluindo AWS CodeBuild, AWS Lambda, AWS Cloudformation, Amazon Kendra e Amazon Lex. Você também deve ter concluído o curso Introdução ao Amazon Kendra.

Duração

O laboratório leva aproximadamente 75 minutos para ser concluído.

Lista de ícones

Vários ícones são usados neste laboratório para chamar a atenção para diferentes tipos de instruções e observações. A lista a seguir explica a finalidade de cada ícone:

• Comando: um comando que você precisa executar.
• Saída esperada: um exemplo que você pode usar para verificar a saída de um comando ou arquivo editado.
• Observação: uma sugestão, dica ou orientação importante.
• Saiba mais: onde encontrar mais informações.
• Atenção: informações de interesse ou importância especial (não tão importantes a ponto de causar problemas com o equipamento ou dados caso você não as veja, mas que podem resultar na necessidade de repetir determinadas etapas).
• AVISO: uma ação que seja irreversível e que tenha potencial de afetar a falha de um comando ou processo (inclusive avisos sobre configurações que não possam ser alteradas após serem feitas).
• A considerar: um momento de parar e pensar em como aplicar um conceito no seu ambiente ou iniciar uma conversa sobre o tópico em questão.
• Conteúdo do arquivo: um bloco de código que exibe o conteúdo de um script ou arquivo que será necessário executar e que foi pré-criado para você.
• Tarefa concluída: um ponto de conclusão ou de resumo no laboratório.