Laboratório: Chatbot de Perguntas e Respostas sobre Documentos Locais com LangChain e Milvus

Duração estimada

120 min

Passos

12

Validações

5

Versões da documentação consultada

LangChain v0.1.16 · Milvus 2.3.x · Hugging Face Transformers a versão estável atual · Sentence Transformers a versão estável atual · PyPDF2 a versão estável atual

Topologia

Uma máquina virtual Ubuntu 22.04 (10.0.0.10) roda Milvus (banco vetorial) e um backend Python com LangChain. O backend carrega documentos PDF, gera embeddings usando Sentence Transformers e armazena no Milvus. Usuário interage via terminal local, enviando perguntas respondidas pelo modelo consultando os vetores.

Usuário (CLI)
    |
    v
[Python+LangChain] (10.0.0.10)
    |
    v
 [Milvus]
    ^
    |
 [PDFs locais]

Equipamentos e software

Roteiro

1. Preparar a VM Ubuntu

   Atualize o sistema e instale dependências básicas. Isso garante ambiente limpo e atualizado.

   sudo apt update && sudo apt upgrade -y
   sudo apt install python3 python3-pip git curl -yCopiar

   O que você deve ver: Sistema atualizado, Python 3 e pip instalados.

2. Instalar e iniciar o Milvus Standalone

   Milvus será o banco vetorial. Usaremos o modo standalone para facilitar o laboratório.

   curl -fsSL https://milvus.io/install.sh | bash
   cd milvus-standalone && docker compose up -dCopiar

   O que você deve ver: Containers do Milvus rodando. Porta 19530 aberta.

3. Clonar repositório de exemplo

   Crie um diretório de trabalho e baixe um repositório de exemplo para facilitar o setup.

   git clone https://github.com/langchain-ai/langchain.git
   cd langchain/examples/milvusCopiar

   O que você deve ver: Diretório com exemplos LangChain + Milvus disponível.

4. Instalar dependências Python

   Instale as bibliotecas necessárias para LangChain, Milvus, Sentence Transformers e leitura de PDF.

   pip3 install langchain pymilvus sentence-transformers transformers pypdf2Copiar

   O que você deve ver: Pacotes instalados sem erros.

5. Obter documentos PDF de teste

   Baixe ou crie 2 PDFs simples para indexação. Use textos técnicos ou manuais.

   curl -o doc1.pdf https://www.w3.org/WAI/ER/tests/xhtml/testfiles/resources/pdf/dummy.pdf
   curl -o doc2.pdf https://www.adobe.com/support/products/enterprise/knowledgecenter/media/c4611_sample_explain.pdfCopiar

   O que você deve ver: Dois arquivos PDF no diretório de trabalho.

6. Carregar e particionar PDFs

   Use PyPDF2 para ler os PDFs e dividir em chunks menores. Isso facilita a indexação vetorial.

   python3
   >>> from PyPDF2 import PdfReader
   >>> reader = PdfReader('doc1.pdf')
   >>> text = ''
   >>> for page in reader.pages:
   ...     text += page.extract_text()
   >>> print(text[:200])
   (exit com Ctrl+D)Copiar

   O que você deve ver: Texto extraído do PDF exibido no terminal.

7. Gerar embeddings dos textos

   Use Sentence Transformers para transformar os chunks de texto em vetores.

   python3
   >>> from sentence_transformers import SentenceTransformer
   >>> model = SentenceTransformer('all-MiniLM-L6-v2')
   >>> embeddings = model.encode([text])
   >>> print(embeddings.shape)
   (exit com Ctrl+D)Copiar

   O que você deve ver: Shape dos embeddings exibido, por exemplo (1, 384).

8. Configurar conexão LangChain com Milvus

   Configure o LangChain para usar Milvus como backend vetorial. Isso conecta o pipeline de IA ao banco.

   python3
   >>> from langchain.vectorstores import Milvus
   >>> vector_db = Milvus(collection_name='docs', connection_args={'host': '127.0.0.1', 'port': '19530'})
   (exit com Ctrl+D)Copiar

   O que você deve ver: Objeto vector_db criado sem erros.

9. Indexar embeddings no Milvus

   Armazene os vetores dos textos no Milvus. Isso permite consultas semânticas rápidas.

   python3
   >>> vector_db.add_texts([text], embeddings=[embeddings[0]])
   (exit com Ctrl+D)Copiar

   O que você deve ver: Vetores indexados, sem mensagens de erro.

10. Configurar pipeline de perguntas e respostas

    Monte um pipeline LangChain que recebe uma pergunta, consulta Milvus e responde usando o modelo de linguagem.

    python3
    >>> from langchain.chains import RetrievalQA
    >>> from langchain.llms import HuggingFacePipeline
    >>> llm = HuggingFacePipeline.from_model_id('distilbert-base-uncased-distilled-squad')
    >>> qa = RetrievalQA.from_chain_type(llm=llm, retriever=vector_db.as_retriever())
    (exit com Ctrl+D)Copiar

    O que você deve ver: Pipeline qa criado sem erros.

11. Testar perguntas via terminal

    Envie perguntas sobre o conteúdo dos PDFs e observe as respostas do modelo.

    python3
    >>> question = 'Sobre o que trata o documento?'
    >>> print(qa.run(question))
    (exit com Ctrl+D)Copiar

    O que você deve ver: Resposta relevante ao conteúdo do PDF exibida.

12. Automatizar o fluxo em script

    Junte tudo em um script Python único para facilitar execuções futuras.

    Consulte a documentação para exemplos de script completo: https://python.langchain.com/docs/integrations/vectorstores/milvusCopiar

    O que você deve ver: Script funcional, aceitando perguntas e respondendo via terminal.

Como saber que funcionou

Troubleshooting

Segurança e hardening

• Nunca exponha a porta 19530 do Milvus para a internet sem autenticação
• Remova PDFs sensíveis após testes
• Limite permissões de arquivos e scripts
• Use ambientes virtuais Python para evitar conflitos de dependências

Checklist final

• VM Ubuntu 22.04 provisionada e acessível
• Milvus rodando e acessível na porta 19530
• Dependências Python instaladas sem erro
• PDFs de teste disponíveis no diretório
• Embeddings criados e indexados no Milvus
• Pipeline LangChain responde perguntas sobre os PDFs