Cassandra e GPT - Usando LLMs com dados proprietários

Neste vídeo veremos como utilizar os LLMs, como o GPT, junto ao Apache Cassandra para criar prompts com mais contexto, direcionando a resposta das perguntas a dados proprietários

0:00 Início
0:17 Treinando modelos LLM
0:44 Instalando dependência Python
1:16 Criando um banco Cassandra e DataStax Astra
2:10 Libraries Python (OpenAI e Cassandra)
3:30 Conexão com o Cassandra / Astra
3:00 Criando a tabela para armazenamento de vetores / embeddings
4:13 Carregando dados de produtos
4:30 Gerando os embeddings
6:20 Conferindo embeddings no Astra
7:00 Fazendo perguntas e usando os dados
7:49 Buscando vetores similares à pergunta
8:43 Gerando o prompt ampliado com dados proprietários
10:19 Executando o prompt com o GPT
11:00 Retrieval Augmented Generation (RAG)
11:29 CassIO e LangChain