Data Engineer & Machine Learning | Electrical Engineer
Joined September 2020
- Tweets10.1K
- Following626
- Followers14.1K
- Likes4.8K
Eu esperando sair a pesquisa do Datafolha como se fosse uma daquelas pessoas conferindo o nome com a família no vestibular de medicina depois de tentar 5 anos seguidos.
Eu votaria com muita vontade em qualquer candidato que viesse com a proposta de remover a imunidade parlamentar. É de um absurdo uma pessoa que ocupa uma posição de representante do povo levantar um celular e se gravar querendo humilhar outras pessoas por pensamentos diferentes com papo de “desempregado” ou qualquer outra exposição e não responder por isso na justiça. Ninguém poderia ter proteção pra fazer qualquer coisa e não ser responsabilizado no instante em que fez.
Esse é um dos melhores materiais que já compartilhei aqui.
Tenho me aprofundado em estudos sobre LLMs até RAGs. E acabei elaborando um material bacana sobre isso, vou compartilhar tudo nessa thread.
Como funciona um LLM por dentro?
De transformar palavras em números até gerar respostas com contexto, existe uma arquitetura por trás dos modelos de linguagem.
Podemos esse mundo de maneira geral nesse infografo, e conforme avançamos detalharei seus itens.
Tenho me aprofundado em estudos sobre LLMs até RAGs. E acabei elaborando um material bacana sobre isso, vou compartilhar tudo nessa thread.
Como funciona um LLM por dentro?
De transformar palavras em números até gerar respostas com contexto, existe uma arquitetura por trás dos modelos de linguagem.
Podemos esse mundo de maneira geral nesse infografo, e conforme avançamos detalharei seus itens.
Como tudo se conecta?
Tokenização, embeddings, atenção, FFN, normalização, treinamento, inferência e RAG não são conceitos isolados.
Cada componente participa de uma etapa diferente do funcionamento de um sistema baseado em LLM.
(aqui adicionei a mesma imagem do começo mas num outro ponto de vista)
Conclusão.
Estudar Transformers é perceber que a inteligência dos LLMs surge da combinação de matemática, arquitetura, otimização e dados.
Compartilho esses resumos como material de estudo para quem também está explorando Engenharia de IA que vem fortíssima junto a Engenharia de Dados porque alguém tem que abastecer esses bancos de dados.