[Avançado] Chatbot com Google Gemma no Google Colabs + CUDA
- #Machine Learning
- #Python
Olá programadores,
a quem tiver curiosidade em usar o Gemma (LLM do Google) eu estive tendo dores de cabeça mas consegui utilizar e fazer o uso com a GPU para poder rodar um Chatbot, vou disponibilizar o código na integra para quem quiser testar e evitar as dores de cabeça que eu tive (haha).
créditos: autor
Modelo usado: 2b-it
Device: Cuda (usar CPU é ter paciência)
Código: Gemma on Colabs
__
Obs: Eu coloquei avançando porque não quero frustar ninguém que esteja esperando uma forma simples ou sem o uso de IA para fazer um chatbot no entanto se tu usa LLM sabe que é bem tranquilo :)
