Cómo instalar y configurar Ollama en Linux para tener tu ChatGPT personal privado

En este video te voy a explicar paso a paso cómo configurar LM Studio en tu equipo Ubuntu Linux para ejecutar diversos modelos grandes de lenguage (LLM) con licencias abiertas. De esta forma podrás tener un propio sistema, similar a ChatGPT, corriendo en tu ordenador, sin tener que conectar con ningún servidor externo.

Existen multitud de modelos a elegir y la calidad de los mismos va mejorando cada día. Además se están encontrando multitud de utilidades a estos sistemas de inteligencia artificial generativa. ¿Te gustaría poder probarlos y aprender de primera mano? ¡Es el momento ideal para empezar a seguir el podcast de La Hora Maker!

[mondragontapiakevinarturo]

Eres una bomba, me gusto mucho tu contenido. Nuevo Sub.

[ivanovichenco]

Gracias por tus aportes. Uso 2204. Quiero entrenar un modelo para alimentarlo con los srt de unos videos para que me iresponda preguntas sobre esos temas indicandoi en cual video esta o estan esas respuestas, la respuesta y indique el tiempo de inicio en el video o videos en quie esta la respuesta o en el video y el nombre del video

[roboxito]

Excelente video, voy a investigar como usar el modelo tuneado de Llama-2 a español preparado por clibrain con ollama, gracias

[dianlinux]

super interesante tengo linux debian instaldo

[javaboy]

Suscrito!

Como a todo el mundo nos interesa los LLM locales a los que puedas entrenar con pdf y crear tus propios modelos sin censura, sobre todo para Linux ;p

Gpt esta bien, pero a parte de pagar es facil que usen tus datos, ademas que anda petadisimo, pero esta bien.

hola, instale ollama y open-web ui, pero no ha podido ejecutar la GPU. Parece que el probelma es CUDA en versión 12, pero incluso si intento instalar la versión 12.4, no me da solución. Haz podido ver algo similar? alguna luz para la solución?

[soldarencasa]

yo baje en un dinosaurio de 4 g i procesador de 1, 5g, dalai llama abrio todo bien pero no me respondia nada, a qe se podria deber eso es por el equipo tal ves, cual seria el equipo minimo para bajar uno de 7b por ejemplo, gracias

[ivanovichenco]

Excelente. Yo uso Ubuntu 2204. Yo quiero una inteligencia artificial que lea los subtitulos en español de una serie de videos y entrenarla para hacerle preguntas sobre el contenido de esa serie de videos y nos indique en que video esta esa información y en que tiempo del vido se inicia la información y que dice; esta información puede estar distribuida en varios videos asi que debe recopilar la informacion respectiva. Si me pudieras orientar al respecto te lo agradeceria infinitamente. Gracias.

[MrSalvador]

excelente video, felicidades, lo que me gustaría preguntarte es como desinstalo el plugin que cargue en ollama si es que ya no lo deseo tener, por ejemplo si descargue el "mistral" como lo quito, te agradezco de ante mano tu atención al presente comentario, gracias

[soldarencasa]

ahora intente bajar i aprecio instruction ilegal cored dumper q seria eso

[javiercc]

Muy interesante! Cual modelo crees que es el mejor open source ahora mismo? Llama2? Mistral?

[raulernestoalmaoalvarado]

Cuales son los requerimientos de tarjeta gráfica, procesador y ram para correr los modelos de 13b? Me gustan demasiado tus videos de Ollama con Linux

[josemanuelgalvan]

Utilizo linux, me gustaría integrar pdf