Inférence locale

Llama 3.2

qwen2.5:1.5b · 3B

Llama 3.2 tourne ici.

Le modèle 3B d'instruction (environ 2 Go) s'exécute via Ollama sur cette machine. Les prompts ne quittent pas l'environnement local.