Faire tourner un LLM en local : le pas-à-pas complet
Dimensionner, installer, vérifier que ça tourne vraiment sur le GPU et mesurer son débit.
Sujet
llama.cpp
1 article sur ce sujet
NET&PRO
L'IA, c'est bien. L'IA qui tourne chez vous, c'est mieux.
Vous avez lu la théorie. NET&PRO s'occupe de la mise en œuvre : automatisation de process, intégration de modèles dans vos outils métier, formation de vos équipes.