NAS pour utilisation de Ollama et Khoj AI sous Docker

JohnCB

Nouveau membre
12 Octobre 2020
4
0
1
Bonjour,
J'ai posté ce jour un message dans le dernier article de Cachem (https://www.cachem.fr/nas-meilleure-solution-2025/) mais je me permets de le poster sur le forum afin d'avoir plus de visibilité.
Si jamais je me trompe de topic, n'hésitez pas à l'en changer.

J’ai plusieurs interrogations concernant les NAS – je possède le DS220+ de Synology depuis plusieurs années et j’en suis très content.
J’ai de nombreux containers d’installés (comme Plex, Nextcloud, Bookstack etc) et je souhaitais récemment installer Khoj AI (dont je viens d’entendre parler grâce au site Korben), ainsi que Ollama – visiblement nécessaire pour le fonctionnement de Khoj AI.

J’ai réussi à tout installer, mais rien ne fonctionne correctement.
Mon NAS se met à ralentir et des containers qui fonctionnaient bien se mettent à crasher.
Je le soupçonnais avant l’installation : Khoj et Ollama requiert un NAS avec une plus grande puissance.
Problème : j’ai l’impression qu’on ne parle que rarement de la puissance des NAS, et quel type de NAS est nécessaire pour tel logiciel ou tel container. Par exemple, je n’ai jamais réussi à trouver quel est le nombre maximum de containers qu’un NAS peut faire tourner. J’ai aussi lu sur internet qu’il faudra apparemment pour Ollama (ou Khoj, ou les deux) un NAS avec un CPU Intel Pentium (et non pas Celeron) ainsi que 8 voire 16 Go de RAM. Mais rien d’officiel (notamment de la part de Synology), et c’est ce qui m’étonne.

Car s’il est nécessaire de prendre un NAS plus puissant, je le veux bien, mais j’ignore quel serait le NAS requis pour mes nouveaux besoins.
Serait-il possible de me renseigner sur le sujet ?

(Pour information, mon NAS a actuellement 6 Go de RAM. Je peux l'augmenter en prenant une barrette de 16 Go, mais si le souci vient du CPU ou du GPU, cela ne servira à rien.)
 
Bonjour,

une barrette de 16 Go
Le CPU J4025 ne peut prendre en charge que 8 GB de Ram - donc inutile de booster à ce niveau.
si le souci vient du CPU ou du GPU, cela ne servira à rien
Tout à fait - en général c'est souvent le CPU (coeur puissance et pour les dockers voir si nécessite de fonctionnalités type AVX, iGPU, ou autres).
notamment de la part de Synology
Ce n'est pas Syno qui gère les apps docker proposées par les développeurs ;)
nécessaire de prendre un NAS plus puissant,
Un Nas est conçu matériellement et avant tout pour être un serveur de fichier (stockage en ligne) -
Les apps sont des options dans la mesure où le matériel peut être en capacité de répondre aux exigences de celles-ci.
Si les apps que tu souhaites déployer demandent des ressources autres que la configuration matérielle proposées sur les marques commercialisées, il te faut partir sur un DIY (ou serveur) avec les exigences matérielles correspondantes à ton cahier des charges.
 
  • J'aime
Réactions: R76
Bonjour,
J'ai posté ce jour un message dans le dernier article de Cachem (https://www.cachem.fr/nas-meilleure-solution-2025/) mais je me permets de le poster sur le forum afin d'avoir plus de visibilité.
Si jamais je me trompe de topic, n'hésitez pas à l'en changer.

J’ai plusieurs interrogations concernant les NAS – je possède le DS220+ de Synology depuis plusieurs années et j’en suis très content.
J’ai de nombreux containers d’installés (comme Plex, Nextcloud, Bookstack etc) et je souhaitais récemment installer Khoj AI (dont je viens d’entendre parler grâce au site Korben), ainsi que Ollama – visiblement nécessaire pour le fonctionnement de Khoj AI.

J’ai réussi à tout installer, mais rien ne fonctionne correctement.
Mon NAS se met à ralentir et des containers qui fonctionnaient bien se mettent à crasher.
Je le soupçonnais avant l’installation : Khoj et Ollama requiert un NAS avec une plus grande puissance.
Problème : j’ai l’impression qu’on ne parle que rarement de la puissance des NAS, et quel type de NAS est nécessaire pour tel logiciel ou tel container. Par exemple, je n’ai jamais réussi à trouver quel est le nombre maximum de containers qu’un NAS peut faire tourner. J’ai aussi lu sur internet qu’il faudra apparemment pour Ollama (ou Khoj, ou les deux) un NAS avec un CPU Intel Pentium (et non pas Celeron) ainsi que 8 voire 16 Go de RAM. Mais rien d’officiel (notamment de la part de Synology), et c’est ce qui m’étonne.

Car s’il est nécessaire de prendre un NAS plus puissant, je le veux bien, mais j’ignore quel serait le NAS requis pour mes nouveaux besoins.
Serait-il possible de me renseigner sur le sujet ?

(Pour information, mon NAS a actuellement 6 Go de RAM. Je peux l'augmenter en prenant une barrette de 16 Go, mais si le souci vient du CPU ou du GPU, cela ne servira à rien.)

Moi ce que je voit c'est que tu confond NAS et serveur. Clairement dans ton cas un NAS n'est pas suffisant un logiciel pour de l'IA ca va au delà de l'utilisation d'un NAS, qui , je le rappel à la base ne sert que pour du stockage local. Plus ca va plus les gens rajoute des appli etc et se plaignent de la puissance des NAS grand publique. Mais le vrai soucis c'est l'utilisation que vous en faites qui est complètement détourner.

C'est pas contre toi mais tu n'est pas le premier a faire ce poste et jusqu'à présent, je n'ai vu personne mettre le doigts sur ce qui à mes yeux est le vrai problème. C'est comme se plaindre qu'une twingo à un coffre trop petit pour partir en vacance. Oui c'est normal car à la base c'est pas fait pour ca même si en soit rien t'empêche de le faire ca sera clairement pas optimum voir merdique.

Définition wikipédia du NAS : Un serveur de stockage en réseau, également appelé stockage en réseau NAS, boîtier de stockage en réseau ou plus simplement NAS (de l'anglais Network Attached Storage), est un serveur de fichiers autonome, relié à un réseau, dont la principale fonction est le stockage de données en un volume centralisé pour des clients réseau hétérogènes.
 
Bonjour à vous et merci pour vos réponses ! :)
J'ai maintenant bien compris que NAS = stockage réseau + quelques logiciels plutôt légers.
Je n'étais pas assez informé du fait que l'IA requiert une grande puissance de calcul (cela semble logique) et donc des machines vraiment puissantes.
En tout cas, je garde bien mon NAS Synology qui fait super bien le travail, et je pense essayer Ollama et compagnie sur mon PC !
 
Ça dépend aussi de la taille des modèles d'IA voulus, en fonction il faut une carte graphique plus ou moins musclée.
L'IA est un "service" qui demande beaucoup de puissance si exécuté en local, donc ça peut vite demander une grosse machine.