Mon Aventure avec les IA de Génération de Texte en Local**
-
isotop - Messages : 1594
- Inscription : 16 mars 2021, 01:47
- Ville : Liège
- Logiciel : Final Cut Pro 11
- System : Mac OS26 Tahoé
- Ram : 36
- Boitier : Canon R+Iphone 17promax
- x 6
- x 18
- Pays :
Belgique
Mon Aventure avec les IA de Génération de Texte en Local**
**Ce texte a été généré par une IA locale.**
Aujourd’hui, j’ai décidé de tester les IA de génération de texte directement sur mes machines. Une expérience passionnante qui m’a permis de comparer les performances entre mon Mac Mini et mon MacBook Pro.
PQ en Locale ? Pour deux raisons :
1. Toutes les données restent sur le pc, rien ne part sur Internet.
2. Aucune limite d'aucune sorte, et surtout pas de quota maximum et c'est gratuit.
Pour la simplicité d’installation, j’ai utilisé l’IA Claude sur Internet, et cela a été incroyablement simple, même très très simple ! Quelques clics suffisaient, et tout était configuré en un rien de temps, je dirais moins de 10 minutes. C’était vraiment surprenant de voir à quel point le processus d’installation avait été simplifié. J’avais déjà tenté l’expérience il y a un an ou deux, mais c’était beaucoup trop compliqué. Maintenant, c’est fini tout ça !
J’ai commencé par installer Olloma, qui fonctionne ensuite en ligne de commande dans le Terminal. Pour utiliser Olloma, il suffit de lancer le programme avec son modèle d’IA et de saisir le prompt directement dans le Terminal.
Ensuite, j’ai installé Elvean, un système graphique qui se connecte automatiquement à Olloma en tâche de fond. Pour finir, j’ai simplement copié-collé une ligne de commande fournie par Claude pour installer le modèle d’IA Mistral Small 3.2 latest. Cette méthode est plus simple et plus sûre, surtout sur mon Mac Mini.
Mon Mac Mini étant un peu plus lent que prévu en termes de génération de texte, ce qui est logique avec un M1, 16 Go de RAM (unifiée) et moins de 10 Go restants avec tout ce qui tourne déjà dessus, les temps de réponse étaient plus longs. J’ai donc dû patienter un peu avant d’obtenir des résultats. Cependant, malgré cette lenteur relative, tout a fonctionné correctement. C’était rassurant de voir que même avec une machine moins puissante, il était possible de faire tourner ces modèles d’IA.
L’expérience a pris une toute autre dimension lorsque j’ai transféré tout cela sur mon MacBook Pro. La différence de vitesse était saisissante ! Les réponses étaient instantanées, et l’ensemble du processus s’est déroulé avec une fluidité remarquable. C’était comme passer d’une voiture de tourisme à une sportive de course.
Je pense que des versions pour Windows et Linux existent pour Olloma et Elvean.
Par contre, il vaut mieux une carte graphique rapide. Déjà , mon MacBook Pro Elevean ne tire pas parti des puces neuronales , mais le GPU est monté à 98% et le CPU lui restait à 8%, la puce neurale Engine n'étant pas faite pour du texte , pas besoin de les utiliser.
En conclusion, même si le Mac Mini peut sembler un peu limité pour ce type de tâches, il est tout à fait utilisable. Cependant, si vous recherchez des performances optimales, le MacBook Pro s’impose comme un choix bien plus adapté.
Et vous, avez-vous déjà testé des IA de génération de texte en local ? Partagez vos expériences dans les commentaires
Aujourd’hui, j’ai décidé de tester les IA de génération de texte directement sur mes machines. Une expérience passionnante qui m’a permis de comparer les performances entre mon Mac Mini et mon MacBook Pro.
PQ en Locale ? Pour deux raisons :
1. Toutes les données restent sur le pc, rien ne part sur Internet.
2. Aucune limite d'aucune sorte, et surtout pas de quota maximum et c'est gratuit.
Pour la simplicité d’installation, j’ai utilisé l’IA Claude sur Internet, et cela a été incroyablement simple, même très très simple ! Quelques clics suffisaient, et tout était configuré en un rien de temps, je dirais moins de 10 minutes. C’était vraiment surprenant de voir à quel point le processus d’installation avait été simplifié. J’avais déjà tenté l’expérience il y a un an ou deux, mais c’était beaucoup trop compliqué. Maintenant, c’est fini tout ça !
J’ai commencé par installer Olloma, qui fonctionne ensuite en ligne de commande dans le Terminal. Pour utiliser Olloma, il suffit de lancer le programme avec son modèle d’IA et de saisir le prompt directement dans le Terminal.
Ensuite, j’ai installé Elvean, un système graphique qui se connecte automatiquement à Olloma en tâche de fond. Pour finir, j’ai simplement copié-collé une ligne de commande fournie par Claude pour installer le modèle d’IA Mistral Small 3.2 latest. Cette méthode est plus simple et plus sûre, surtout sur mon Mac Mini.
Mon Mac Mini étant un peu plus lent que prévu en termes de génération de texte, ce qui est logique avec un M1, 16 Go de RAM (unifiée) et moins de 10 Go restants avec tout ce qui tourne déjà dessus, les temps de réponse étaient plus longs. J’ai donc dû patienter un peu avant d’obtenir des résultats. Cependant, malgré cette lenteur relative, tout a fonctionné correctement. C’était rassurant de voir que même avec une machine moins puissante, il était possible de faire tourner ces modèles d’IA.
L’expérience a pris une toute autre dimension lorsque j’ai transféré tout cela sur mon MacBook Pro. La différence de vitesse était saisissante ! Les réponses étaient instantanées, et l’ensemble du processus s’est déroulé avec une fluidité remarquable. C’était comme passer d’une voiture de tourisme à une sportive de course.
Je pense que des versions pour Windows et Linux existent pour Olloma et Elvean.
Par contre, il vaut mieux une carte graphique rapide. Déjà , mon MacBook Pro Elevean ne tire pas parti des puces neuronales , mais le GPU est monté à 98% et le CPU lui restait à 8%, la puce neurale Engine n'étant pas faite pour du texte , pas besoin de les utiliser.
En conclusion, même si le Mac Mini peut sembler un peu limité pour ce type de tâches, il est tout à fait utilisable. Cependant, si vous recherchez des performances optimales, le MacBook Pro s’impose comme un choix bien plus adapté.
Et vous, avez-vous déjà testé des IA de génération de texte en local ? Partagez vos expériences dans les commentaires
-
isotop
- Messages : 1594
- Inscription : 16 mars 2021, 01:47
- Ville : Liège
- Logiciel : Final Cut Pro 11
- System : Mac OS26 Tahoé
- Ram : 36
- Boitier : Canon R+Iphone 17promax
- x 6
- x 18
- Pays :
Belgique
Re: Mon Aventure avec les IA de Génération de Texte en Local**
Voici une raison supplémentaire d’opter pour l’IA en local.
Il existe apparemment des IA gratuites qui, grâce à de petits plugins, se connectent à nos logiciels préférés, tels qu’Adobe Photoshop, Lightroom Classic, GIMP et le petit logiciel présente il ya peu de temps , Kdenlive, entre autres.
Cela signifie que nous pourrons continuer à profiter de logiciels gratuits boostés à l’IA sans payer et sans limites.
Cependant, dire que c’est gratuit est un peu trompeur, car il faudra des ordinateurs performants pour éviter d’attendre trois minutes pour effacer une poubelle gênante sur une photo.
Il existe apparemment des IA gratuites qui, grâce à de petits plugins, se connectent à nos logiciels préférés, tels qu’Adobe Photoshop, Lightroom Classic, GIMP et le petit logiciel présente il ya peu de temps , Kdenlive, entre autres.
Cela signifie que nous pourrons continuer à profiter de logiciels gratuits boostés à l’IA sans payer et sans limites.
Cependant, dire que c’est gratuit est un peu trompeur, car il faudra des ordinateurs performants pour éviter d’attendre trois minutes pour effacer une poubelle gênante sur une photo.