NVIDIA lance Chat with RTX, un chatbot personnalisé sur PC

Nvidia, le leader mondial des puces d'intelligence artificielle et la 3^ème entreprise la plus valorisée des États-Unis, a lancé un nouveau chatbot appelé "Chat with RTX". Gratuit et fonctionnant hors ligne sur les PC et serveurs Windows, il s'agit pour l'instant d'une démo technologique. Son principal argument est la possibilité d'alimenter le chatbot avec vos propres données pour obtenir des réponses personnalisées sans faire appel à un serveur distant.

Qu'est-ce que Nvidia Chat with RTX et comment fonctionne-t-il ?

Nvidia le décrit comme votre "chatbot d'IA personnalisé", car il se connecte à votre contenu personnel tels que notes, documents, vidéos, etc. Pour l'instant, vous pouvez charger des fichiers aux formats .txt, .doc/.docx, .pdf et .xml. Il fonctionne localement sur une machine Windows. Vous pouvez choisir entre différents LLM (large langage models) téléchargés sur votre PC, comme Mistral ou Llama. L'innovation majeure est que le traitement et les données restent entièrement sur la machine.

Nous ne connaissons pas encore les performances réelles de l'outil ; il faudra attendre des benchmarks indépendants. Nvidia ne communique pas non plus sur la taille des modèles de langage compatible avec les cartes graphiques RTX, nettement moins puissantes que des puces IA dédiées à des serveurs. Pas sûr que l'on puisse se passer de Chat GPT ou Gemini (ex-Bard) pour l'instant, mais l'initiative a le mérite d'exister. Toujours est-il que vous pouvez essayer par vous-même en téléchargeant le logiciel sur le site de Nvidia.

Configuration requise pour NVIDIA Chat with RTX

• Carte graphique : GPU Nvidia série RTX 30 ou supérieur avec 8 Go de VRAM minimum
• RAM : 16 Go minimum
• Logiciel : Windows 11 et les drivers à jour