Jan

Une alternative open source et hors ligne à ChatGPT, qui fait tourner les modèles sur votre ordinateur, avec une API locale en option.

par Menlo Research (open source) Pas encore noté

Qu’est-ce que c’est ?

Jan est une application de bureau gratuite et open source qui ressemble à ChatGPT mais fait tourner les modèles d’IA à 100 % sur votre ordinateur. Elle peut aussi se connecter à des modèles en ligne avec vos propres clés API si vous le souhaitez, et exposer un serveur local compatible OpenAI.

Installation

  1. Téléchargez Jan sur jan.ai pour Windows, macOS ou Linux.
  2. Installez-le comme n’importe quelle application et ouvrez-le.

Utilisation

  1. Ouvrez le Hub et téléchargez l’un des modèles recommandés. Jan indique lesquels conviennent à votre matériel.
  2. Lancez une nouvelle conversation, sélectionnez le modèle téléchargé et écrivez votre message.
  3. Utilisez les assistants / instructions pour donner au modèle un rôle fixe, par exemple « Réponds toujours en français ».

Remarque

Par défaut, tout reste sur votre machine : les conversations sont stockées localement et aucun compte n’est nécessaire.

API locale

Dans les paramètres, activez le serveur d’API local. D’autres applications peuvent alors appeler Jan via une adresse compatible OpenAI (indiquée dans les paramètres, sur localhost par défaut).

Limites

  • Moins d’options avancées que LM Studio ou llama.cpp.
  • Mêmes limites matérielles que toute IA locale : les gros modèles demandent plus de mémoire.

Commentaires 0

Partagez vos astuces, les prompts qui ont marché pour vous, ou vos questions.

Aucun commentaire pour l’instant. Soyez le premier à partager une astuce.