DocumentationWorkflowsIA et agents
Modèle de chat Ollama node
Fournit à une chaîne LLM un modèle Ollama local ou auto-hébergé. L’adresse du serveur provient uniquement de la configuration serveur. Découvrez sa configuration, les entrées et sorties, le test et la résolution des erreurs.
7 min de lectureMis à jour le
Fonction du node
Fournit à une chaîne LLM un modèle Ollama local ou auto-hébergé. L’adresse du serveur provient uniquement de la configuration serveur.
Utilisez Modèle de chat Ollama comme étape clairement définie dans un workflow anymize.
- Démarre une nouvelle exécution du workflow.
- Fournit 1 sortie aux étapes suivantes.
- S'exécute comme une étape normale du workflow.
Configurer le node
- 01Ouvrez un workflow et ajoutez Modèle de chat Ollama depuis le catalogue.
- 02Renseignez les champs requis et associez les valeurs des étapes précédentes.
- 03Testez le node avec un petit jeu de données et vérifiez sa sortie.
- 04Reliez la sortie réussie et activez le workflow après un test complet.
Actions et modes
Modèle de chat Ollama remplit une fonction précise. Ses paramètres apparaissent lorsque vous sélectionnez le node.
Paramètres
| Champ | Signification | Zone |
|---|---|---|
| Modèle | Le modèle doit déjà être disponible sur le serveur Ollama connecté. | Standard |
| Format de réponse | Choix: Texte, JSON | Standard |
| Température | Une valeur basse est plus stable, une valeur haute produit plus de variations. | Standard |
| Top P | Limite la sélection aux jetons les plus probables. | Standard |
| Jetons de sortie maximum | Configurez cette valeur dans le panneau du node. | Standard |
| Graine | Graine entière facultative pour des réponses reproductibles. | Standard |
| Garder le modèle chargé | Durée pendant laquelle Ollama conserve le modèle en mémoire après la réponse. | Standard |
Entrées et sorties
| Entrée | Signification | Type |
|---|---|---|
| Standard | Ce déclencheur ne nécessite aucune entrée. | JSON |
| Sortie | Signification | Type |
|---|---|---|
| Configuration du modèle | Paramètres sûrs du modèle et de génération pour une chaîne LLM connectée. | json |
| Modèle | Le nom du modèle Ollama configuré. | text |
Exemple et test
Llama 3.2 local: commencez avec un petit jeu de données reconnaissable. Vérifiez la sortie et utilisez uniquement les champs présents.
Exemple de test
{}Accès et sécurité
Avant l'activation, vérifiez les données reçues par cette étape et le contenu de sa sortie.
Stockez les clés et identifiants dans le gestionnaire protégé. Ne les insérez jamais dans les champs, données de test ou descriptions.
Résoudre les erreurs
- Aucune sortie: vérifiez la dernière exécution et les champs fournis par le node précédent.
- Variable vide: ouvrez la sortie précédente et utilisez un nom de champ réellement présent.