DokumentationWorkflowsAI og agenter

Ollama-chatmodel node

Leverer en lokal eller selvhostet Ollama-model til en LLM-kæde. Serveradressen kommer udelukkende fra serverkonfigurationen. Se opsætning, input og output, testforløb og løsning af typiske fejl.

7 min. læsningOpdateret

Hvad noden gør

Leverer en lokal eller selvhostet Ollama-model til en LLM-kæde. Serveradressen kommer udelukkende fra serverkonfigurationen.

Brug Ollama-chatmodel som et klart afgrænset trin i et anymize-workflow.

  • Starter en ny workflow-kørsel.
  • Leverer 1 output til efterfølgende trin.
  • Kører som et normalt trin i forløbet.

Opsæt noden

  1. 01Åbn et workflow, og tilføj Ollama-chatmodel fra nodekataloget.
  2. 02Udfyld de påkrævede felter, og knyt værdier fra tidligere trin.
  3. 03Kør noden med et lille testsæt, og kontrollér outputtet.
  4. 04Forbind det vellykkede output, og aktivér først efter en samlet test.

Handlinger og tilstande

Ollama-chatmodel har én klart afgrænset opgave. Indstillingerne vises, når du vælger noden.

Indstillinger

FeltBetydningOmråde
ModelModellen skal allerede være tilgængelig på den forbundne Ollama-server.Standard
SvarformatValg: Tekst, JSONStandard
TemperaturLave værdier er mere stabile; høje værdier giver mere variation.Standard
Top PBegrænser valget til de mest sandsynlige tokens.Standard
Maksimale outputtokensIndstil værdien i nodepanelet.Standard
SeedValgfrit heltals-seed til reproducerbare svar.Standard
Hold modellen indlæstHvor længe Ollama beholder modellen i hukommelsen efter svaret.Standard

Input og output

InputBetydningType
StandardUdløseren kræver intet input.JSON
OutputBetydningType
ModelkonfigurationSikre model- og genereringsindstillinger til en forbundet LLM-kæde.json
ModelNavnet på den konfigurerede Ollama-model.text

Eksempel og testkørsel

Lokal Llama 3.2: start med et lille og genkendeligt datasæt. Kontrollér outputtet, og brug kun felter, der faktisk findes.

Eksempel på testkørsel

{}

Adgang og sikkerhed

Gennemgå hvilke data der kommer ind i trinnet, og hvad outputtet indeholder.

Gem nøgler og loginoplysninger i den beskyttede forbindelsesstyring. Indsæt dem aldrig i almindelige felter, testdata eller beskrivelser.

Løs typiske fejl

  • Intet output: kontrollér den seneste kørsel og felterne fra den forrige node.
  • Tom variabel: åbn outputtet fra det forrige trin, og brug et felt fra de faktiske testdata.