DokumentationWorkflowsAI og agenter

Enkel LLM-kæde node

Forbinder en prompt med præcis én sprogmodel og returnerer dens svar. Til direkte prompt-svar-forløb uden agenter eller værktøjer. Se opsætning, input og output, testforløb og løsning af typiske fejl.

8 min. læsningOpdateret

Hvad noden gør

Forbinder en prompt med præcis én sprogmodel og returnerer dens svar. Til direkte prompt-svar-forløb uden agenter eller værktøjer.

Brug Enkel LLM-kæde som et klart afgrænset trin i et anymize-workflow.

  • Behandler 1 input.
  • Leverer 1 output til efterfølgende trin.
  • Kører som et normalt trin i forløbet.

Opsæt noden

  1. 01Åbn et workflow, og tilføj Enkel LLM-kæde fra nodekataloget.
  2. 02Udfyld de påkrævede felter, og knyt værdier fra tidligere trin.
  3. 03Kør noden med et lille testsæt, og kontrollér outputtet.
  4. 04Forbind det vellykkede output, og aktivér først efter en samlet test.

Handlinger og tilstande

Enkel LLM-kæde har én klart afgrænset opgave. Indstillingerne vises, når du vælger noden.

Indstillinger

FeltBetydningOmråde
ReservemodelBruges kun, når ingen modelnode er forbundet til inputtet Sprogmodel.Standard
SystempromptIndstil værdien i nodepanelet.Standard
BrugerpromptIndstil værdien i nodepanelet.Standard
TemperaturLave værdier er mere stabile; høje værdier giver mere variation.Standard
Maksimale outputtokensBegrænser modellens svarlængde.Standard
Kør én gang pr. elementFra (standard): noden kører én gang for hele inputtet. Til: får den flere elementer (f.eks. fra „Del liste op“), kører den én gang PR. element, og {{ $json }} er så præcis dette element. Sådan arbejder du en filliste igennem post for post.Standard
Hvis et element fejler„Spring over“ skriver et `error`-felt for det fejlede element og fortsætter med resten i stedet for at miste hele kørslen på én ulæselig fil.Standard
Pause mellem elementer (millisekunder)Ventetid før hver kørsel undtagen den første. 1000 = 1 sekund pr. element. Nyttigt, hvis modparten ellers begrænser dig. Maksimalt 300000 (5 minutter).Standard

Input og output

InputBetydningType
SprogmodelValgfri konfiguration fra en modelnode som Ollama. Uden forbindelse bruges Anymize-modellen valgt nedenfor.json
BrugerpromptBeskeden, som modellen skal besvare.text
SystempromptValgfri rolle og regler for modellen.text
OutputBetydningType
SvarTeksten genereret af modellen.text
ModelDen model, der faktisk blev brugt.text
ForbrugTokenantal, når modeltjenesten leverer det.json
Råt svarHele udbydersvaret til fejlfinding.json

Noden kan behandle lister element for element. Fejlhåndtering og pause findes under avancerede indstillinger.

Eksempel og testkørsel

Besvar et kort spørgsmål: start med et lille og genkendeligt datasæt. Kontrollér outputtet, og brug kun felter, der faktisk findes.

Eksempel på testkørsel

{
  "message": "Erkläre semantische Suche in zwei Sätzen."
}

Adgang og sikkerhed

Gennemgå hvilke data der kommer ind i trinnet, og hvad outputtet indeholder.

Gem nøgler og loginoplysninger i den beskyttede forbindelsesstyring. Indsæt dem aldrig i almindelige felter, testdata eller beskrivelser.

Løs typiske fejl

  • Intet output: kontrollér den seneste kørsel og felterne fra den forrige node.
  • Tom variabel: åbn outputtet fra det forrige trin, og brug et felt fra de faktiske testdata.
  • Listen behandles kun én gang: aktivér kørsel pr. element.