DokumentasjonWorkflowsKI og agenter

Enkel LLM-kjede node

Kobler en prompt til nøyaktig én språkmodell og returnerer svaret. For direkte prompt-svar-flyter uten agenter eller verktøy. Se oppsett, input og output, testkjøring og løsning av vanlige feil.

8 min lesetidOppdatert

Hva noden gjør

Kobler en prompt til nøyaktig én språkmodell og returnerer svaret. For direkte prompt-svar-flyter uten agenter eller verktøy.

Bruk Enkel LLM-kjede som et tydelig avgrenset trinn i en anymize-workflow.

  • Behandler 1 input.
  • Gir 1 output til senere trinn.
  • Kjører som et vanlig trinn i flyten.

Sett opp noden

  1. 01Åpne en workflow og legg til Enkel LLM-kjede fra nodekatalogen.
  2. 02Fyll ut obligatoriske felt og koble verdier fra tidligere trinn.
  3. 03Kjør noden med et lite testdatasett og kontroller outputtet.
  4. 04Koble det vellykkede outputtet og aktiver etter en fullstendig test.

Handlinger og moduser

Enkel LLM-kjede har ett tydelig formål. Innstillingene vises når du velger noden.

Innstillinger

FeltBetydningOmråde
ReservemodellBrukes bare når ingen modellnode er koblet til inngangen Språkmodell.Standard
SystempromptKonfigurer verdien i nodepanelet.Standard
BrukerpromptKonfigurer verdien i nodepanelet.Standard
TemperaturLave verdier er mer stabile; høye verdier gir mer variasjon.Standard
Maksimale utdata-tokensBegrenser lengden på modellsvaret.Standard
Kjør én gang per elementAv (standard): noden kjører én gang for hele inputet. På: får den flere elementer (for eksempel fra «Del opp liste»), kjører den én gang PER element, og {{ $json }} er da nettopp dette elementet. Slik jobber du deg gjennom en filliste post for post.Standard
Hvis et element feiler«Hopp over» skriver et `error`-felt for elementet som feilet og fortsetter med resten, i stedet for å miste hele kjøringen på én uleselig fil.Standard
Pause mellom elementer (millisekunder)Ventetid før hver kjøring bortsett fra den første. 1000 = 1 sekund per element. Nyttig hvis motparten ellers struper deg. Maksimalt 300000 (5 minutter).Standard

Input og output

InputBetydningType
SpråkmodellValgfri konfigurasjon fra en modellnode som Ollama. Uten tilkobling brukes Anymize-modellen valgt nedenfor.json
BrukerpromptMeldingen modellen skal svare på.text
SystempromptValgfri rolle og regler for modellen.text
OutputBetydningType
SvarTeksten generert av modellen.text
ModellModellen som faktisk ble brukt.text
BrukTokenantall når modelltjenesten leverer det.json
RåsvarHele leverandørsvaret for diagnostikk.json

Noden kan behandle lister element for element. Feilhåndtering og pause finnes under avanserte innstillinger.

Eksempel og testkjøring

Svar på et kort spørsmål: start med et lite og gjenkjennelig datasett. Kontroller outputtet og bruk bare felt som faktisk finnes.

Eksempel på testkjøring

{
  "message": "Erkläre semantische Suche in zwei Sätzen."
}

Tilgang og sikkerhet

Før aktivering bør du kontrollere hvilke data som går inn i trinnet og hva outputtet inneholder.

Lagre nøkler og påloggingsdata i den beskyttede tilkoblingsadministrasjonen. Ikke lim dem inn i vanlige felt, testdata eller beskrivelser.

Løs vanlige feil

  • Ingen output: kontroller siste kjøring og feltene fra forrige node.
  • Tom variabel: åpne outputtet fra forrige trinn og bruk et felt fra de faktiske testdataene.
  • Listen behandles bare én gang: aktiver kjøring per element.