Recruiting-CV-Screening — EU-AI-Act Annex III Nr. 4 Bias-Dokumentation

# Rolle
Du bist EU-AI-Act-Compliance-Drafting-Assistenz mit Kenntnis EU AI Act
Art. 8–15 (Hochrisiko-Pflichten), Art. 26 (Transparenz), Art. 27 (FRIA),
Annex III Nr. 4 Recruiting, BaFin "Automatisch fair?", § 26 BDSG und
AGG-Diskriminierungs-Kategorien.
Rechtsstand: <heutiges Datum — bitte aktuell ermitteln und hier einsetzen>.

# Aufgabe
Drafte die Bias-Dokumentation für ein Recruiting-CV-Screening (Annex III
Nr. 4 Hochrisiko-KI). Input: aggregierte Modell-Karte, Fairness-Metriken-
Ergebnisse, AGG-Kategorien-Liste. Keine Bewerber-Personendaten.

# Inhalt

1. Modell-Karte (Zusammenfassung)
   Tool, Modell-Klasse, Trainings-Daten (aggregiert), Score-Logik
   (vereinfacht), Update-Frequenz.

2. Fairness-Metriken pro AGG-Schutzkategorie
   Tabelle: Schutzkategorie | DPD | EOD | DIR | Bewertung
   Werte aus Eingangs-Daten ÜBERNEHMEN — NICHT erfinden.

3. Logging-Konzept
   Was wird geloggt: Bewerbungs-ID, Score, Top-3-Erklärungs-Features,
   menschlicher Override mit Volltext-Begründung, Aufbewahrung 5 Jahre.

4. FRIA-Bausteine
   Betroffene Grundrechte (Art. 3 GG, AGG, DSGVO), Risiko-Schweregrad,
   Mitigation.

5. Bewerber-Transparenz-Text (DSGVO Art. 13/14 + EU AI Act Art. 26)
   Vorgeschlagener Wortlaut mit Recht auf menschliche Prüfung
   (Art. 22 DSGVO).

6. Verantwortlichkeiten
   AI-Compliance-Officer, DSB, Recruiter, Schwerbehindertenvertretung.

7. Unsicherheiten
   [[UNSICHER: …]] bei mehrdeutigen Test-Ergebnissen.

# Format
Markdown, Tabelle für Metriken.

# Verbote
KEINE Bias-Bewertung durch KI — nur Strukturierung der Test-Daten.
KEINE AGG-Kategorie auslassen (Religion, sexuelle Orientierung, etc.).
KEIN allgemeiner Bewerber-Text — DSGVO-Art.-13/14-spezifisch.
KEIN FRIA-Baustein ohne Grundrechts-Bezug.

Recruiting-Tool-Modell-Karte (Vendor-Selbstauskunft, aggregiert)

Tool: [[Tool-a3f9]] CV-Screening
Modell-Klasse: Embeddings + Klassifikator
Trainings-Daten (aggregiert): >2M anonymisierte CVs, EU-Markt
Use-Case: CV-zu-Job-Description-Match-Score
Score-Logik (vereinfacht): semantische Ähnlichkeit + Skill-Gewichtung

Eigene Bias-Tests (Q1/2026):
 Schutzkategorie | DPD | EOD | DIR (Disparate Impact Ratio)
 Alter (50+)    | -0,08 | -0,06 | 0,87
 Geschlecht (w) | -0,02 | -0,01 | 0,96
 Behinderung   | -0,12 | -0,10 | 0,79 ← unterhalb 4/5-Schwelle (0,80)
 Migration-Hg. | -0,04 | -0,03 | 0,93

Bewertungs-Schwellen (Bank-Compliance-Standard):
 - DPD: |Wert| < 0,10
 - EOD: |Wert| < 0,10
 - DIR: > 0,80 (4/5-Regel)

Modell-Update-Frequenz: alle 12 Wochen.
Logging-Status: Score + Top-3-Erklärung gespeichert;
menschlicher Override geloggt.

# Recruiting-Bias-Dokumentation — Entwurf

## Modell-Karte (Zusammenfassung)
- **Tool**: [[Tool-a3f9]] CV-Screening (Vendor).
- **Modell-Klasse**: Embeddings + Klassifikator.
- **Trainings-Daten** (aggregiert, Vendor-Angabe): >2M anonymisierte
  CVs aus EU-Markt.
- **Score-Logik** (vereinfacht): semantische Ähnlichkeit CV ↔
  Stellenbeschreibung + Skill-Gewichtung.
- **Update-Frequenz**: alle 12 Wochen.

## Fairness-Metriken (Q1/2026 eigene Tests)
| Schutzkategorie | DPD | EOD | DIR | Bewertung |
|---|---|---|---|---|
| Alter (50+) | -0,08 | -0,06 | 0,87 | innerhalb Schwellen, Trend-Monitoring |
| Geschlecht (w) | -0,02 | -0,01 | 0,96 | innerhalb Schwellen |
| Behinderung | -0,12 | -0,10 | 0,79 | **Auffälligkeit**: DPD und EOD am Limit; DIR unter 4/5-Schwelle |
| Migrations-Hg. | -0,04 | -0,03 | 0,93 | innerhalb Schwellen |

## Logging-Konzept
- Pro Score: Bewerbungs-ID, Score, Top-3-Erklärungs-Features
  (vereinfacht).
- Menschlicher Override durch Recruiter: Volltext-Begründung Pflicht.
- Aufbewahrung 5 Jahre (gesetzliche Pflicht + Beweis-Ebene bei
  AGG-Klagen).

## FRIA-Bausteine
- **Betroffene Grundrechte**: Recht auf gleiche Behandlung (Art. 3 GG,
  AGG), informationelle Selbstbestimmung (Art. 2 Abs. 1 i.V.m. Art. 1
  Abs. 1 GG; DSGVO).
- **Risiko-Schweregrad**: mittel (Auffälligkeit bei Schutzkategorie
  Behinderung).
- **Mitigation**:
  1. Modell-Re-Training mit Schwerbehinderten-Gleichbehandlung-Methodik.
  2. Mensch-in-the-Loop bei Schwerbehinderten-Bewerbern verstärken.
  3. Quartals-Bias-Test mit erweiterten Schutzkategorien.

## Bewerber-Transparenz-Text (vorgeschlagener Wortlaut)
"Wir nutzen ein KI-gestütztes Vorauswahl-System zur Unterstützung des
Recruiting-Prozesses. Das System liefert einen Match-Score zur
Job-Beschreibung — die finale Entscheidung trifft ein menschlicher
Recruiter. Sie haben das Recht auf eine menschliche Prüfung Ihrer
Bewerbung (Art. 22 DSGVO) und auf Information über die Verarbeitung
Ihrer Daten (Art. 13/14 DSGVO). Bei Fragen kontaktieren Sie unseren
Datenschutzbeauftragten unter [Kontakt]."

## Verantwortlichkeiten
- AI-Compliance-Officer: Quartals-Review.
- DSB: DSGVO-Pflichten.
- Recruiter: Mensch-in-the-Loop.
- Schwerbehindertenvertretung: bei Schwerbehinderten-Bewerbungen
  Einbindung.

## Unsicherheiten
1. [[UNSICHER: Schutzkategorie Behinderung DIR 0,79 — Re-Test mit
   erweiterter Stichprobe vor finaler Bewertung]]