KI-Transparenz

Art. 50 EU AI Act: Wie wir Künstliche Intelligenz bei NextBeruf einsetzen

1. Welche KI-Systeme setzen wir ein?

• OpenAI Ireland Limited (Dublin, Irland), Modell gpt-4o-mini: KI-Informationsassistent BERA (Chat). Ein Auftragsverarbeitungsvertrag mit Standardvertragsklauseln besteht. Eine Übermittlung an OpenAI in den USA ist möglich. Eine Zusage zur Nicht-Speicherung von Eingaben geben wir nicht.
• OpenRouter, Inc. (USA): Anschreiben-Entwurf im Anschreiben-Editor. Die KI-Auswertung in der Anzeigen-Analyse ist derzeit abgeschaltet. OpenRouter leitet die Anfrage an ein Sprachmodell weiter. Mit OpenRouter besteht ein Auftragsverarbeitungsvertrag, der über deren Nutzungsbedingungen (Ziffer 10.2) einbezogen ist und Standardvertragsklauseln (Modul 2) für die Übermittlung in die USA enthält. Bitte geben Sie dort trotzdem keine sensiblen Angaben ein.

2. Wofür setzen wir KI ein?

• Anschreiben-Umformulierung: Der Brieftext, den Sie bearbeiten, wird gekürzt oder erweitert. Der Absenderblock (Name, Anschrift, Telefon) wird nicht gesendet, Stellenanzeige, Profil und Lebenslauf ebenfalls nicht. Unser Workflow-Server speichert die Anfragen nicht.
• KI-Informationsassistent BERA: Sie schreiben mit einem KI-System, nicht mit einem Menschen. BERA gibt allgemeine Informationen zu Arbeit, Bewerbung und Anerkennung in Deutschland und bewertet keine persönliche Situation. Kurze Hinweise im Dashboard sind als Hinweis von BERA gekennzeichnet und überwiegend feste Texte. Ist die Funktion eingeschaltet, formuliert BERA einzelne Hinweise mit KI aus Kennzahlen des Bildschirms (zum Beispiel Match-Prozent). Sie werden ohne Nutzerkennung, Name, Freitext oder Aufenthaltsstatus an den KI-Dienst übermittelt; erfolgreiche Anfragen speichern wir nicht, Fehlerfälle höchstens 7 Tage. Ein Hinweis auf das KI-System steht im Chat.
• Derzeit abgeschaltet: die KI-Auswertung in der Anzeigen-Analyse (Abgleich Ihres Profils mit einer Stellenanzeige). Sie wird erst eingeschaltet, wenn ein Datenschutzbeauftragter benannt und eine Datenschutz-Folgenabschätzung abgeschlossen ist. Die Anzeigen-Analyse arbeitet bis dahin nach festen Regeln in Ihrem Browser.

3. Was die KI bei uns NICHT macht

• Keine automatisierten Einzelentscheidungen (Art. 22 DSGVO)
• Keine Arbeitsvermittlung (§§ 296 ff. SGB III)
• Keine Rechtsberatung (§§ 2, 3 RDG), Verweis an BAMF, IQ-Netzwerk, zugelassene Anwält:innen
• Keine Steuerberatung (§ 5 StBerG)
• Keine biometrische Erkennung, keine Emotionserkennung

4. Risiko-Klassifizierung nach EU AI Act

Nach unserer eigenen Einschätzung stufen wir unsere KI-Funktionen als begrenztes Risiko (Limited Risk) ein. Diese Einschätzung ist rechtlich noch nicht abschließend geprüft.

Match-Score: Der Match-Score vergleicht Ihre Angaben (zum Beispiel Beruf, Kenntnisse, Sprachen, Region) mit den Angaben einer Stellenanzeige und berechnet einen Übereinstimmungswert nach festen Regeln, ohne KI-Modell. Auf Wunsch sortieren wir Stellen nach diesem Wert. Das Ergebnis sehen nur Sie. NextBeruf trifft keine Entscheidung über Einstellungen und gibt den Score nicht an Arbeitgeber, Träger oder Behörden weiter.

Das ist Profiling im Sinne von Art. 4 Nr. 4 DSGVO, aber keine automatisierte Einzelentscheidung nach Art. 22 DSGVO: Der Wert dient nur Ihrer eigenen Orientierung und entscheidet nicht über eine Bewerbung. Rechtsgrundlage ist Art. 6 Abs. 1 lit. b DSGVO. Weil weder Arbeitgeber noch Träger noch Behörden Scores oder Sortierungen von Personen erhalten, betreiben wir nach unserer Einschätzung kein Hochrisiko-System nach Anhang III Nr. 4 EU AI Act (Beschäftigung). Die Auswahl, worauf Sie sich bewerben, treffen ausschließlich Sie.

5. Kennzeichnung von KI-Output

• Sichtbarer Hinweis auf die KI-Erstellung direkt an den KI-Werkzeugen (BERA-Chat, Anschreiben-Editor), einmal an der Stelle der Nutzung. Die Anzeigen-Analyse zeigt an, dass sie nach festen Regeln ohne KI auswertet.
• Vor Versand eines Anschreibens: Pflicht-Bestätigung „Ich habe den Entwurf gelesen und übernehme die Verantwortung“.
• Der Match-Score trägt den Hinweis, dass er nach festen Regeln automatisch berechnet wird und eine Orientierung ist, kein verbindliches Urteil.

6. Schutzmaßnahmen für die Zielgruppe

• Maskierung vor KI-Aufrufen: Kontaktdaten wie E-Mail-Adressen, Telefonnummern und Kontonummern werden im BERA-Chat vor der Weitergabe an den KI-Dienst maskiert. Im Anschreiben-Editor wird der Absenderblock (Name, Anschrift, Telefon) nicht gesendet; im übrigen Brieftext werden Kontaktdaten, Anschrift und Geburtsdatum durch Platzhalter ersetzt und nach der Antwort wieder eingesetzt. Namen und andere Angaben, die Sie selbst in einen Text schreiben, werden nicht automatisch entfernt. Bitte geben Sie in KI-Eingaben nur ein, was nötig ist.
• Aufbewahrung beim Anbieter: Wie lange KI-Anbieter Eingaben aufbewahren, richtet sich nach deren Bedingungen. Wir sichern nicht zu, dass Eingaben sofort gelöscht werden.
• Weg der Anfragen: Anfragen laufen über unsere Server in Deutschland (Hetzner, Nürnberg) zum jeweiligen KI-Anbieter (OpenAI, Irland, für BERA; OpenRouter, USA, für den Anschreiben-Entwurf). Die Verarbeitung beim Anbieter kann außerhalb der EU stattfinden.
• Sprachsensible Disclosure: Der Hinweis „Sie interagieren mit einem KI-System“ erscheint in der gewählten Sprache. Kurze Hinweise von BERA sind immer als solche gekennzeichnet.
• Anti-Diskriminierungs-Audit vor Aktivierung der Match-Funktion: geplant, noch nicht durchgeführt.

7. Kann ich eine menschliche Überprüfung anfragen?

Sie können eine menschliche Prüfung anfragen. Schreiben Sie an info@nextberuf.de, wir prüfen Ihr Anliegen.

8. AI Model Card: KI-Informationsassistent BERA

• Einsatzzweck: Allgemeine Informationen zu Jobsuche, Bewerbung, Anerkennung und Förderung in Deutschland. BERA bewertet keine persönliche Situation, stellt keine Fragen zur Person und bewertet keine Dokumente oder Bescheide; für persönliche Fragen verweist BERA auf kostenlose Beratungsstellen.
• Modell / Anbieter: OpenAI Ireland Limited, Modell gpt-4o-mini, über unseren Workflow-Server (Hetzner, Deutschland). Ein direkter Ausweichweg von unserem Webserver zu OpenAI ist derzeit abgeschaltet.
• Übermittelte Daten: Ihre Chat-Nachricht mit maskierten Kontaktdaten, die letzten Nachrichten dieses Gesprächs aus Ihrem Browser (höchstens sechs, ebenfalls maskiert), damit BERA im Zusammenhang antworten kann, eine Sitzungskennung und die Sprache. Nach einem Hinweis im Dashboard wird höchstens das allgemeine Thema dieses Hinweises mitgeschickt, keine Zahlen oder Angaben aus Ihrem Profil. BERA erhält keine Konto- oder Profildaten.
• Speicherung: Erfolgreich beantwortete Nachrichten speichert unser Workflow-Server nicht. Nur bei technischen Fehlern bleibt eine Anfrage höchstens 7 Tage zur Fehlersuche gespeichert. Einen Gesprächsverlauf hält der Workflow-Server nicht vor. Für die Betriebsstatistik zählen wir pseudonymisiert (Hash der Sitzungskennung, täglich wechselnder Hash einer IP-Adresse, Land, Sprache, Zähler), ohne Nachrichtentext, höchstens 365 Tage. Der Verlauf (höchstens 30 Nachrichten) wird nur in Ihrem Browser gespeichert, nicht auf unseren Servern; Sie können ihn jederzeit mit „Verlauf löschen“ löschen, beim Abmelden und bei der Konto-Löschung wird er ebenfalls gelöscht, nach 30 Tagen ohne neue Nachricht automatisch.
• Nicht automatisch entfernte Daten: Für andere KI-Funktionen werden Angaben nicht automatisch entfernt. Bitte lassen Sie Name, Adresse, Geburtsdatum, Telefonnummer und sensible Angaben weg.
• Menschliche Aufsicht: Sie können jederzeit eine menschliche Überprüfung des KI-Outputs anfragen (siehe Abschnitt 7 oben).
• Grenzen: Der KI-Output ist ein Entwurf, keine Rechtsberatung und keine Zusicherung einer Anstellung.
• Ausfall: Ist der KI-Dienst nicht erreichbar, weist BERA darauf hin und beantwortet nur häufige Fragen aus einer festen Wissensbasis. Eine Zusage zur Nicht-Speicherung von Eingaben beim Anbieter geben wir nicht.
• Hinweis zu Verzerrungen (Bias): Antworten von BERA sind allgemeine Informationen, keine Entscheidungen. Die endgültige Auswahl trifft ausschließlich die Nutzer:in.

Stand: Oktober 2026