Wie sollte eine KI reagieren, wenn Nutzer schwierige, sensible oder möglicherweise problematische Fragen stellen?
Für ein internationales KI-Projekt werden deutschsprachige Teilnehmer gesucht, die genau solche Situationen untersuchen und bewerten. Du entwickelst unterschiedliche Fragestellungen, analysierst KI-Dialoge und hilfst dabei, Schwachstellen moderner Sprachmodelle zu erkennen.
Spezielle Erfahrung mit Künstlicher Intelligenz oder Machine Learning ist dafür nicht erforderlich. Du erhältst klare Richtlinien und wirst in die Aufgaben eingearbeitet.
Deine Aufgaben
- Deutsche Testfragen und Aufgaben für KI-Systeme formulieren
- KI-Dialoge und Nutzeranfragen anhand vorgegebener Kriterien beurteilen
- Inhalte unterschiedlichen Kategorien zuordnen
- Erkennen, wenn Formulierungen gezielt versuchen, Grenzen eines KI-Systems zu umgehen
- Komplexere oder problematische Gesprächsverläufe identifizieren
- Entscheidungen nachvollziehbar schriftlich begründen
- Mit deinen Bewertungen zur Verbesserung der Sicherheit moderner KI-Systeme beitragen
Die Aufgaben können sich mit unterschiedlichen sensiblen Themen beschäftigen. Deshalb sind ein verantwortungsvoller Umgang mit solchen Inhalten und gutes Urteilsvermögen besonders wichtig.
Das solltest du mitbringen
- Deutsch auf muttersprachlichem oder nahezu muttersprachlichem Niveau
- Gute schriftliche Englischkenntnisse auf beruflichem Niveau
- Laufendes oder abgeschlossenes Bachelorstudium
- Sehr gute schriftliche Ausdrucksfähigkeit
- Analytisches und strukturiertes Denken
- Hohe Aufmerksamkeit für Details
- Verantwortungsbewusster Umgang mit sensiblen Informationen und Themen
Von Vorteil – aber keine Voraussetzung
Hilfreich sind beispielsweise Erfahrungen in den Bereichen:
- Content-Moderation oder Trust & Safety
- Bewertung und Qualitätssicherung von Texten
- Richtlinien- oder Policy-Prüfung
- Testen von KI-Systemen
- Red Teaming bzw. gezielte Suche nach Schwachstellen
Wichtig: Vorerfahrung mit KI oder Machine Learning ist ausdrücklich nicht erforderlich.
Das erwartet dich
- Remote durchführbares KI-Projekt
- Einstieg auch ohne bisherige KI-Erfahrung
- Strukturierte Einarbeitung in die Aufgaben
- Arbeit mit deutschsprachigen KI-Inhalten
- Mitarbeit an der Sicherheit moderner Sprachmodelle
- Internationales Projektumfeld
- Projektstart ab sofort
Worum geht es bei dem Projekt?
Moderne KI-Systeme müssen nicht nur hilfreiche Antworten liefern. Sie müssen auch erkennen, wann Anfragen problematisch werden und wie sie mit sensiblen Themen angemessen umgehen.
Dafür werden reale und gezielt schwierige Situationen getestet. Deine sprachlichen Fähigkeiten und dein Urteilsvermögen helfen dabei, Schwachstellen zu erkennen und zukünftige KI-Systeme robuster und sicherer zu machen.
Interessiert?