Das Wichtigste
- KI-gestützte Recruiting-Systeme können durch gezielte Eingaben getäuscht werden
- Die Vorauswahl durch virtuelle Avatare ist noch nicht ausgereift genug
- Unternehmen sollten ihre KI-Systeme kritisch auf Manipulationen prüfen
Einordnung
Der Einsatz von künstlicher Intelligenz in Personalabteilungen nimmt zu. Virtuelle Avatare sollen erste Bewerbungsgespräche führen und die Vorauswahl erleichtern. Das Experiment zeigt, dass diese Technologie noch erhebliche Schwächen aufweist.
Was das für Sie heisst
Wirkt schon jetzt
Entwickler und Architekten sollten KI-basierte Recruiting-Tools auf Schwachstellen testen und Absicherungsmöglichkeiten gegen Manipulation evaluieren.
Wer davon profitiert: Entwickler, die KI-Systeme für HR-Anwendungen bauen oder betreuen, müssen die Grenzen solcher Systeme kennen und können geeignete Gegenmaßnahmen implementieren.
Analyse von KI-basierten HR-Systemen auf Sicherheitslücken und Empfehlungen zur Absicherung gegen Manipulationseingaben.