Wofür steht KIDD und worum geht es dabei?

Digitalisierungsprozesse haben einen stetig wachsenden Einfluss auf die Arbeitswelt. Insbesondere die Einführung von KI-Anwendungen und algorithmischen Entscheidungssystemen (AES), die personenbezogene Daten automatisiert erfassen, analysieren und auf Basis der Ergebnisse eine Entscheidung(-sempfehlung) ableiten.

Das birgt für Unternehmen Chancen und Risiken.

Auf der einen Seite können mithilfe solcher Anwendungen Arbeitsprozesse optimiert oder neue Geschäftsmodelle erschlossen werden. Auf der anderen Seite kann die Einführung und Anwendung solcher Systeme auch zu unerwünschten Konsequenzen führen. So können sowohl in regelbasierten als auch in lernenden Softwareanwendungen soziale Vorannahmen und Strukturen vorhanden sein oder sich reproduzieren, sodass sie möglicherweise problematische und diskriminierende Handlungsanweisungen und Ergebnisse produzieren. Das bedeutet: bewusste oder unbewusste Verzerrungen können in den Regeln angelegt sein, die der Algorithmus produziert – oder dessen Daten er verwendet. Diese Verzerrungen werden anschließend durch die Softwaresysteme übernommen und verstetigt.

Um Benachteiligung von Personengruppen zu minimieren, müssen mögliche Auswirkungen solcher Anwendungen schon während des Design-Prozesses reflektiert und Risiken abgewogen werden. Um eine Analyse dieser Systeme in Bezug auf Verzerrungsrisiken und Diskriminierung in der notwendigen Breite und Tiefe durchführen zu können, ist es wichtig, dass Menschen mit vielfältigen Hintergründen und Perspektiven aktiv in diesen Prozess eingebunden sind und gehört werden.

An dieser Stelle setzt das Projekt „KIDD – KI im Dienste der Diversität“ an, das vom Bundesministerium für Arbeit und Soziales (BMAS) unter dem Dach der Initiative Neue Qualität der Arbeit (INQA) gefördert wird. Im Projekt wird in vier Experimentierräumen ein Prozess zur partizipativen Ausgestaltung und Einführung von KI-Anwendungen und AES in Betrieben erprobt, bei dem die Berücksichtigung der Diskriminierungsfreiheit und Sicherstellung von Diversität im Fokus steht.

Ziel ist die Entwicklung eines standardisierten „KIDD-Prozesses“, mithilfe dessen Unternehmen in die Lage versetzt werden, faire, transparente und verständliche Softwareanwendungen anzuschaffen oder zu entwickeln und einzuführen. Im Zentrum des Projekts stehen dabei Pilotprojekte, die von Unternehmenspartnern eingebracht werden.

Begleitend zum KIDD-Prozess wurden im Projekt Schulungen entwickelt, durch die die am Prozess beteiligten Akteur:innen befähigt werden sollen, die Einführung von diskriminierungsfreier und diversitätssensibler KI und AES in Unternehmen sicherzustellen und zu begleiten.

In den Schulungen wurden alle im Prozess beteiligten Akteur:innen zur kritischen Mitarbeit befähigt. Zusätzlich wurden im Projekt KIM Schulungen entwickelt, die zukünftig KIDD-Moderator:innen (KIM) zur Planung und Durchführung des KIDD-Prozesses qualifizieren sollen.

Darüber hinaus wurden Qualitätskriterien formuliert, mithilfe derer die Umsetzung des KIDD-Prozesses in unterschiedlichen betrieblichen Kontexten anhand praxisrelevanter Indikatoren erfolgreich durchgeführt, bewertet und verbessert werden kann, um die Entwicklung und Einführung einer möglichst diskriminierungsfreien KI-Anwendung oder eines AES sicherzustellen.