Algorithmen können nur so gut sein wie die Datengrundlage, auf der sie basieren. Um Diskriminierung zu vermeiden, ist es wichtig, den Input von Daten und Regeln zu begleiten und zu kontrollieren: Die Anwendungen digitaler Systeme sollten schon im Design-Prozess unterschiedliche Perspektiven berücksichtigen und Menschen mit diversen Hintergründen einbeziehen.

Das Projekt „KIDD – KI im Dienste der Diversität“ entwickelt hierfür am Beispiel mehrerer Experimentierräume einen Prozess. Im Zentrum von KIDD stehen mehrere Praxisprojekte in Kooperation mit Unternehmen. Sie alle sollen in Experimentierräumen co-kreative Prozesse bei der Einführung eines digitalen Systems erproben – unter Einbeziehung einer möglichst vielfältigen Mischung an Mitarbeiter*innen und Expert*innen.

Die Partner*innen sind female.vision, TU-BBerlin, Heraus Medical GmbH, msg systems AG, CHEMISTREE GmbH zusammen mit Q_PERIOR AG, sowie die epsum GmbH.  Damit sind KMU genauso beteiligt wie international tätige Großkonzerne. Diese Partner*innen bringen unterschiedliche Themenfelder rund um den Einsatz menschenzentrierter Anwendungen digitaler Systeme ein: von Sales Intelligence on Customers, der Bewertung von Reinigungsdienstleistungen bis hin zum Einsatz von KI im Personalmanagement.

Ein Prozess entsteht – und soll auf andere übertragbar sein

Von der Praxis zum Prozess: Auf Basis der gemachten Erfahrungen entstehen ein beispielhafter diskriminierungsfreier und menschenzentrierter  „KIDD-Prozess“ sowie daraus abgeleitete Qualitätskriterien, die auch in anderen Betrieben und bei anderen Fragestellungen zu digitalen Systemen anwendbar sind.
Aus dem Verfahren wird  zudem eine Qualitätssicherung abgeleitet, die für nachhaltige Prozesssicherheit sorgt. Über die Entwicklung von Trainings werden Laien befähigt, einen Prozess zur Entwicklung von Algorithmen und digitalen Anwendungen mit ausreichend Sachverstand zu beurteilen und zu begleiten. Eine umfassende Projektkommunikation gewährleistet von Anfang an die Einbeziehung einer breiten gesellschaftlichen Öffentlichkeit.

Partizipative Prozesse: Alle Akteure arbeiten gemeinsam an Algorithmen und KI-Lösungen mit.
Eine systematische Beteiligung der betrieblichen Akteure und Interessenvertretungen bildet den Kern des Projektes KIDD. Sie werden aktiv einbezogen in die Entwicklung bzw. Einführung von Algorithmen und KI-Lösungen, die die menschenzentrierten Anwendungen mit anderen Unternehmensprozessen verbinden. Dafür müssen unterschiedlichste Expertisen (Softwareentwicklung, KI, Diversity, Ethik und Partizipation) in einen Dialog gebracht und die innerbetriebliche Partizipation über alle  Ebenen hinweg ermöglicht werden.

Ziel ist, dass die Planung, Entwicklung und Implementierung Diversity-sensibler, menschenzentrierter Anwendungen digitaler Systeme und KI durch die Sozialpartner systematisch flankiert werden.

Das Projekt läuft bis zum 30.09.2023 und wird vom nexus Institut für Kooperationsmanagement und interdisziplinäre Forschung GmbH in Berlin gesteuert. Dabei verantwortet nexus die Projektleitung, die Koordination der Experimentierräume, die Partizipation/betriebliche Mitbestimmung und die Qualitätsentwicklung.

Laufzeit: 10/2020 – 09/2023
Auftraggeber:  Bundesministerium für Arbeit und Soziales
Mitarbeiter*innen: Christiane Dienel und Arnd Hofmeister (Projektleitung), Fabian Dantscher, Jordi Iour, Fabian Rennig, Karlotta Schultz
Projektpartner:  female.vision, TU-BBerlin, Heraus Medical GmbH, msg systems AG, CHEMISTREE GmbH, Q_PERIOR AG, epsum GmbH

Logo: kidd.prozess.de