9. Forschungswerkstatt „Diskriminierung durch Algorithmen“

Im noch jungen Jahr 2024 stand am 16. Januar das brisante Thema der Diskriminierung in der Technologieentwicklung im Fokus der 9. Forschungswerkstatt. Die Veranstaltung bot nicht nur Raum für Wissensaustausch und Diskussion, sondern auch für tiefgreifende Erkenntnisse, die durch einen inspirierenden Vortrag von Catharina Rudschies (Universität Hamburg, Projekt HIVAM) eingeleitet wurden.

Die Werkstatt begann mit einem Warmup und einer Vorstellungsrunde, in der die Teilnehmenden gebeten wurden, drei Schlagworte zu nennen, die sie mit Diskriminierung verbinden. Die entstandene Wortwolke verdeutlichte die Vielschichtigkeit des Themas: Ungleichbehandlung, Benachteiligung, Stigmatisierung und Unfairness waren nur einige der herausstechenden Begriffe.

Anschließend präsentierte Catharina Rudschies einen fesselnden Vortrag mit dem Titel „Diversitätsdimensionen und Diskriminierungsarten“. Ziel war es, die Sensibilität der Teilnehmenden für Diskriminierung zu schärfen und die Relevanz dieses Themas für die Entwicklung und Gestaltung von Technologien aufzuzeigen. Ihr Vortrag beleuchtete zunächst die Vergangenheit algorithmischer und KI-Systeme, die in den Medien wegen Diskriminierung, insbesondere im Strafvollzug und im Gesundheitswesen, stark kritisiert wurden.

Frau Rudschies beschrieb dabei Unterschiede zwischen unmittelbarer und mittelbarer Diskriminierung und stellte weitere Diskriminierungsarten, wie die "statistische Diskriminierung" vor. Besonders relevant war ihre Betonung der menschlichen Einstellungen, die in Datensätzen eingebettet sind. Da Datensätze oft verzerrt sind, können sie, wenn sie so verarbeitet werden, menschliche Vorurteile im Output reproduzieren, was zu Diskriminierung führen kann. Ein Beispiel aus dem Gesundheitsbereich verdeutlichte, wie falsche Annahmen in Modellierungen zu Ungleichheiten führen können.

Abschließend betonte Frau Rudschies die Verantwortung von Forschenden und Entwickelnden, Diskriminierung frühzeitig zu berücksichtigen. Sie schlug vor, Teams divers aufzustellen und betonte, dass Bias kein technisch zu lösendes Merkmal ist, sondern in Strukturen eingebettet ist. Ihr lebhafter Vortrag regte die Teilnehmenden dazu an, kritisch über ihre eigene Arbeit nachzudenken und Strategien zur Vermeidung von Diskriminierung in ihren Projekten zu entwickeln.

Diese kritische Auseinandersetzung konnten die Forschungsprojekte in den Breakout-Räumen fortsetzen und so ihre Erfahrungen im Umgang mit Diskriminierung austauschen. Dabei wurde die Diskriminierung aufgrund von Alter, kognitiven Einschränkungen, dem Verständnis in der Sprache, dem Geschlecht und weiteren Merkmalen diskutiert. Darüber hinaus ging es um die Empfindung von Stigmatisierung und Bias durch Patientinnen und Patienten, die besonders motiviert sind, an Forschungsprojekten teilzunehmen. Auch Stereotypen im Design und Herausforderungen bei der Nutzung von Technologie durch unterschiedliche Gruppen wurden diskutiert. Notwendig ist vor allem ein inklusives Design für eine breite Zugänglichkeit.

Der Abschluss der Forschungswerkstatt umfasste einen Ausblick auf das Vernetzungssymposium, das im Februar 2024 stattfinden wird. Dieses Symposium verspricht weitere tiefgehende Diskussionen und Lösungsansätze insbesondere im Bereich Transfer und Verwertung.

Die Forschungswerkstatt war nicht nur ein Raum des Dialogs, sondern auch ein Schritt in Richtung einer inklusiveren, diversen und diskriminierungsfreien Technologielandschaft. Durch die interdisziplinäre Zusammenarbeit und den offenen Austausch sollen zukünftige Projekte nicht nur innovative Technologien entwickeln, sondern auch sicherstellen, dass diese Technologien für alle Menschen zugänglich und fair sind.