KI und LGBTIQ+ Wenn Algorithmen über Identitäten urteilen

Künstliche Intelligenz ist nicht automatisch neutral. Systeme arbeiten mit Daten, Algorithmen, Rechenleistung und menschlichem Fachwissen. Fehler und Verzerrungen können deshalb an unterschiedlichen Stellen entstehen. Mario Di Carlo, Jurist und Mitgründer der Organisation EDGE, beschäftigt sich seit Jahren mit solchen Problemen. Er betont, dass KI immer mehr auch zu einer Gefahr für LGBTIQ+-Menschen werden kann. 

Das Wichtigste im Überblick

• Künstliche Intelligenz kann bestehende Vorurteile aus Daten übernehmen und verstärken.
• Algorithmen können aus scheinbar harmlosen Daten sexuelle Orientierung oder andere persönliche Merkmale ableiten.
• Queere Menschen könnten von bestimmten KI-Systemen besonders stark betroffen sein.
• Experten warnen auch vor gezielter Desinformation über LGBTIQ+-Themen.
• KI kann zugleich dabei helfen, Diskriminierung zu erkennen und abzubauen.
• Ein Anthropic-Forscher warnt vor einem extremen Szenario: Er hält die Wahrscheinlichkeit, dass KI innerhalb der kommenden zehn Jahre alle Menschen töten könnte, persönlich für höher als zehn Prozent.

Wenn KI Vorurteile übernimmt

EDGE begann bereits 2021 mit der Untersuchung algorithmischer Verzerrungen. Zunächst ging es unter anderem um ethnische Herkunft und Geschlecht. Für Di Carlo lag die Frage nahe, ob ähnliche Mechanismen auch Menschen aufgrund ihrer sexuellen Orientierung oder Geschlechtsidentität benachteiligen können. Dabei geht es für ihn nicht allein um ChatGPT oder andere generative KI. Algorithmen bestimmen schon heute, welche Inhalte Menschen in sozialen Netzwerken sehen, welche Produkte ihnen empfohlen werden oder wie Bewerbungen und Kreditanträge bewertet werden. Di Carlo betont deshalb: „Künstliche Intelligenz existiert nicht. Was existiert, sind viele Modelle, viele Techniken, viele Systeme künstlicher Intelligenz.“ Entscheidend sei, was mit einem konkreten System gemacht werde. „Das Modell wird relevant, wenn wir es benutzen.“ 

Diskriminierung im Alltag

Ein besonders anschauliches Beispiel ist die automatisierte Personalauswahl. Ein System könnte einen Bewerber ablehnen, weil in seinem Lebenslauf ehrenamtliches Engagement für eine LGBTIQ+-Organisation auftaucht. Die sexuelle Orientierung selbst muss dabei gar nicht angegeben sein. Der Bewerber könnte fachlich bestens geeignet sein – und trotzdem aus einem Grund aussortiert werden, der für die ausgeschriebene Stelle keinerlei Bedeutung hat.

Di Carlo formuliert das grundsätzlicher: „Ein System, das aufgrund eines Faktors diskriminiert, der nicht relevant ist, aber ein Diskriminierungsfaktor ist, funktioniert schlicht nicht.“ Dasselbe Problem kann bei Banken auftreten. Ein Kreditmodell sollte beurteilen, ob jemand einen Kredit zurückzahlen kann. Wenn stattdessen sexuelle Orientierung, Geschlecht, Herkunft oder ein anderer sachfremder Faktor die Bewertung beeinflusst, verfehlt das System seinen eigentlichen Zweck. „Diskriminierung schadet demjenigen, der diskriminiert, nicht nur demjenigen, der diskriminiert wird.“

Falsche Zusammenhänge 

Eine besondere Schwierigkeit liegt laut Di Carlo darin, dass KI-Systeme statistische Zusammenhänge erkennen, aber nicht automatisch zwischen Ursache und bloßer Korrelation unterscheiden. Bei einem US-Versuch, Universitäten zu bewerten, führte das beispielsweise dazu, dass Hochschulen mit einem höheren Anteil weiblicher Beschäftigter schlechter eingestuft wurden. Das System hatte einen falschen Zusammenhang gelernt: mehr Männer bedeuteten angeblich eine höhere Qualität. Di Carlo sagt dazu: „KI arbeitet mit Statistik, nicht mit kausalen Zusammenhängen. Deshalb sind falsche Korrelationen, Scheinkorrelationen, einer der Faktoren, aus denen anschließend Verzerrungen entstehen.“

Auch der bekannte Fall eines experimentellen Bewerbungssystems von Amazon zeigt das Problem. Das System bevorzugte Männer und wurde später aufgegeben. Trainiert worden war es mit historischen Bewerbungs- und Einstellungsdaten, in denen Männer überrepräsentiert waren. Selbst wenn ein Algorithmus das Merkmal „Geschlecht“ nicht direkt berücksichtigt, können andere Informationen als indirekte Hinweise dienen – etwa besuchte Hochschulen oder bestimmte Erfahrungen und Vereinsaktivitäten.

Zwangsouting dank KI 

Noch weiter geht das Problem bei persönlichen Daten. Menschen müssen ihre sexuelle Orientierung nicht ausdrücklich angeben, damit ein Algorithmus möglicherweise Rückschlüsse darauf ziehen kann. Daten aus sozialen Netzwerken, Suchanfragen, besuchten Orten oder verwendeten Apps können miteinander verbunden werden. Di Carlo sagt: „Ist es möglich, diese Brotkrumen zu sammeln und zusammenzufügen, um die sexuelle Orientierung abzuleiten? Die Antwort lautet: Es ist äußerst einfach.“  Und weiter: „Es ist absolut möglich, die Identität einer Person, die anonym bleiben möchte, anhand einer bestimmten Menge an Daten zu rekonstruieren, und es ist möglich, die sexuelle Orientierung aus den Daten abzuleiten.“ Das kann für LGBTIQ+-Menschen besonders gefährlich werden, wenn Informationen über die eigene Identität nicht freiwillig veröffentlicht wurden.

Di Carlo sieht innerhalb der LGBTIQ+-Community vor allem trans* Menschen als besonders gefährdet. Gleichzeitig betont er, dass es dazu noch relativ wenige Untersuchungen gibt. Untersuchungen zu Sprachmodellen hätten bereits Hinweise auf problematische Ergebnisse geliefert. Dazu gehörten etwa beleidigende Vervollständigungen, stereotype Darstellungen oder diskriminierende Empfehlungen. Hinzu kommt, dass persönliche Daten und Identitäten sich im Laufe eines Lebens verändern können. Werden Informationen aus unterschiedlichen Lebensabschnitten automatisiert zusammengeführt, kann es schwieriger werden, bestimmte frühere oder private Angaben tatsächlich hinter sich zu lassen.

Gefahr durch Gesichtserkennung 

Besonders kritisch sieht Di Carlo Versuche, sexuelle Orientierung anhand äußerlicher Merkmale zu bestimmen. „Für mich ist das eine dumme und verrückte Nutzung künstlicher Intelligenz.“ Problematisch sei bereits die Vorstellung, man könne die sexuelle Orientierung eines Menschen aus dessen körperlichen Merkmalen oder seiner Ästhetik ableiten. In Ländern, in denen LGBTIQ+-Menschen verfolgt oder kriminalisiert werden, könne eine solche Technologie besonders schwerwiegende Folgen haben.

Noch stärker beschäftigt Di Carlo allerdings eine andere Entwicklung: der gezielte Missbrauch von KI. „Viel mehr Sorgen bereitet mir die Nutzung künstlicher Intelligenz durch böswillige Akteure. Das ist ein Thema, das noch ziemlich unterschätzt wird.“ Dabei geht es unter anderem um Desinformation über LGBTIQ+-Menschen. Gemeinsam mit Marie Šafář Postma und dem Tilburg Algorithm Observatory beschäftigt sich EDGE mit der Frage, wie Informationen gezielt manipuliert werden können. Eine mögliche Strategie: Akteure stellen große Mengen falscher Informationen ins Internet, die später von KI-Systemen aufgenommen werden können. Di Carlo warnt: „Einige Akteure stellen riesige Mengen falscher Daten online. LGBTIQ+-Themen stehen im Zentrum dieser Operation.“ Sollte eine solche Strategie erfolgreich sein, könnte sie die öffentliche Debatte über die Rechte von homosexuellen und queeren Menschen beeinflussen. „Wenn diese Dynamik erfolgreich ist, vergiftet sie die öffentliche Debatte über die Rechte von LGBTIQ+-Menschen. Von der Diskriminierung eines Amazon-Lebenslaufs ganz zu schweigen.“

Gesellschaft muss KI besser verstehen

Ein weiteres Problem ist laut Di Carlo, dass Betroffene häufig gar nicht wissen, warum eine automatisierte Entscheidung gegen sie ausgefallen ist. „Unternehmen befinden sich in einer besseren Position als die Nutzer.“ Deshalb könne es nicht Aufgabe der betroffenen Person sein, allein nachzuweisen, dass eine Entscheidung diskriminierend war. „Man kann nicht dem Empfänger einer Entscheidung die Last aufbürden, nachzuweisen, dass die Anwendung diskriminierend war.“ Wer das Gefühl habe, aufgrund eines automatisierten Systems benachteiligt worden zu sein, solle das ansprechen: „Wenn ihr den Eindruck habt, dass eine Entscheidung euch diskriminiert hat, meldet euch zu Wort. Macht euch keine Sorgen darüber, dass ihr es beweisen müsst: Sucht jemanden mit technischer Kompetenz, der euch dabei helfen kann herauszufinden, ob es Anhaltspunkte für eine mögliche Diskriminierung gibt.“ Dafür brauche es mehr Wissen über KI in der Gesellschaft. „Es ist entscheidend, dass die Zivilgesellschaft ein breites Angebot an Wissen hat.“ 

KI kann gegen Diskriminierung helfen

Die Technologie müsse allerdings nicht zwangsläufig zum Problem werden. Sie könne auch dazu beitragen, Benachteiligungen zu erkennen. „Alles hängt davon ab, wie man sie schreibt und wie man sie nutzt.“ Als Beispiel nennt Di Carlo ein niederländisches Unternehmen, das Stellenanzeigen mithilfe von KI innerhalb weniger Minuten auf diskriminierende Formulierungen untersucht. Auch für ältere LGBTIQ+-Menschen könne KI eine wichtige Rolle spielen. Gerade Menschen, die allein leben, könnten von digitalen Assistenzsystemen profitieren.

Als EDGE 2021 mit der Arbeit begann, gab es laut Di Carlo nur sehr wenige Untersuchungen zu algorithmischen Verzerrungen gegenüber LGBTIQ+-Menschen. Inzwischen sei die Aufmerksamkeit gestiegen. Dennoch bleibe viel zu tun. Statistische Systeme hätten ein grundsätzliches Problem mit kleinen Gruppen, weil diese in den Trainingsdaten weniger stark vertreten seien. Bei großen Sprachmodellen kommt laut Di Carlo noch hinzu, dass selbst die Entwickler nicht sämtliche Eigenschaften ihrer Modelle kennen. Deshalb sei eine kontinuierliche und anspruchsvolle Kontrolle notwendig. Auch der europäische AI Act spielt in diesem Zusammenhang eine Rolle. Je nach Art des Systems gelten unterschiedliche Anforderungen und Schutzvorgaben, die schrittweise in Kraft treten. Seine zentrale Botschaft lautet: „Ein System, das diskriminiert, ist ein System, das nicht funktioniert.“

Wird KI zum existenziellen Risiko?

Wie weit die Sorgen über künstliche Intelligenz inzwischen reichen, zeigt ein anderer Fall: Der Anthropic-Forscher Evan Hubinger, Alignment Science Lead des Unternehmens hinter dem KI-System Claude, warnt vor einem Szenario, das weit über algorithmische Diskriminierung hinausgeht. Auslöser war der Rücktritt des Anthropic-Mitarbeiters Jacob Coxon. Dieser hatte erklärt, weder Anthropic noch OpenAI handelten verantwortungsvoll. Coxon schrieb: „Die Menschen, die KI entwickeln, glauben ernsthaft, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte. Das ist kein Marketing-Gag.“

Und weiter: „Das werden bald übermenschliche Systeme sein, die alles hacken, jedes Fachgebiet über Nacht revolutionieren und echte Macht und Ressourcen erlangen können.“ Hubinger antwortete: „Jacob hat hier recht – wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte! Persönlich glaube ich, dass die Wahrscheinlichkeit innerhalb des kommenden Jahrzehnts bei mehr als zehn Prozent liegt.“ Das Risiko durch die heute existierenden Modelle schätze er zwar als niedrig ein. Sorgen bereiteten ihm jedoch die rasanten Fortschritte und mögliche Fähigkeiten zur Selbstverbesserung.

Zugleich räumte Hubinger ein: „Ich glaube, Anthropic versucht sein Bestes, aber wir haben noch keinen Plan, um das Alignment einer Superintelligenz zu lösen, und sind auch nicht eindeutig auf dem Weg dorthin.“ Die Aussagen lösten Kritik aus. Die Informatikerin Dame Wendy Hall, die auch die Vereinten Nationen zu KI berät, zeigte sich nach Angaben der BBC schockiert. Unterdessen hatten bereits im Juli mehr als 1.300 Beschäftigte von KI-Unternehmen einen offenen Brief unterzeichnet. Darin forderten sie die US-Regierung auf, eine internationale Initiative zu unterstützen, um die Entwicklung sogenannter Frontier-KI bewusst zu verlangsamen.