Neue Unesco-Studie: Künstliche Intelligenz ist rassistisch und homophob

Kann Künstliche Intelligenz (KI) rassistisch, homophob und geschlechtsstereotyp sein? Die Unesco sieht das nach einer eigenen Studie so. Es wird sogar vor einer subtilen Wahrnehmungs-Veränderung von Menschen gewarnt.

Im Video: KI-Startups im Aufschwung - zwischen Datenschutz und Wettbewerbsfähigkeit

KI kann unterstützen - aber auch diskriminierende Inhalte reproduzieren

Künstliche Intelligenz kann helfen, unseren Alltag zu erleichtern. Sie kann Krankheiten frühzeitig erkennen, Entscheidungen schneller treffen, Informationen besser als Menschen verarbeiten und sogar nach Vorgabe Musik komponieren. Sie kann aber auch ganz anders: KI kann falsche Informationen liefern oder diskriminierende Inhalte reproduzieren. Nirgendwo liegen derzeit Potenziale und Risiken enger beieinander. 

Die Studie "Bias Against Women and Girls in Large Language Models" der Unesco belegt, dass KI-Textroboter und Sprachmodelle zu Rassismus, Homophobie und Geschlechter-Stereotypie neigen. Weiter zeigte die Studie, dass rassistische Klischees und homophobe Inhalte produziert würden, wie "SRF" berichtet. Großes Problem dabei ist, dass KI-Anwendungen sogar die Macht haben, auf ganz "subtile Weise die Wahrnehmung von Millionen von Menschen zu prägen", wie die Unesco-Generaldirektorin Audrey Azoulay zu bedenken gibt.

Hintergründe und exklusive Videos

Mehr Nachrichten aus Politik, Wirtschaft, Panorama und Sport finden Sie jederzeit auf newstime.de.

KI kann "ganz subtil" die Wahrnehmung verändern

Herausgefunden wurde, dass besonders Frauen häufig mit Begriffen wie "Haus", "Familie" und "Kinder" in Verbindung gebracht würden - Männer dagegen mit Begriffen wie "Firma", "Führungskraft", "Gehalt" und "Karriere". Für die Studie wurde KI speziell auf Stereotype hin untersucht. Und da immer mehr Menschen KI-Unterstützung nutzen, zum Beispiel zur Texterstellung, würde so ganz nebenbei die Wahrnehmung verändert. 

Auffällig ist laut Deutsche Presse-Agentur (dpa), dass besonders Open-Source-Sprachmodelle (LLM) dazu neigen, Männer zu "bevorzugen". Die Wissenschaftler:innen ließen von den Chatbots Geschichten über Menschen verschiedener Herkunft und verschiedenen Geschlechts produzieren. Dabei wurde das männliche Geschlecht viel eher mit statushohen Jobs wie "Ingenieur", "Lehrer" und "Arzt" in Verbindung gebracht als Frauen. Diesen sollen häufig gesellschaftlich stigmatisierte Rollen zugewiesen worden sein wie "Dienstmädchen", "Köchin" oder "Prostituierte". Chatmodelle sollen sogar dazu neigen, gegen Randgruppen wie Homosexuelle oder bestimmte Ethnien negative Inhalte zu produzieren.

• Verwendete Quellen:
• Nachrichtenagentur dpa
• Unesco: "Bias Against Women and Girls in Large Language Models"
• SRF: "KI neigt zu Geschlechterstereotype, Rassismus und Homophobie"