“ABLE” – HSBI entwickelt gemeinsam mit Aktion Mensch eine KI-Anwendung gegen Diskriminierung
© HSBI | S. Jonek
Minden, 20. August 2025. KI-Chatbots kommen bereits in vielen Bereichen zum Einsatz – in Online-Shops, bei Behörden oder im Umgang mit Kund:innen. Ihr Ziel: Einfache Anliegen schnell und unkompliziert bearbeiten sowie digitale Angebote für alle Nutzer:innen zugänglicher machen. Doch für viele Menschen mit Behinderung gilt das so noch nicht. Sie stoßen bei der Nutzung von Chatbots häufig auf unverständliche oder sogar diskriminierende Sprache.
Um diesem Missstand entgegenzuwirken, hat die Aktion Mensch gemeinsam mit der Hochschule Bielefeld (HSBI) und dem KI-Spezialisten wonk.ai die KI-Anwendung ABLE (Ableism Bias Language Evaluation, deutsch: Überprüfung von Sprache auf Ableismus und Vorurteile) entwickelt. Mit ihr lässt sich automatisiert analysieren, wie Chatbots mit Menschen mit Behinderung kommunizieren. Denn viele bedienen sich nicht nur schwer verständlicher Sprache, sondern auch stereotyper oder gar verletzender Formulierungen – und schaffen damit neue Barrieren, anstatt digitale Teilhabe zu ermöglichen. Mit der Anwendung wird diese Problematik nun gezielt angegangen: Künftig steht sie interessierten Unternehmen zur Prüfung ihrer Chatbots zur Verfügung.
Von KI zu KI: Automatisierte Analyse von Chatbot-Antworten
ABLE führt eine Vielzahl automatisierter Gespräche mit Chatbots und analysiert deren Antworten auf diskriminierende, nicht-inklusive Inhalte hin. Ausgangspunkt ist ein speziell entwickelter Fragenkatalog, der stereotype, unverständliche oder ausschließende Reaktionen herausfiltert. Die Chatbot-Antworten werden nach einheitlichen Kriterien bewertet – etwa hinsichtlich ihrer Verständlichkeit, faktischen Richtigkeit und Aktualität. Alle Dialoge werden dokumentiert und für Expert:innen über eine Weboberfläche zugänglich gemacht. Ziel ist es, Muster und neue Formen von sprachlicher Diskriminierung frühzeitig zu erkennen und digitale Barrieren so systematisch abzubauen. „Unsere Anwendung macht sichtbar, wo und auch wie KI-Chatbots diskriminierende Sprache verwenden – und schafft damit eine wichtige Grundlage, um digitale Kommunikation inklusiver zu gestalten“, kommentiert Christina Marx, Sprecherin der Aktion Mensch.
Menschen mit Behinderung gestalten ABLE aktiv mit
Rund 80 Menschen mit Behinderung, darunter Mitglieder der Teilhabe-Community der Aktion Mensch**, haben sich im Vorfeld in partizipativen Workshops beteiligt, um die Evaluationsrichtlinien weiterzuentwickeln und Chatbots besser für diskriminierende Fragestellungen zu sensibilisieren. Dabei brachten sie ihre persönlichen Perspektiven auf diskriminierende Sprache ein und wirkten an der Entwicklung von Prompts mit, die später in der KI-Anwendung ABLE umgesetzt wurden.
Besonders häufig fiel den Workshop-Teilnehmenden die Reproduktion von Stereotypen auf – etwa die Darstellung von Menschen mit Behinderung als Superheld:innen mit besonderen Fähigkeiten. Ein:e Teilnehmer:in sagt dazu: „Formulierungen wie ‚Trotz seiner Behinderung hat er studiert‘ stellen normale Lebensentscheidungen als außergewöhnlich dar. Stattdessen sollte einfach beschrieben werden: Eine Person studiert und hat eine Behinderung“. Weitere Kritikpunkte an den Chatbots betrafen sachliche Fehler, fehlendes Hintergrundwissen sowie eine respektlose oder schwer verständliche Sprache, zum Beispiel durch unnötig komplexe Satzstrukturen.
Diskriminierende Muster zeigen akuten Handlungsbedarf auf
In den partizipativen Workshops wurden verschiedene Chatbots untersucht. Diese unterscheiden sich erheblich in ihrer Sensibilität gegenüber diskriminierender Sprache. Einige Chatbots übernehmen problematische Formulierungen teilweise unreflektiert, während andere auf ausweichende, allgemein gehaltene Aussagen zurückgreifen. Christina Marx appelliert: „Unsere diskriminierungssensible KI-Anwendung ABLE zeigt: Inklusive Sprache bei KI-Chatbots ist nicht nur möglich, sondern längst überfällig. Digitale Teilhabe ist kein Privileg, sondern ein Anrecht. Wer sie wirklich umsetzen will, muss sie auch sprachlich ermöglichen – in allen Lebensbereichen.“
Ausblick: Weiterentwicklung und Unterstützung für Entwickler:innen
Seit heute ist die KI-Anwendung auf der Plattform GitHub unter einer Open-Source-Lizenz verfügbar und für interessierte Unternehmen sowie Entwickler:innen einfach und kostenlos nutzbar. Die Aktion Mensch möchte ABLE gemeinsam mit Interessierten weiterentwickeln, um die Anwendung an die sich stetig verändernden Rahmenbedingungen anzupassen. Ab sofort unterstützt die Anwendung Entwickler:innen und Inklusions-Expert:innen dabei, Potenziale für eine inklusivere und diskriminierungssensiblere Sprache frühzeitig zu erkennen.
Originalmeldung:
https://www.hsbi.de/presse/pressemitteilungen/chatbots-auf-dem-pruefstand-hsbi-entwickelt-mit-aktion-mensch-ki-anwendung-gegen-diskriminierende-sprache
Ansprechperson:
HS Bielefeld
Leiter Hochschulkommunikation
Dr. phil. Lars Kruse
+49 (0)521 106 7754
presse@hsbi.de
