Unconscious Bias und KI – der Apfel fällt nicht weit vom Stamm 

Beim ersten Diversity Breakfast des Jahres, am 25.1.2024, mit weit über 100 interessierten Teilnehmer:innen wagten wir uns in die Welt der Künstlichen Intelligenz. Welche, durch Menschen erschaffen, ebenso keiner Immunität gegen Unconscious Bias unterliegt.

Für die ethische Betrachtung solcher technologischen Fortschritte ist es von Relevanz, nicht nur die Technologien zu verstehen, sondern auch ihre Wechselwirkungen mit den Personen, die sie verwenden oder von ihrer Anwendung betroffen sind. Daher wurde in diesem Diversity Breakfast zunächst ein Grundverständnis rund um Bias und das Entstehen von Bias gelegt, um im Anschluss die Brücke zur Künstlichen Intelligenz zu schlagen.

Als Einstieg in das Thema „Unconscious Bias und KI“ wurden den Teilnehmenden folgende Fragen zur Beantwortung gestellt.

• Wie häufig nutzt Du KI in der Arbeit?
  Das Ergebnis zeigt hier, dass die häufigste Angabe der Teilnehmer:innen „manchmal“ mit 30 % ist. „Sehr häufig“ wurde von 10 % der Teilnehmenden angegeben, während 18 % „niemals“ Künstliche Intelligenz in der Arbeit nutzen.
  
• Durch KI werden Bias insgesamt verringert/verstärkt/unverändert bleiben?
  Diese Frage wurde durch die Teilnehmenden sehr deutlich mit 80 % für „verstärkt“ beantwortet. Nur 6 % sind der Meinung, dass Künstliche Intelligenz Bias verringert.

Nach diesen Fragestellungen haben wir uns im ersten Impulsvortrag einem neuen Ansatz genähert und Unconcious Bias über die philosophische Perspektive betrachtet und mit KI in Verbindung gebracht. Dieser Annäherungsversuch wurde über folgendes Zitat gewagt.

„Das menschliche Bewusstsein ist zwar eine Form des Verstehens, aber zugleich auch immer eine Form der Ignoranz. Unser gewöhnliches, alltägliches Bewusstsein lässt mehr aus, als es aufnimmt.“

– Alan Watts

Es zeigt uns deutlich, dass uns nur ein Bruchteil unserer Realität bewusst ist und der Großteil der Verarbeitung unserer Eindrücke und … in unserem Unterbewusstsein passieren. Die Denkmuster, auf welche wir uns in der Bewertung von Situationen und bei Entscheidungen meist stützen, entstehen durch Erziehung, Erfahrungen, Medien und die Arbeitswelt und spiegeln sich in unserem Verhalten wider.

Weiters wurde der Bogen zur konstruktivistischen Bescheidenheit gezogen und als Ansatz vorgestellt, um mit Bias umzugehen. Konstruktivismus bedeutet, dass wir die Welt nicht so wahrnehmen wie sie ist, sondern unser Gehirn lediglich basierend auf sensorischen Reizen eine Wahrnehmung konstruiert. Diese hat häufig mehr mit unseren Vorannahmen gemein als mit der Realität an sich. Wir sehen eben die Welt nicht so wie sie ist, sondern wie wir sind. Da sich das nicht nur auf unsere visuelle, sondern auf unserer Gesamtwahrnehmung der Realität bezieht, sollten wir uns häufiger bewusst werden, dass wir immer nur einen kleinen Ausschnitt der Realität sehen und uns im Sinne der konstruktivistischen Bescheidenheit häufiger in Demut üben und unsere vorschnellen Urteile weniger ernst nehmen.

Thomas Jirku als Experte für Data Science und AI von IBM führte im zweiten Teil des Diversity Breakfasts aus, dass Algorithmen bereits von Anfang an biased sein können und dass es wichtig ist, Vorurteile sichtbar zu machen, um konstruktiv damit umzugehen. Als Beispiele dafür wurde die Studie über eine Fast-Food-Restaurantkette bis hin zu diskriminierenden KI-Anwendungen im Einstellungsprozess präsentiert.

Ein wichtiger Punkt war die Vorstellung von Lösungsansätzen. Dabei wurden Schritte wie Explainability, Fairness, Robustness und Transparenz als Schlüsselwerkzeuge herausgestellt, um mit Bias in KI umzugehen. Die betonten Prinzipien der Sensibilität im Umgang mit KI, die Fähigkeit, Transaktionen zu überwachen, Fairness zu gewährleisten, die Robustheit von KI zu fördern und Transparenz in den Entwicklungsprozessen zu schaffen, wurden als essenziell für eine verantwortungsbewusste KI-Nutzung betrachtet.

Im Anschluss war es uns ein Anliegen die Power und das Wissen unserer Breakfast-Community zu nutzen und folgende Fragestellung in Breakout-Sessions zu beantworten.

Was können wir tun, um Bias in der KI zu verringern?

Die Ergebnisse aus dem Austausch haben wir untenstehend noch einmal zusammengefasst, damit diese Ideensammlung eine Grundlage für weitere Diskussionen in diesem Bereich bilden kann.

Unsere Frühstücksspende

Die Teilnehmenden aus Wien wurden auf Wunsch wieder mit einem Frühstückspaket versorgt. Für alle anderen Teilnehmenden verwandeln wir das Frühstück diesmal in eine Spende an den Verein #thenewITgirls, ein Verein zur Förderung von Frauen in der IT.

#thenewITgirls sind ein 2019 gegründeter unabhängiger Verein zur Förderung von Frauen in der IT. Das Team aus Branchenexpertinnen arbeitet ehrenamtlich daran, die Branche für Frauen attraktiver zu gestalten, gesellschaftlich geprägte Vorurteile abzubauen, Diversität zu fördern und Frauen und Berufsbilder in der IT in Österreich und über die Grenzen hinaus sichtbar zu machen.

Wenn Sie individuell unterstützen möchten, tun Sie das bitte hier:
https://www.startnext.com/thenewitgirls-onboarding

Wir freuen uns auf weiteren Austausch bei unserem nächsten Event zum Thema „ESG: S-Faktor im Fokus“ und laden Sie herzlich ein zu unserem Diversity Lunchbreak am 14. März 2024 ein. Die Anmeldung ist ab sofort möglich. Melden Sie sich bitte direkt hier unten für unseren Newsletter an, dann erinnern wir Sie zeitgerecht an alle kommenden Termine.