Buch lesen: "Mensch und Künstliche Intelligenz"
Nicole Brandstetter, Ralph-Miklas Dobler,
Daniel Jan Ittstein (Hg.)
Mensch und Künstliche Intelligenz
Herausforderungen für Kultur, Wirtschaft und Gesellschaft
Umschlagabbildung: © Sylverarts Vectors · shutterstock
Bibliografische Information der Deutschen Nationalbibliothek
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über <http://dnb.dnb.de> abrufbar.
Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt.
Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes ist ohne Zustimmung des Verlages unzulässig und strafbar. Das gilt insbesondere für Vervielfältigungen, Übersetzungen, Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen.
© UVK Verlag München 2021
– ein Unternehmen der Narr Francke Attempto Verlag GmbH + Co. KG Dischingerweg 5 · D-72070 Tübingen
Internet: www.narr.de
eMail: info@narr.de
ISBN 978-3-7398-3115-2 (Print)
ISBN 978-3-7398-8115-7 (ePDF)
ISBN 978-3-7398-0132-2 (ePUB)
Vorwort
Künstliche Intelligenz als Zukunftstechnologie verändert und beeinflusst bereits heute weite Bereiche des täglichen öffentlichen und privaten Lebens. Smarte Applikation, Cloud-Dienste und selbstlernende Systeme verändern und beeinflussen unsere Handlungen, Interaktionen und Wahrnehmungen. Damit einher gehen Veränderungen im sozialen Gefüge, im Menschenbild der digitalisierten Kulturen mit einer nie gekannten Geschwindigkeit, die sowohl zu Begeisterung und Euphorie als auch zu Angst und Unsicherheit bezüglich möglicher Auswirkungen und Kontrollfragen führen. Nicht nur weite Bereiche der Arbeitswelt befinden sich mitten in der Transformation, sondern auch unsere tägliche Kommunikation, Freizeitgestaltung und Alltag werden bewusst und unbewusst beeinflusst und verändert.
Für eine nachhaltige Betrachtung bedarf es einer interdisziplinären Perspektive, um die Komplexität des Phänomens sowie die Herausforderungen für Kultur, Wirtschaft und Gesellschaft zu erfassen. Die vernetzte digitale Welt kann nur in einem ebenso vernetzten Diskurs zwischen diversen Horizonten gestaltet werden. Wenn hierbei Unterschiede und Widersprüche zutage treten, dann sind sie essentieller Bestandteil des Erkenntnisgewinns.
Das vorliegende Buch möchte hierzu einen Beitrag leisten. Wissenschaftler*innen aus verschiedenen Disziplinen – Informatik, Bild- und Medienwissenschaften, Kulturwissenschaften, Wirtschaftswissenschaften, Literaturwissenschaften – nähern sich dem Phänomen und beleuchten Aspekte der Künstlichen Intelligenz, um programmatisch eine polyfokale und facettenreiche Diskussion zu unterstützen, ohne die eine dauerhafte und sinnvolle Anwendung von Künstlicher Intelligenz sowie deren gesellschaftliche Akzeptanz kaum gelingen dürfte.
Das Buch entstand aus einer interdisziplinären Vortragsreihe zum Thema „Künstliche Intelligenz Interdisziplinär“, zu der Kolleg*innen, Wissenschaftler*innen, Forscher*innen, Interessierte und Student*innen mit Vorträgen, Diskussionen und Ideen beitrugen. Wir möchten uns für die fruchtbaren Debatten, kontroversen Ansichten und inspirierenden Gedanken herzlich bedanken. Darüber hinaus sind wir zahlreichen Kolleg*innen aus der Wissenschaft sowie Partner*innen aus der Praxis für Hinweise und Diskussionsbeiträge zu Dank verpflichtet.
München, im Oktober 2021
Nicole Brandstetter Ralph-Miklas Dobler Daniel Jan Ittstein
Inhalt
Vorwort
Gudrun Schiedermeier
1Diskriminierende Systeme – Rassismus und Frauenfeindlichkeit in KI-Systemen
1.1Einleitung
1.2Definition Diskriminierung
1.3Rassismus in KI-Systemen
1.3.1Algorithmus zur Einschätzung der Rückfallwahrscheinlichkeit von Strafgefangenen
1.3.2Bewertungssysteme für Bewerber*innen
1.3.3Entscheidungssystem zur Kategorisierung von Arbeitslosen
1.3.4Fehlerhafte Klassifizierung durch Bildererkennung
1.3.5Vorurteile in Sprachmodellen
1.4Mögliche Quellen von Diskriminierung
1.5Frauenfeindlichkeit in KI-Anwendungen
1.5.1Sprachassistenz-Systeme
1.5.2Frauenfeindlichkeit in Sprachassistenz-Systemen
1.5.3Auswirkungen auf die Gesellschaft
1.5.4Empfehlungen
1.5.5Männliche Berufsbezeichnung bei maschineller Übersetzung
1.6Ansatzpunkte für diskiminierungsfreie Software-Entwicklung
1.6.1Diversitäre Entwicklerteams
1.6.2EqualAI Initiative
1.6.3Empfehlungen der AG3der Plattform Lernende Systeme
1.7Fazit
1.8Literaturverzeichnis
Josephine D'Ippolito
2Künstliche Intelligenzen im Film
2.1Einführung
2.2Ausgewählte Filmbeispiele zu KI im Film
2.2.1Maschinen-Mensch in Fritz Langs Metropolis (1927)
2.2.2Die Stepford-Frauen in Forbes Stepford Wives (1975) und Ozs Stepford Wives (2004)
2.2.3Die Nexus 6Replikanten in Scotts Blade Runner (1982)
2.2.4T-800in Camerons Terminator (1984)
2.2.5Die Mechas in Spielbergs A. I. – Artificial Intelligence (2001)
2.2.6Wall·E in Pixars Wall·E (2008)
2.2.7Mutter in Sputores I am Mother (2019)
2.3Zusammenfassung
2.4Literaturverzeichnis
Ralph-Miklas Dobler
3„Künstliche Intelligenz“ als Simulation und als Simulakrum
3.1Simulation
3.2Simulakrum
3.3Vertrauen
3.4Empathie
3.5Idolatrie
3.6Künstliche Intelligenz als sozialer Akteur
3.7Literaturverzeichnis
Jens Schröter
4KI und die Wissenschaften. Das Beispiel der Teilchenphysik
Philip Hauser
5Virtuelle Spielfelder als Begegnungsorte von Menschen und Computern
5.1Virtuelle Spielwelten
5.2Virtuelle Spielfelder
5.3Fazit
5.4Literaturverzeichnis
Nicole Brandstetter
6KI und Literatur: Gesellschaftsentwürfe und Zukunftsbilder
6.1Radikales Effizienzstreben
6.2Ökonomisierte Selbstoptimierung
6.3Entfesselte Fremdsteuerung
6.4Fazit
6.5Literaturverzeichnis
Daniel Jan Ittstein
7Rolle der Interkulturalität bei der Entwicklung, Etablierung und Verbreitung von KI-Geschäftsmodellen
7.1Künstliche Intelligenz agiert im kulturellen Kontext
7.2Interkulturalität als Wertschöpfungsfaktor
7.3Reziprozität zwischen künstlicher Intelligenz und Kultur
7.4KI und interkulturelle Kompetenz
7.5KI und Interkulturalität als Chance begreifen
7.6Literaturverzeichnis
Martin Hennig
8KI-Marketing und Gesellschaft
8.1Einleitung
8.2KI-Marketing und kulturelle Projektionen
8.2.1KI-Diskurse als Identitätsdiskurse
8.2.2Eine kurze Geschichte von KI im Film
8.3Marktsegmente
8.3.1Teamarbeit
8.3.2Sozialität
8.3.3Individuelle Arbeit, Familie und Freizeit
8.4Fazit
8.5Verzeichnis der Werbespots
8.6Literaturverzeichnis
Alicia Sommerfeld
9Zu den Rhetoriken Künstlicher Intelligenz
9.1Critical Algorithm Studies – Programm, Kritik und Verschiebung
9.2Rhetoriken Künstlicher Intelligenz
9.3Rhetoriken Künstlicher Intelligenz in sozialen Medien
9.4Fazit
9.5Literaturverzeichnis
Über die Autor*innen
1Diskriminierende Systeme – Rassismus und Frauenfeindlichkeit in KI-Systemen
Gudrun Schiedermeier
1.1Einleitung
Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie. Die Bundesregierung hat mit der KI-Strategie 2018 und deren Fortschreibung 2020 die Grundlage geschaffen, um Deutschland an die Weltspitze der Forschung und Anwendung von künstlicher Intelligenz zu bringen. [1]
Die Europäische Kommission veröffentlichte im Februar 2020 ein Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen. „Daten und künstliche Intelligenz bieten potenzielle Lösungen für viele gesellschaftliche Probleme auf Gebieten, die vom Gesundheitswesen über Landwirtschaft und Sicherheit bis zur industriellen Fertigung reichen. Diese Lösungen kommen allerdings nur infrage, wenn die Technologie so entwickelt und genutzt wird, dass die Menschen Vertrauen zu ihr haben. Um dieses Vertrauen zu stärken, stützt sich die Strategie der EU auf Grundwerte und erhöht damit nicht nur die Akzeptanz KI-basierter Lösungen bei den Bürgerinnen und Bürgern, sondern spornt auch Unternehmen zu deren Entwicklung an.“ [2] Das Thema ist in der Politik angekommen. KI ist gekommen und wird wohl bleiben.
Viele Firmen (z.B. Google [3]), Fachorganisationen wie die Gesellschaft für Informatik [4] und NGOs haben in den letzten Jahren ethische Leitlinien veröffentlicht. Ob und inwieweit diese freiwilligen Vereinbarungen nützlich und ausreichend sind, darauf wird später noch eingegangen.
Anwendungen und Produkte mit künstlicher Intelligenz beeinflussen bereits den Alltag von Millionen von Menschen, z.B. durch die Verwendung von Sprach-Assistenten oder durch Optimierung beim Onlineshopping. KI-Tools und -Dienste haben erheblichen Einfluss auf menschliche Schicksale: Sie beraten Ärzte bei medizinischen Behandlungen, entscheiden über Kredite, geben Empfehlungen beim Anwerben von Mitarbeitern, beim Wiedereingliedern von Arbeitslosen in den Arbeitsmarkt oder machen Vorhersagen über die Rückfälligkeit von Straftätern, um nur einiges zu nennen. Viele dieser Systeme zielen auf eine größere Objektivität, als man sie von menschlichen Entscheidern in der Vergangenheit erwarten konnte. Einige dieser Systeme erfüllen durchaus ihren Zweck. Als positives Beispiel sei eine Mitteilung in der Ärzte-Zeitung aus 2019 zur Erkennung von Hautkrebs mittels KI-Algorithmen genannt. In einer Untersuchung traten 157 Hautärzte aus zwölf Universitätskliniken in Deutschland gegen Computer an: Sowohl die Ärzte als auch der eigens programmierte Algorithmus beurteilten dabei 100 Bilder danach, ob es sich um ein Muttermal oder um schwarzen Hautkrebs handelt. Am Ende war der Algorithmus präziser als die klinische Diagnostik, wie das Nationale Zentrum für Tumorerkrankungen Heidelberg mitteilte. [5]
Mittlerweile ist aber bekannt, dass mehrere KI-Algorithmen z.B. Menschen mit dunkler Hautfarbe oder aufgrund des Geschlechts diskriminieren, z.B. die Bewerbungen von Frauen systematisch aussortieren. Beispiele folgen in Kapitel 1.3.
1.2Definition Diskriminierung
Die nachfolgende Definition für das Wort „Diskriminierung“ stammt aus dem Whitepaper der AG3 der Plattform Lernende Systeme. Die Autorinnen und Autoren sind Mitglieder der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme. Als eine von insgesamt sieben Arbeitsgruppen thematisiert sie Fragen zur Sicherheit, Zuverlässigkeit und zum Umgang mit Privatheit bei der Entwicklung und Anwendung von Lernenden Systemen. Sie analysiert zudem damit verbundene rechtliche sowie ethische Anforderungen und steht in engem Austausch mit allen weiteren Arbeitsgruppen der Plattform Lernende Systeme. [6]
„Diskriminierung“ stammt vom lateinischen Wort „discriminare“ (unterscheiden) ab. Das Wort ist an sich neutral. Diskriminierung hilft Sachverhalte durch schnelle Unterscheidung einfacher zu erfassen. Zentral dabei ist, ob Unterscheidungen gerechtfertigt sind oder eben nicht. Diskriminierung im negativen Sinn liegt vor:
bei einer ungerechtfertigten Ungleichbehandlung von Gleichen oder
bei einer ungerechtfertigten Gleichbehandlung von Ungleichen.
Im Folgenden wird anhand von Beispielen die Diskriminierung durch Algorithmen verdeutlicht.
1.3Rassismus in KI-Systemen
1.3.1Algorithmus zur Einschätzung der Rückfallwahrscheinlichkeit von Strafgefangenen
Die staatlichen Gefängnisse in den USA sind überfüllt. Deshalb wurden Algorithmen entwickelt, die zur Einschätzung des Rückfälligkeitsrisikos von Strafgefangenen eingesetzt werden, und zwar dann, wenn über deren frühzeitige Entlassung verhandelt wird. Die dazu eingesetzte Software ist meistens COMPAS („Correctional Offender Management Profiling for Alternative Sanctions“).
COMPAS liefert Richter*innen einen Wert für die Wahrscheinlichkeit, mit der Angeklagte erneut straffällig werden. Das Problem dabei ist, dass die Algorithmen mit historischen Daten trainiert werden, die nicht auf kausalen Zusammenhängen, sondern auf statistischen Korrelationen beruhen. [8] Aufgrund dessen erhalten Menschen aus Bevölkerungsgruppen, die in der Vergangenheit für die Strafverfolgungsbehörden auffällig waren, z.B. ethnische Minderheiten oder Personen mit schlechterem finanziellen Status, schlechtere Prognosen und werden allein aufgrund der Zugehörigkeit zu einer bestimmten Bevölkerungsgruppe benachteiligt. Vorherrschende Verzerrungen werden also durch den Algorithmus kopiert und sogar verstärkt.
Die Hoffnung war ursprünglich, dass Algorithmen die Wahrscheinlichkeit, dass ein Verurteilter nach seiner Entlassung wieder straffällig wird, objektiver vorhersagen als Menschen. Nach einer Studie der Stanford University und der University of California in Berkeley kamen daran aber Zweifel auf. [7] Danach gelingt es weder Mensch noch Maschine besonders gut, das Rückfälligkeitsrisiko zu bestimmen. Das Team aus Stanford und Berkeley nahm sich einen Datensatz vor, der 7000 sogenannte COMPAS-Einschätzungen von nachgewiesenen Kriminellen enthielt. Daraus entstanden individuelle Profile. Diese wurden dann wiederum 400 Laien präsentiert. Deren Aufgabe war es einzuschätzen, ob die betroffene Person wieder eine Straftat begehen wird. Die Studie aus 2018 fand heraus, dass COMPAS in 65 Prozent der Fälle richtig lag, die Laien jedoch in 67 Prozent der Fälle. Die Software ist seitdem nicht unumstritten.
Kritisch sehen die Forscher das Image von COMPAS und anderen Computersystemen auch aus anderen Gründen. Während sich ungerecht behandelt fühlende Personen vergleichsweise gut begründet gegen Entscheidungen von Richter*innen vorgehen können, ist es viel schwieriger, sich gegen scheinbar objektive Algorithmen zu wenden.
Ein weiterer Kritikpunkt ist, dass Richter*innen, also Menschen, freiwillig die Entscheidung an die Maschine abgeben.
Neuere Studien insbesondere zu Predicitve Policing verdeutlichen, dass auch aktuelle, verbesserte Algorithmen Rassismus nicht verhindern. [9]
1.3.2Bewertungssysteme für Bewerber*innen
Amazon begann bereits 2014 mit der Entwicklung eines automatischen Bewertungssystems für Bewerber*innen. Die Hoffnung war damals, dass Software diskriminierungsfreier als menschliche Entscheider*innen arbeitet. Als Eingabe für das System wurden die Bewerbungsunterlagen der letzten zehn Jahre verwendet. Es ist darauf hinzuweisen, dass die erfolgreicheren Kandidaten in dieser Zeit zumeist Männer waren. Dem für das Lernen verwendeten statistischen Modell war das Geschlecht der sich bewerbenden Personen nicht bekannt. Trotzdem fand es Eigenschaften, die mit dem Geschlecht korrelierten, wie beispielsweise eine Mitgliedschaft im Frauen-Schach-Club oder Zeugnisse von Colleges, die nur Frauen zulassen. Das Entwicklerteam verbesserte zwar die beiden genannten Stellen. Das Projekt wurde letztlich aber fallen gelassen, weil niemand vorhersehen kann, welche Informationen ein KI-System findet und verknüpft. [10]
Wer sich in den USA auf eine Stelle bewirbt, führt inzwischen sehr oft das erste Vorstellungsgespräch mit einer KI. Anhand kurzer Videos sollen mittels Gesichtserkennung, genauer einer Gesichts- und Mimik-Analyse, die Persönlichkeitsmerkmale von Bewerber*innen bestimmt werden. Auch hier verspricht man sich durch KI eine objektivere und schnellere Auswahl geeigneter Kandidat*innen. Auch in Deutschland experimentiert eine Firma mit dieser Technologie. Eine exklusive Datenanalyse einer von BR-Journalist*innen getesteten KI zeigt jedoch, dass sich die KI von Äußerlichkeiten, wie dem Tragen einer Brille, durch unterschiedliche Outfits oder dem Hintergrund, beeinflussen lassen kann. [34] Für Katharina Zweig weisen diese Erkenntnisse auf eine bekannte Schwierigkeit hin: „Das grundsätzliche Problem mit der Face-Recognition, der Gesichtserkennung, durch Maschinelles Lernen ist, dass wir niemals ganz genau wissen, auf welches Muster in einem Bild diese Maschinen reagieren.“ [34] Die Skepsis gegenüber Software zur Personalauswahl ist in Deutschland noch weit verbreitet. Auch die in den USA eingesetzten Produkte sind mittlerweile bei KI-Experten in die Kritik geraten, da die Ergebnisse sehr undurchsichtig sind. Die KI kann den Zusammenhang zwischen Mimik und Emotionen nur erkennen, wenn sich die Menschen nicht verstellen. Dies passiert aber gerade in Bewerbungssituationen sehr häufig. Die US-Firma Hirevue nahm kürzlich ihre Video-Analyse-Software vom Markt. Es wurde festgestellt, dass die Erkenntnisse aus der Gesichts- und Mimik-Analyse nur schwach mit der Job-Performance zusammenhängen. [34]
1.3.3Entscheidungssystem zur Kategorisierung von Arbeitslosen
Der Arbeitsmarktservice Österreichs erprobte 2019 ein Entscheidungssystem, das Arbeitslose in drei Kategorien einteilen sollte, erstens solche mit guten Chancen schnell wieder in den Arbeitsmarkt zurückzukommen, zweitens solche mit sehr schlechten Chancen und drittens alle anderen. Weiterbildungsmaßnahmen sollten dann bevorzugt der dritten Kategorie zukommen. Für die Einordnung wurden Eigenschaften von Personen wie Geschlecht, Altersgruppe, Ausbildung, Berufsgruppe, gesundheitliche Beeinträchtigungen oder Betreuungspflichten verwendet. Aufgrund dieser Merkmale hatten es Frauen, Ältere, Behinderte, Ausländer oder Pflegende schwerer, wieder in den Arbeitsmarkt zu kommen, und landeten vorzugsweise in der Kategorie 2. Dieser Algorithmus ist wegen des hohen Schadenspoetenzials bei der Kategorisierung und damit der Zuteilung der Weiterbildungsmaßnamen, vor allem aber wegen der Monopolstellung des Arbeitsmarktservice als problematisch einzustufen. [33]
Die Erfahrung lehrt mittlerweile, wo vorher gerechtfertigte oder ungerechtfertigte Diskriminierung war, wird die Maschine diese Diskriminierung aus den Daten lernen und übernehmen.
1.3.4Fehlerhafte Klassifizierung durch Bildererkennung
Normalerweise erkennt Googles Bilderkennungs-Software auf Fotos Gesichter sehr gut, zuverlässiger als Menschen und kann diese Gesichter sogar gruppieren und die gleiche Person auf anderen Fotos wiederfinden. Es kommt höchst selten vor, dass Menschen nicht erkannt oder als Gegenstände wahrgenommen werden. Doch 2015 war der Fehler etwas prekärer als bei anderen falschen Zuordnungen. Der Algorithmus erkannte dunkelhäutige Menschen nicht als Personen, sondern ordnete diese der Kategorie Gorillas zu. [11]
Der Grund dafür ist, dass diese Systeme mit überwiegend hellhäutigen Menschen trainiert wurden. Die Bilderkennungssysteme wurden eben nicht auf alle Menschen trainiert, sondern mit Daten, die selbst bereits Diskriminierung beinhalten. Ein Algorithmus, oder eine Künstliche Intelligenz, lernt dann unvollständig oder das Falsche. Das System reproduziert diese Ungleichheit, indem es diskriminiert.
Diskriminierung und Rassismus in KI-Systemen können nach Meinung der Forscherin Joy Buolamwini bestehende Vorurteile verfestigen. Joy Buolamwini, eine Forscherin am MIT, veröffentlichte 2018 zusammen mit Timnit Gebru die Ergebnisse eines Forschungsprojekts. [12] In dem Artikel wird eindrucksvoll gezeigt, dass die Produkte von Microsoft, IBM und dem chinesischen Unternehmen Face++ wesentlich schlechter darin sind, das Geschlecht einer Person zu bestimmen, wenn es sich um Frauen handelt, vor allem Frauen mit dunkler Haut. Zu Testzwecken hielt Joy Buolamwini ihr eigenes Gesicht in die Kamera – und wurde von vielen Systemen erst erkannt, als sie sich eine weiße Maske aufsetzte.
