Künstliche Intelligenz neu denken – aus indigener Perspektive

Eine kürzlich gegründete Initiative erforscht neue Ansätze zum Aufbau ethischer KI-Systeme – aus indigener Perspektive. Eine faszinierende und wichtige Arbeit.

Autor Ciannait Khan:

Übersetzung Ciannait Khan, 12.01.21

Künstliche Intelligenz ist keine futuristische Fantasie mehr: Sie ist fester Bestandteil unseres Alltags, von den Suchmaschinen, die wir nutzen, bis hin zu automatischen Übersetzungsprogrammen und Spracherkennungs-Apps. Aber auch in der Polizeiarbeit, bei Bewerbungsverfahren, im Finanz-, Bildungs- und Gesundheitssektor werden die intelligenten Algorithmen eingesetzt. Mitunter entscheiden Algorithmen dabei darüber, wer einen Bankkredit erhält, welche Art der medizinischen Versorgung ein Patient bekommt und wer eingestellt wird. Diese Art von Entscheidungen haben enorme Konsequenzen nicht nur für Einzelne, sondern auch für unsere Gesellschaft als Ganzes.

KI wird nicht verschwinden und ihr Einfluss auf unser Leben wird nur noch größer werden – und viele schlagen Alarm wegen der besonderen Risiken, die KI für marginalisierte Gruppen mit sich bringen kann. Umso wichtiger ist daher auch die Arbeit der Indigenous Protocol and Artificial Intelligence Working Group. Die Gruppe, die indigene Völker aus allen Teilen der Welt zusammenbringt, beschäftigt sich kritisch mit der Frage, wie indigene Perspektiven eine ethischere und gerechtere Entwicklung von KI unterstützen können.

Die Gruppe, die letztes Jahr zwei Workshops abhielt, hat kürzlich ein Paper veröffentlicht, das sich mit den vielen heiklen Fragen rund um die Beziehung indigener Völker zu KI auseinandersetzt. Darin kommen viele Stimmen zu Wort, die versuchen, sich eine Zukunft mit KI vorzustellen, die „zum Gedeihen aller Menschen und Nicht-Menschen beiträgt“.

Eine Chance, mitzubestimmen, wie Technologien entwickelt werden

Suzanne Kite, Oglála-Lakȟóta-Künstlerin und Mitwirkende am Positionspapier der Gruppe, ist überraschend optimistisch. „Wir haben jetzt die Chance, zum ersten Mal in der Geschichte dazu befragt zu werden, wie wir unsere Technologien aufbauen wollen“, sagt sie. Kite spricht natürlich nicht für die gesamte Gruppe. Vielfältigkeit ist genau das, worum es bei diesem Projekt geht. Es wird keine einheitliche „indigene“ Perspektive geboten, sondern verschiedenste Erkenntnisse aus Australien, Aotearoa (auch bekannt als Neuseeland) und dem Pazifik bis hin zu Nordamerika zusammengebracht.

Die Beiträge spiegeln eine reiche Vielfalt wider. Aber viele sind hoffnungsvoll. So hat Scott Benesiinaabandan, ein Anishinaabe-Künstler aus Kanada, in einem aktuellen Beitrag im Blog des Projekts erörtert, wie KI eingesetzt werden kann, um gefährdete indigene Sprachen zu bewahren oder indigene Land- und Wassernutzung zu schützen.

Ein Großteil der medialen Berichterstattung rund um KI in den letzten Monaten zeichnet jedoch ein weniger optimistisches Bild. Seit die Black-Lives-Matter-Proteste in den USA wüten, hören wir viel über den Einsatz von KI in der Gesichtserkennung – ein Werkzeug, das zunehmend von der Polizei zur Überwachung von Menschenmengen bei Protesten eingesetzt wird. „KI wird als Werkzeug gegen Menschen eingesetzt, gegen Ureinwohner, gegen Schwarze, und so sind unsere Bedenken dort gegenseitig“, sagt Kite. Die strenge Überwachung der Teilnehmer an politischen Protesten ist an sich schon sehr beunruhigend. Aber darüber hinaus hat sich das Bewusstsein für die Vorurteile, die KI-Anwendungen zugrunde liegen können, auf der ganzen Welt verbreitet. Prominente Fälle, in denen Schwarze von der Polizei falsch identifiziert wurden, haben in den USA Empörung ausgelöst, und der Komiker John Oliver widmete dem Thema sogar eine Folge seiner beliebten wöchentlichen Show.

Das Positionspapier von Indigenous AI befasst sich ebenfalls mit diesen erschütternden Fragen. In einem der einleitenden Essays geht Dr. Hēmi Whaanga der Frage nach, ob KI einfach ein „neuer Kolonisator“ ist. Dr. Whaanga führt Cambridge Analytica und die Ausbeutung der Daten von Menschen als ein Beispiel für modernen Kolonialismus an und erklärt, dass „diese Art von skrupellosem Verhalten bestehende gesellschaftliche Vorurteile verschärft, Ungleichheiten vertieft und zum Verfall des Vertrauens in der Gesellschaft beiträgt.“

Die Dichotomie zwischen Mensch und Natur neu denken

Die Herausforderungen, die KI mit sich bringt, sind nicht von der Hand zu weisen. Gleichzeitig wird deutlich, dass viele Autor*innen des Papers KI auch als Chance sehen. „Ich denke, das Wichtigste an dem Positionspapier ist, dass es nicht nur kritisch ist. Es ist fruchtbar“, sagt Kite. „Eines der Probleme, die ich mit KI-Kritik habe, ist, dass es viel Kritik und sehr wenig Lösungsvorschläge gibt. Und ich habe das Gefühl, dass unser Paper fast nur Lösungsvorschläge enthält.“

Für Kite, deren Beitrag sich mit ethischem Design beschäftigt, bietet KI eine Möglichkeit, über Menschen und Nicht-Menschen anders nachzudenken. „In den Ontologien der Lakota legen wir den Schwerpunkt auf Beziehungen zu Nicht-Menschen, insbesondere zu Steinen“, erklärt sie. Es ist nicht schwer, sich vorzustellen, wie KI-Ansätze mit dieser weniger anthropozentrischen Sichtweise einhergehen könnten. „KI ist ein wirklich guter Ort, um sich vorzustellen, dass Nicht-Menschen einen Willen haben und Entscheidungen treffen können“, sagt Kite. „KI regt die Vorstellungskraft der Menschen an. Sie erlaubt ihnen, ihre eigene Persönlichkeit zu erweitern.“

Die Aussicht auf neue und andere Intelligenzen hat uns schon lange dazu veranlasst, unsere eigene Menschlichkeit und ihren Platz in der Welt neu zu überdenken. Geschichten von fiktionalen Robotern, von Terminator über Blade Runner bis hin zu Wall-E, haben schon immer eine große Resonanz beim Publikum hervorgerufen. Jetzt, da KI nicht mehr nur in Science-Fiction-Filmen vorkommt, ist es an der Zeit, diese Ideen in die Praxis umzusetzen. Eine solche neue Vorstellung von uns selbst kann Auswirkungen auf die Umwelt und die Welt um uns herum haben – und zwar positive. In Anlehnung an die Werte der Lakota erklärt Kite, dass sie KI nicht nur als digital, sondern auch als extrem materiell ansieht, da alle für das System benötigten Materialien von irgendwoher abgebaut werden müssen. „Sie müssen recycelt werden. … Sie haben ein Leben und müssen irgendwo hingehen, nachdem sie benutzt wurden.“

Wir alle müssen lernen, gut mit der KI zu leben, denn sie wird sich immer mehr damit verflechten, wie unsere Gesellschaft funktioniert. Daher sind die Diskussionen, die das Projekt Indigenous AI anstößt, so wertvoll. Wie Kite es ausdrückt: „Wir müssen uns entscheiden – wenn wir daran interessiert sind, Gott zu spielen und ein neues Wesen zu erschaffen, mit welcher Ethik wollen wir das dann tun?“

Wie kann KI im Umwelt- und Klimaschutz wirkungsvoll eingesetzt werden? Welche spannenden Projekte gibt es? Was sind die sozial-ökologischen Risiken der Technologie und wie sehen Löungen aus? Antworten und konkrete Handlungsempfehlungen geben wir in unserem Greenbook(1) „KI und Nachhaltigkeit – Können wir mit Rechenleistung den Planeten retten?“.

Dieser Artikel ist eine Übersetzung von Sarah-Indra Jungblut. Das Original erschien zuerst auf unserer englischsprachigen Seite.

greenbook_blog_2_hd
©
RESET-Publikation: Künstliche Intelligenz – Können wir mit Rechenleistung unseren Planeten retten?

Die Entwicklungen im Bereich der Künstlichen Intelligenz sind in voller Fahrt. Aber haben die intelligenten Computerprogramme auch Antworten auf drängende Herausforderungen im Umwelt- und Klimaschutz? Gibt es KI-Anwendungen, denen wir vertrauen können? Und wie sieht es eigentlich mit der Ökobilanz von KI aus? In unserem Greenbook(1) haben wir uns auf die Suche nach Antworten auf diese Fragen begeben.

Soziale „Tipping Points“ könnten entscheidende Hebel im Kampf gegen den Klimawandel sein

Laut einer Studie könnten soziale "Tipping Points", auch Kipppunkte genannt, weitreichende gesellschaftliche Veränderungen anstoßen und so den Klimawandel eindämmen.

bildschirmfoto_2020-10-02_um_14
© Torge Peters/ Studio Nørden
Infografik: Künstliche Intelligenz im Umwelt- und Klimaschutz – wie passt das zusammen?

Wir stehen vor einer Herkulesaufgabe: Das 1,5°C-Ziel erreichen und unseren Planeten vor dem Klimakollaps bewahren. Kann KI dabei helfen? Einen schnellen und übersichtlichen Einstieg ins Thema gibt unsere neue Infografik.

klima_2_kopie
© Torge Peters/ Studio Nørden
Policy Brief: Handlungsempfehlungen und konkrete Maßnahmen für den nachhaltigen Einsatz von KI

Künstliche Intelligenz kann auch Lösungen für drängende Herausforderungen im Umwelt- und Klimaschutz bieten. Doch dabei dürfen sozial-ethische und ökologische Aspekte in den Anwendungen nicht außer Acht gelassen werden. In einem Policy Brief fassen wir diese zusammen.

Google-KI hilft beim Schutz von Wildtieren – und wirft ethische Fragen auf

Ein neues Tool von Google setzt KI dafür ein, mehr Wissen über Wildtiere zu sammeln, um das weltweite Artensterben aufzuhalten. Aber das Projekt, das Fotos aus Kamerafallen analysiert, wirft auch ethische Fragen auf.

©
Amnesty Decoders: Online-Aktivist*innen decken mit KI Menschenrechtsverletzungen im Sudan auf

Mit seinem Decoder-Programm will Amnesty International Menschenrechtsverletzungen und Umweltschäden aufdecken – unterstützt von intelligenten Computerprogrammen und Tausenden digitalen Freiwilligen. RESET sprach mit der Leiterin von Amnesty Decoders, Milena Marin, über das Projekt „Decode Darfur“ im Sudan.

Interview: Climate Change AI – Forschung an der Schnittstelle von KI und Klimawandel

Unter dem Namen „Climate Change AI“ haben sich Forschende zusammengeschlossen, die sich für den Einsatz von maschinellem Lernen zur Bewältigung der Klimakrise engagieren. Wir sprachen mit der Vorsitzenden Lynn Kaack.

Interview: Können wir Künstlicher Intelligenz vertrauen?

Wie können wir KI-basierte Systeme so gestalten, dass ihr Einsatz dem Gemeinwohl nützt? Wir sprachen mit Kristina Penner von AlgorithmWatch über algorithmische Bias und Diskriminierungspotenziale von KI, aber auch über Transparenz und Teilhabe.

Künstliche Intelligenz und Drohnen zum Schutz des Regenwaldes

Der Erhalt des Regenwaldes ist seit den verheerenden Bränden im Amazonas wieder stärker in den Fokus gerückt. Um illegale Waldrodungen zu erkennen und zu verhindern, können neue Technologien helfen: selbstlernende Algorithmen, Satelliten- und Drohnenaufnahmen sowie Blockchain-basierte Smart Contracts.