Amnesty Decoders: Online-Aktivist*innen decken mit KI Menschenrechtsverletzungen im Sudan auf

Mit seinem Decoder-Programm will Amnesty International Menschenrechtsverletzungen und Umweltschäden aufdecken – unterstützt von intelligenten Computerprogrammen und Tausenden digitalen Freiwilligen. RESET sprach mit der Leiterin von Amnesty Decoders, Milena Marin, über das Projekt „Decode Darfur“ im Sudan.

Autor RESET :

Übersetzung RESET , 26.05.20

Von dem andauernden Konflikt in der Region Darfur im Westsudan sind seit 2003 über drei Millionen Menschen betroffen. Jüngsten Berichten zufolge hat die Regierung sogar chemische Waffen gegen die Zivilbevölkerung eingesetzt. 2016 begann die Menschenrechtsorganisation Amnesty International im Rahmen seines Decoder-Projekts mit der Verfolgung der Schäden, die den Dörfern in Darfur zugefügt wurden.

Im Rahmen des Decoder-Programms können Freiwillige zu digitalen Menschenrechtsaktivist*innen werden, indem sie Amnesty International helfen, riesige Mengen digitaler Informationen zu sichten, verwertbare Daten aufzudecken, die Menschenrechtsverletzungen belegen, und die Kampagnen der Organisation unterstützen. Da die Daten aus einer wachsenden Zahl von Quellen stammen – von Nachrichten in den sozialen Medien bis hin zu Satellitenbildern und Luftaufnahmen – kommt den Decoder-Freiwilligen eine entscheidende Rolle dabei zu, die Unmengen an Datenmaterial in einen Kontext zu setzen.

Auf RESET haben wir bereits 2018 über ein Decoder-Projekt berichtet; damals werteten Freiwillige Dokumente und Bilder aus, um Umweltschäden durch Ölverschmutzungen im Nigerdelta zu identifizieren.

Im Rahmen des aktuellen „Decode Darfur“-Projekts sortiert ein Team von Freiwilligen Satellitenbilder von Darfur, um Angriffe zurückzuverfolgen und Beweise dafür zu finden, dass Zivilisten systematisch angegriffen wurden. Unterstützt durch eine einfache Online-Demo ist das Programm für jeden zugänglich, der ein digitales Gerät besitzt. Die über 6.000 Freiwilligen, die an dem Projekt arbeiten, sind rund um den Globus verteilt.

Seit kurzem bekommt das Projekt Decode Darfur weitere Unterstützung: Mithilfe von Verfahren des maschinellen Lernens sollen die Auswirkungen des gewalttätigen Konflikts im gesamten Sudan besser verfolgt werden können.

Warum Amnesty begann, KI einzusetzen

Als Amnesty International mit der Dokumentation des Konflikts in Darfur begann, musste zunächst jedes Dorf in der Region lokalisiert und identifiziert werden – die sudanesische Bevölkerung war bis dahin noch nicht genau erfasst worden. Die „Decoder“ von Amnesty durchsuchten daher Tausende von Nahaufnahmen von Satelliten nach bestimmten Hinweisen, wo sich Menschen aufhielten, wie zum Beispiel gerade Linien oder wiederkehrende Formationen. Im zweiten Teil des Projekts verglichen die Decoder dann Luftaufnahmen dieser Dörfer mit Bildern aus späteren Jahren, um herauszufinden, wann und wo die Zivilbevölkerung zu Schaden gekommen war. Dies war nur mit Hilfe von Freiwilligen möglich, wie Milena Marin, die Leiterin des Decoders-Projekts, erklärt:

„Obwohl wir einige Bildanalytiker haben, analysieren wir nie in großem Maßstab – es war also in dieser Hinsicht eine Premiere. Die Anzahl der Freiwilligen, die wir engagieren konnten, schränkte uns allerdings noch immer ein.“

Die Entscheidung, mehr aus Amnestys „Decode Darfur“-Daten zu machen, entstand 2016 in einem Treffen mit Ex-Google-Mitarbeiter Julien Cornebise. Laut Marin sagte Cornebise damals: „Ich glaube, Amnesty sitzt auf einer Goldmine aus Daten, und wenn ihr Freiwillige für diese Aufgaben ausbilden konntet, solltet ihr auch in der Lage sein, einen Algorithmus zu trainieren.“

Er schlug vor, die Daten aus den Trainingserfahrungen der Freiwilligen zu verwenden, um den Prozess des maschinellen Lernens zu unterstützen. In den folgenden zwei Jahren arbeitete Marin zusammen mit Cornebise daran, diese Idee zu verwirklichen. Dabei trainierten sie Algorithmen, die zuvor schon von Wissenschaftler*innen und NGOs verwendet worden waren, jedoch nie im Kontext von Menschenrechten.

Als sich Cornebise 2018 dem Startup Element AI anschloss, beschleunigte sich alles. Davor waren die Ressourcen der Decoder begrenzt, da sie Aufnahmen von Google Earth verwendeten, um bestimmte Gebiete in Darfur zu analysieren, oder sich auf öffentliches Bildmaterial stützten. Für die Dekodierung selbst stellte dies kein Problem dar – aber der Zugriff auf Daten für maschinelles Lernen war eine andere Sache. „Wir waren nicht in der Lage, das Projekt in vollem Umfang durchzuführen, weil wir dazu die Bilder herunterladen hätten müssen – und genau das konnten wir nicht“, erklärt Marin. Nachdem sie sich mit Element AI zusammengetan hatten, erhielten die Decoder Zugang zu herunterladbaren Satellitenbildern für ihre maschinellen Lernprozesse und konnten die Genauigkeit ihrer neuen Algorithmen verbessern. „Jetzt befinden wir uns in der Testphase; wir vergleichen die Genauigkeit des Algorithmus mit den Expertendaten.“

Damit half Element AI den Amnesty Decoders bei der Bewältigung ihrer bisher größten Herausforderung: dem Zugang zu Daten und Forschenden. Und obwohl sich Marin bewusst ist, dass das Startup die Art und Weise, wie es in Zukunft Pro-Bono-Partnerschaften durchführt, verändern könnte, machen Decoders jetzt das Beste aus der Unterstützung. „Wir könnten es uns nicht leisten, den vollen Satz für dieses High-End-Maschinenlernen in unserem Sektor zu bezahlen.“

Ausweitung des Decoder-Projekts im Sudan

Decode Darfur ist das bisher größte Projekt von Amnesty Decoders: 6.438 Freiwillige haben sich zusammengetan, um auf einem Gebiet von 326.000 Quadratkilometer Menschenrechtsverletzungen aufzudecken. Der Einsatz von maschinellem Lernen kann das Potenzial der starken Freiwilligenbasis des Projekts noch zusätzlich erweitern. KI macht es einfacher, die riesigen Datenmengen zu verarbeiten, die die Forscher*innen von Amnesty gesammelt haben, und so viel mehr Gebiete abzudecken und ihre Arbeit auf das ganze Land auszudehnen.

Marin berichtet RESET, dass die Decoder trotz begrenzter Budgets und der Partnerschaft mit Unternehmen, die andere kommerzielle Prioritäten haben, Fortschritte bei der KI gemacht haben. Daraus ist sogar eine Forschungsarbeit entstanden – die allerdings bisher unveröffentlicht ist, damit die Daten nicht in falschen Hände geraten und die sudanesische Bevölkerung am Ende gar weiter gefährden. „Wir wollen der sudanesischen Regierung nicht unbedingt eine Hitliste geben“, betont Marin.

KI und das Projekt Troll-Patrouille

Decode Darfur ist nicht das einzige Projekt, für das Amnesty Decoders Unterstützung von Element AI bekommt. Auch im Rahmen ihrer „Troll-Patrouille“, bei der Freiwillige an Frauen gerichtete Tweets auf diskriminierende und beleidigende Nachrichten hin scannen, kommen deren Algorithmen zum Einsatz. Doch gerade bei der Sprachverarbeitung hat das maschinelle Lernen noch einen langen Weg vor sich, bevor es die menschliche Genauigkeit einholt: Die Algorithmen, die Tweets auf Diskriminierung scannen, sind bisher nur halb so genau wie menschliche Analytiker*innen. „Beim Verstehen von Sprache gibt es mehr Nuancen, und manchmal erkennen selbst Menschen diese Nuancen nicht“, erklärt Marin.

Im Gegensatz dazu sind Satellitenbilder für das maschinelle Lernen leichter zu identifizieren und zu differenzieren, weil es einfacher ist, Computern visuelle Regeln beizubringen als sprachliche. Das Sehen am Computer wird schon seit langem entwickelt, während die Verarbeitung natürlicher Sprache noch im Entstehen begriffen ist. Nun, da die Sprachverarbeitung ein wachsender Bereich ist, werden wir hoffentlich sehen, wie sich die Genauigkeit im Laufe der Jahre verbessert.“

Die Freiwilligen haben an ihren gemeinsamen Decoder-Projekten Freude und leisten einen wichtigen Beitrag – aber könnte die KI sie irgendwann ersetzen? „Ich glaube nicht, dass wir jemals aufhören werden, Freiwillige einzusetzen“, sagt Marin. „Es liegt in unserer DNA. Genau dafür ist Amnesty da: um viele Menschen zu engagieren. Und so gut die Technologie heutzutage auch ist – wir haben gehört, was Algorithmen leisten können! – Freiwillige sind viel besser und schneller, und sie haben ein Ziel.“ Für Marin geht es beim Einsatz von KI und maschinellem Lernen nicht darum, Freiwillige zu ersetzen, sondern sie in einer symbiotischen Beziehung zu unterstützen. „Letztlich wollen wir eine Kombination aus beidem haben. Wir sind gerade an einem Punkt, an dem wir die Daten unserer Freiwilligen als Trainingsdaten für die KI verwenden können. Es wäre großartig, das auch andersherum zu machen: mit den KI-Daten beginnen und die maschinellen Anmerkungen von den Freiwilligen überprüfen lassen.“ Man kann das Zusammenspiel von KI und Freiwilligen also so betrachten: Während KI Funktionalität im großen Maßstab liefert, sorgen die menschlichen Mitwirkenden für die nötige Tiefe.

Am Ende des Tages, betont Marin, hat die Projektgemeinschaft eine große Bedeutung. Nachdem die Zahl der Mitglieder von 2.000 auf 20.000 anstieg, war es die Darfur-Gruppe, die Amnesty veranlasste, ein Online-Forum zu eröffnen, in dem die Mitglieder ihre Ergebnisse miteinander diskutieren konnten. Zu Marins Überraschung „begannen die Leute wie verrückt zu reden. Wir hatten Tausende und Abertausende von Gesprächen auf dem Forum“. Also luden sie die aktivsten Mitglieder ein, ebenfalls zu moderieren, und stellten fest, dass die Leute das sehr gut annahmen. „Es war wirklich unglaublich zu sehen, wie Mitglieder, die anfangs nur E-Mail erhielten oder Tweets lasen, bei Amnesty zu fähigen Moderator*innen wurden.“ Menschliche Beiträge stehen also weiterhin im Mittelpunkt des Decoder-Projekts. Und vielleicht kann KI ja die Leidenschaft und das Engagement der Freiwilligen noch weiter fördern…

Dieser Artikel ist eine Übersetzung von Sarah-Indra Jungblut. Das Original erschien auf unserer englischsprachigen Seite.

Wie kann KI im Umwelt- und Klimaschutz wirkungsvoll eingesetzt werden? Welche spannenden Projekte gibt es? Was sind die sozial-ökologischen Risiken der Technologie und wie sehen Löungen aus? Antworten und konkrete Handlungsempfehlungen geben wir in unserem Greenbook(1) „KI und Nachhaltigkeit – Können wir mit Rechenleistung den Planeten retten?“.

Dieser Artikel ist Teil des Dosssiers „Künstliche Intelligenz – Können wir mit Rechenleistung unseren Planeten retten?“. Alle Artikel des Dossiers findest du hier: Dossier KI

Das Dossier ist Teil der Projekt-Förderung der Deutschen Bundesstiftung Umwelt (DBU), in deren Rahmen wir vier Dossiers über zwei Jahre zum Thema „Chancen und Potenziale der Digitalisierung für eine nachhaltige Entwicklung“ erstellen.


Mehr Informationen hier.

 

haiti_erdbeben
© GeoEye-1 data, processed by DLR
Data4Human: Hilfsorganisationen setzen auf Erdbeobachtung und Künstliche Intelligenz

Im Projekt „Data4Human“ arbeiten Forschende des Deutschen Zentrums für Luft- und Raumfahrt an Datendiensten für Einsatzkräfte von humanitären Organisationen. Das Ziel: schnelle Informationen und präzise Entscheidungsgrundlagen.

Künstliche Intelligenz und Drohnen zum Schutz des Regenwaldes

Der Erhalt des Regenwaldes ist seit den verheerenden Bränden im Amazonas wieder stärker in den Fokus gerückt. Um illegale Waldrodungen zu erkennen und zu verhindern, können neue Technologien helfen: selbstlernende Algorithmen, Satelliten- und Drohnenaufnahmen sowie Blockchain-basierte Smart Contracts.

Masakhane: KI und maschinelles Übersetzen für die Transformation Afrikas

Afrikanische Sprachen sind in der digitalen Welt wenig oder gar nicht repräsentiert. Millionen Sprecher*innen von Kiswahili, isiZulu, Tshiluba und Co. sind damit von digitalen Möglichkeiten und Informationen ausgeschlossen. Ein Open-Source-Projekt tüftelt deshalb an KI-Lösungen für maschinelle Übersetzungen.

Blockchain: Die gerechte Verteilung von Land rückt immer mehr in den digitalen Fokus

Startups, Großfirmen und immer mehr Politiker interessieren sich für blockchainorientierte Vorgänge, um Landbesitzverhältnisse besser zu kennzeichnen. 

Amnesty Decoders: Digitale Aktivisten enthüllen Menschenrechtsverletzungen

Amnesty International führt mithilfe der Crowd umfangreiche Recherchen zu Menschenrechtsverletzungen durch. Und die Freiwilligen werden vom Sofa aus zu digitalen Aktivisten.

Humaniq – Crypto-Banking für 2,5 Millarden Menschen ohne Konto?

Eine neue digitale Währung soll Menschen Zugang zu Finanzdienstleistungen ermöglichen, die diesen vorher nicht hatten. Wie erreicht man diese Menschen und lässt sie an einem solchen System teilhaben?