Von Robin Niehaus, Student der Journalistik an der TU Dortmund
Es geht um Demokratie, Rechtsstaatlichkeit, Gerechtigkeit und Nachhaltigkeit. Es geht gegen Autoritarismus, Überwachung und Diskriminierung. Die NGO AlgorithmWatch will Menschenrechte verteidigen – und zwar bei künstlicher Intelligenz und algorithmischer Entscheidungsfindung. Denn gerade hier wird es für den Einzelnen schnell unübersichtlich. Die Organisation wurde 2015 gegründet. Das ist ein weiteres Porträt unserer Serie zu Non-Governmental Organisation (NGO).
,,Das ist ganz wichtig zu verstehen: Wir sind eine Menschenrechtsorganisation“, sagt Matthias Spielkamp, Geschäftsführer, Gesellschafter und Mitbegründer von AlgorithmWatch. ,,Bei Menschenrechtsorganisation denken die Leute an Amnesty International, Human Rights Watch, aber erst mal nicht an uns.“ Zu Unrecht. Schließlich strebt AlgorithmWatch eine Welt an, in der Technologie und algorithmische Systeme den Menschen dienen - und nicht umgekehrt. Sie sollen Gesellschaften demokratischer, inklusiver, nachhaltiger und gerechter machen - für alle, unabhängig von Herkunft, Geschlecht, sexueller Orientierung oder Alter.
Diesem Ziel will die NGO durch evidence-based advocacy näherkommen. Dieser Begriff beschreibt die Arbeitsweise der Organisation. Sie umfasst Forschungsprojekte und Politikanalysen – ist also evidence-based. Damit wird die Grundlage für politische Gesetzesanalysen, Kampagnen oder journalistische Veröffentlichungen, für Advocacy, geschaffen.
Die Forschung wird teilweise durch die NGO selbst betrieben, teilweise beteiligt sich AlgorithmWatch an größeren Verbundprojekten. Ein Beispiel hierfür ist das Projekt DataSkop, das von AlgorithmWatch koordiniert und gemeinsam mit drei Universitäten und dem Verein ,,mediale pfade“ durchgeführt wurde. DataSkop ist eine Plattform, auf der Nutzerinnen und Nutzer ihre Daten spenden können. Mit diesen Daten konnte 2021 beispielsweise ermittelt werden, welche personalisierten Empfehlungen und Suchergebnisse das algorithmenbasierte Such- und Empfehlungssystem von YouTube vor der Bundestagswahl lieferte. In einem anderen Projekt zeigte 2023 eine Studie von AlgorithmWatch und ,,AI Forensics“, dass der in Microsofts Suchmaschine Bing integrierte ,,Bing Chat" falsche Antworten zu Wahlen lieferte.
Lobbyarbeit, Einfluss und Transparenz
Auch Lobbyarbeit gehört zur Arbeit von AlgorithmWatch. Die NGO wendet sich an Bundestagsabgeordnete, die Bundesregierung oder verschiedene Behörden, um die eigenen Positionen einzubringen. Außerdem nimmt die Organisation an öffentlichen Anhörungen und Gesetzgebungsverfahren teil. Im Jahr 2024 wurde AlgorithmWatch beispielsweise im Bundestag zum Digitale-Dienste-Gesetz und zur Umsetzung der KI-Verordnung angehört. Darüber hinaus verfasst die NGO Stellungnahmen, Analysen und offene Briefe, um Einfluss auf die Gesetzgebung zu nehmen. Dies geschieht auch, wenn die NGO nicht zu den jeweiligen Anhörungen eingeladen wird. Auf europäischer Ebene hilft außerdem der Schulterschluss: Als die KI-Verordnung in der EU über drei Jahre verhandelt wurde, hat sich AlgorithmWatch mit anderen internationalen NGOs zusammengeschlossen, um angesichts der Komplexität des Themas gemeinsam agieren zu können.
Die Positionen von AlgorithmWatch sind öffentlich einsehbar. ,,Es gibt natürlich teaminterne Protokolle, mit denen wir niemanden belästigen wollen, aber unsere Arbeit ist darauf ausgerichtet, dass wir unsere Positionen, unsere Forschungsergebnisse und Berichte veröffentlichen. Das ist so im Gemeinnützigkeitsrecht auch eine Vorgabe. Deshalb veröffentlichen wir alle Ergebnisse, die wir haben. Auch Positionspapiere, die wir an Politiker und die Regierung schicken, stehen alle auf unserer Website.“, erklärt Geschäftsführer Spielkamp.
Derzeit beschäftigt sich die NGO besonders intensiv mit zwei Projekten. AlgorithmWatch will verhindern, dass die im Sicherheitspaket der Bundesregierung – gerade ohnehin durch den Bundesrat teilweise abgelehnt – vorgeschlagenen neuen Befugnisse für Strafverfolgungsbehörden umgesetzt werden und das Bundeskriminalamt damit Zugriff auf biometrische Erkennung erhält. Nach Ansicht der NGO würde eine solche Nutzung biometrischer Erkennung gegen die Datenschutzgrundverordnung, die KI-Verordnung und das Grundgesetz verstoßen. Des Weiteren ist die Organisation Teil des Beirats des Digital Services Coordinators, der Durchsetzungsbehörde des Digital Services Acts in Deutschland. In dieser Position setzt sich die NGO nach eigenen Angaben dafür ein, den DSA in Deutschland besser umzusetzen.
Erfolge und Misserfolge
AlgorithmWatch konnte sich in den letzten Jahren teils erfolgreich, teils weniger erfolgreich in den Gesetzgebungsprozessen einbringen. Als Erfolg würde die NGO die Begleitung der Rechtssetzung des Digital Services Act verbuchen. Sie hat sich dafür eingesetzt, dass Plattformen besser erklären müssen, wie die jeweiligen Algorithmen funktionieren, dass Plattformen Risikoabschätzungen für das eigene System erstellen und der EU-Kommission zur Verfügung stellen müssen und dass Organisationen wie AlgorithmWatch Zugang zu Daten gewährt werden muss. Diese Forderungen spiegeln sich grundsätzlich auch im Rechtsakt wider. ,,Ich würde das als großen Erfolg beschreiben.“, sagt Matthias Spielkamp. ,,Hat das jetzt in der Wirklichkeit schon eine Veränderung gebracht? Nein. Das dauert einfach.“ Einen Misserfolg sieht Spielkamp in den Bemühungen der Organisation rund um die KI-Verordnung. Das EU-Parlament habe zwar viele Forderungen der NGOs aufgegriffen, so Spielkamp, doch diese seien im Europäischen Rat nicht gut angekommen und entsprechend nicht in der verabschiedeten Verordnung zu finden.
Durch ein Trojanisches Pferd zur Gründung?
AlgorithmWatch wurde 2015 als Initiative gegründet. Die vier Gründer sind die Philosophin Lorena Jaume-Palasi, der Datenjournalist Lorenz Matzat, die Informatikerin Prof. Dr. Katharina Anna Zweig und der heutige Geschäftsführer Matthias Spielkamp. Im Jahr 2017 wurde aus der Initiative eine gemeinnützige GmbH, doch die Projektidee ist älter. Für Matthias Spielkamp spielte der Aufsatz ,,Algorithmic Accountability Reporting: On the Investigation of Black Boxes” von Nicholas Diakopoulos aus dem Jahr 2014 eine entscheidende Rolle. In dem Aufsatz beschreibt Diakopoulos, dass es die Aufgabe des Journalismus sei, Automatisierungssysteme als eine Art Watchdog zu begleiten. ,,Dieser Aufsatz war für mich die Initialzündung“, sagt Spielkamp. Gemeinsam mit einigen Kollegen, darunter die späteren Mitbegründer der NGO, reichte er bei einer Ausschreibung der Volkswagen-Stiftung einen Antrag ein, um Predictive Policing-Systeme mit datenjournalistischen Methoden zu untersuchen. ,,Wir wollten das Projekt als Trojanisches Pferd nutzen, um Algorithmic Accountability Journalism zu machen“, sagt Spielkamp heute. Der Antrag wurde zwar abgelehnt, aber die intensive Beschäftigung mit dem Thema führte zur Gründung der Initiative AlgorithmWatch. Seit November 2020 ist AlgorithmWatch auch in der Schweiz präsent. In Zürich wird die Organisation von Angela Müller geleitet. Das Leitbild gleicht der deutschen Version von AlgorithmWatch. In Kultur, Sprache und Politik unterscheidet sich die Arbeit in Zürich allerdings vom Vorgehen in Berlin.
Mehr Spenden als Zielsetzung
Natürlich muss die Arbeit der Organisation auch finanziert werden. Dies geschieht zu einem großen Teil über Stiftungen. AlgorithmWatch schreibt Anträge für öffentliche Ausschreibungen, die zum Beispiel Forschungsprojekte finanzieren. Darüber hinaus überzeugt AlgorithmWatch auch private Stiftungen, durch Förderungen an gemeinsamen Zielen zu arbeiten. Ein Beispiel ist die Stiftung Mercator, die AlgorithmWatch über vier Jahre bis 2025 fördert, um die Organisation in ihrem Engagement für eine gemeinwohlorientierte Digitalpolitik und für eine Governance von Algorithmen zu stärken. Die dritte Einnahmequelle des Vereins sind Spenden von Privatpersonen. Laut Geschäftsführer Spielkamp will die NGO vor allem in diesem Bereich in Zukunft mehr Einnahmen generieren. ,,Wir fänden es großartig, wenn wir in den nächsten fünf bis sechs Jahren dahin kommen, dass etwa die Hälfte unseres Budgets aus Spenden kommt. Das ist aber ehrgeizig.“
Über den Autor: Robin Niehaus studiert an der TU Dortmund Journalistik. Freiberuflich arbeitet er für den Deutschlandfunkt und ist für Radio WMW als Moderator, Sportkommentator und Podcaster aktiv.