Algorithmen, die Fake News verbreiten, die Radikalisierung auf Social Media, Propaganda im großen Stil, Deep Fakes: Dass die neue Regierung in ihrem Programm auch die verstärkte Regulierung und die Kontrolle über digitale Plattformen auf ihrer Agenda hat, ist kein Zufall. Der technologische Fortschritt wird immer mehr zur gesellschaftspolitischen Schwerstarbeit. Gefordert wird unter anderem „mehr Transparenz bei Algorithmen und Verwendung von Daten von Userinnen und Usern“. Beides kann Jana Lasser, Professorin für Data Analysis am IDea_Lab der Grazer Karl-Franzens-Universität, nur begrüßen. Anfang des Jahres ist ihr auf fünf Jahre angesetztes EU-Projekt gestartet, das als Gegenentwurf zu den Algorithmen der großen Social-Media-Dienste wie Facebook, X oder auch TikTok gedacht ist. Letztere sind auf ökonomische Gewinnmaximierung hin programmiert, „indem sie Leuten Dinge zeigen, die sie lange auf der Plattform halten. Mit Dingen, die uns emotionalisieren“, erzählt Lasser, die an der „Umverteilung dieser Aufmerksamkeit“ forscht.
Die Idee dahinter: Algorithmen so zu programmieren, dass sie „Demokratie stärken und nicht untergraben“. „Mit unserer Forschung wollen wir nicht mehr die Dinge am breitesten ausspielen, die uns am meisten aufregen, sondern vielleicht die, die am informativsten sind und eine gute Diskussion ermöglichen.“ Aktuell arbeitet sie mit ihrem Team daran, zu erarbeiten, was einen guten zivilen Diskurs ausmacht, dazu werden unter anderem Interessensvertreter und repräsentative Bevölkerungsgruppen miteinbezogen.
Am Ende des Prozesses soll es konkrete Empfehlungen und mehrere Algorithmen geben. Ihre Forschung setzt bei jenem Instrument an, das in der EU seit einem Jahr voll einsatzfähig ist, dem Digital Services Act (DSA): „Der definiert konkret, dass große Plattformen ihr systemisches Risiko für die Gesellschaft evaluieren müssen und dann auch Maßnahmen ergreifen müssen, um es zu reduzieren“, erklärt Jasser. Algorithmen, die Demokratie fördern, könnten in weiterer Folge auf Plattformen von Meta, X oder TikTok eingespielt werden und europaweit, national oder regional wirksam werden. Ob und wie man die großen Social-Media-Player dazu bringt, das steht auf einem anderen Blatt.
Dass dahingehend Eile geboten ist, liegt auf der Hand, sagt die Forscherin: „Die Wahl in Rumänien war ein Wake-up call, auch für die EU. Dass demokratische Systeme von Informationen bedroht werden, die sich online verbreiten, das hat eine neue Qualität. Aber es sind eben nicht nur klassische Fake News, es ist ein Mix aus Fake News, News mit Spin und Propaganda.“ Gegen den Onlineriesen TikTok hat die EU schon mehrere Verfahren eingeleitet, der Vorwurf der Bewerbung des rechtsextremen, pro-russischen Kandidaten Calin Georgescu mittels Algorithmen, war im November die nächste Stufe der Eskalation.
Während man bei einigen Social-Media-Plattformen die Algorithmen-Struktur durchaus kennt, bleibt die chinesische Plattform auch den Profis ein großes Rätsel: „TikTok ist eine absolute Black Box“, sagt Jasser. Dass dieser Übermacht nicht mit Technik, sondern nur mit einem politischen Regelwerk beizukommen ist, macht sie am Beispiel der Künstlichen Intelligenz fest, die es immer weniger möglich macht, Fakt von Fake zu unterscheiden: „Technische Lösungen sind nicht langfristig. Weil alles, was wir uns technisch einfallen lassen, sofort umgangen wird. Sobald ich automatisiert technisch filtern kann, habe ich auf der anderen Seite eine KI, die lernt, das zu umgehen. Es ist ein Katz-und-Maus-Spiel.“