Wie viel künstliche Intelligenz verträgt unsere Demokratie?

Die aktuellen Entwicklungen im Bereich der künstlichen Intelligenz (KI) erlauben es mittlerweile jeder und jedem beliebige Inhalte in Text, Bild und Ton zu generieren. Damit steigt auch für alle die Möglichkeit der Manipulation durch Deep Fakes und Desinformation. Was erwartet uns da in Zukunft? Wie gehen wir damit um, damit KI für unser Zusammenleben und unsere Demokratie einen Mehrwert bildet?

Gemeinsam mit der Vorsitzenden des Digitalausschusses im deutschen Bundestag, Tabea Rößner, habe ich über Gefahren und Lösungen im Umgang mit Künstlicher Intelligenz diskutiert. Mit dabei waren außerdem Clara Helming von AlgorithmWatch, Prof. Dr. Thorsten Thiel, Professor für Digitalpolitik und Demokratieforschung und Dr. Beate Ginzel vom Referat Digitale Stadt der Stadt Leipzig.

Was ist das Problem mit künstlicher Intelligenz und der öffentlichen Meinungsbildung?

Zu Beginn der Podiumsdiskussion haben wir uns zunächst Beispiele angeschaut, bei denen die Verbreitung von Desinformation durch Künstliche Intelligenz Einfluss auf die öffentliche Meinung nimmt. So gab es sogenannte Robo-Calls in den USA, wo durch ein KI-Tool Anrufe bei US-Bürger:innen gefaked wurden, in denen eine künstlich erzeugte Stimme von Joe Biden dazu aufgefordert hat, ihn nicht zu wählen.

Neben diesen Beispielen, bei denen KI-Tools bewusst zum Fälschen eingesetzt werden, gibt es auch eine Form von Desinformation, welche die Technologie selbst produziert. Dieses “Halluzinieren” wird in einer Recherche von AlgorithmWatch zum Bing-Chat besonders deutlich. Der dort untersuchte KI-Chatbot denkt sich, wenn er zu demokratischen Wahlen befragt wird, Wahlprognosen aus oder zeigt einen falschen Wahltermin an.

Clara Helming von AlgorithmWatch, die an der Recherche zum Chatbot beteiligt war, erklärt außerdem wie KI ganz konkret die Suche im Internet qualitativ verändern wird. Bisher schlägt uns Google eine Liste von Links vor, die uns weg von der Google-Suche führt. In Zukunft kann sich auch das ändern, meint Clara Helming. Durch den Einsatz von generativer KI entwickelt sich auch Google weg von einer Suchmaschine hin zu einer Antwortmaschine. Sie erklärt diese zukünftige Entwicklung damit, dass die großen Tech-Unternehmen ein Interesse daran haben, uns solange wie möglich auf ihren Seiten zu halten, um etwa mehr Werbung anzuzeigen zu können. Diese neue Form der Suche verändert unsere Informationsökonomie so, dass die Möglichkeit, sich frei informieren zu können, eingeschränkt bzw. verhindert wird:

Prof. Dr. Thorsten Thiel sieht ebenfalls ein großes Problem darin, dass KI unsere Informationsökonomie verändert. Er erklärt, dass die Monetarisierung der großen Plattformen der bisherigen Monetarisierung des Journalismus entgegensteht. Hierfür braucht es seiner Meinung nach politische Lösungen, die einen Journalismus schützen, der eine freie Meinungsbildung weiterhin ermöglicht:

„Wir müssen uns also die Frage stellen, wie wir guten Journalismus so entlohnen, dass dabei auch gleichzeitig generierte Antworten einer KI eine Rolle spielen können“, sagt er. Er betont außerdem, dass die Frage, ob und wie wir KI nutzen, vor allem von gesellschaftlichem Adaptionsverhalten abhängt. Dieses gesellschaftliche Verhalten wird dadurch geprägt sein, wie bestimmte KI-Systeme politisch reguliert und wie die ökonomischen Anreize dafür gesetzt werden. Diese ökonomischen Anreize und die politische Regulierung sollte fokussiert werden, anstatt sich lediglich zu fragen, wie die Technologie missbraucht werden könnte und was sie deshalb so gefährlich macht.

Wie kann politische Regulierung von künstlicher Intelligenz aussehen?

Ein erstes Gesetz zur Regelung von künstlicher Intelligenz gibt es bereits: der AI Act der Europäischen Union. Die KI-Verordnung bildet das Fundament für die Entwicklung anwendungsorientierter KI in Europa. Sie stellt eine Produktregulierung dar und bezieht sich nicht auf Forschungs- und Entwicklungsaktivitäten von KI. Der EU AI Act basiert auf einem risikobasierten Ansatz: Systeme, die ein inakzeptables Risiko mit sich bringen, wie beispielsweise das sogenannte Social Scoring, werden durch die Verordnung verboten. Für andere Hochrisiko-KI-Systeme, wie die biometrische Fernidentifikation, gibt es strenge technische und organisatorische Vorgaben. So werden biometrische Echtzeit-Fernsysteme nur zu Strafverfolgungszwecken zugelassen. Menschenrechtsgruppen sehen diese Ausnahme allerdings sehr kritisch, da sie weiterhin biometrischen Massenüberwachung ermöglicht.

Tabea Rößner spricht sich ebenfalls gegen biometrische Gesichtserkennung aus und gibt uns Einblicke, wie der Gesetzgebungsprozess zur KI-Verordnung verlaufen ist. Sie berichtet, dass viele mit dem Ergebnis des ausgehandelten Gesetzes nicht zufrieden waren und lange nicht klar war, ob Deutschland dem Gesetz überhaupt zustimmen wird. Das lag auch daran, dass viele Unternehmen zu diesem Gesetz lobbyiert haben. Trotzdem sieht sie im AI Act einen ersten Schritt, um politische Verantwortung zu übernehmen. Sie erklärt, dass es sich um einen neuen Ansatz der Regulierung handelt:

Clara Helming betont hingegen, dass der AI Act in Bezug auf Grundrechtsfragen unzureichend ist. Daher braucht es für sie weitere Gesetze, die etwa ein klares Nein zu biometrischer Gesichtserkennung beinhalten. Ich teile diese Meinung und finde es ebenfalls wichtig, die gesamte biometrische Überwachung im öffentlichen Raum zu verbieten:

Beate Ginzel spricht über die Chancen, die der Einsatz von Künstlicher Intelligenz einer Stadtverwaltung bietet.
Sie erklärt, dass KI nun die Möglichkeit bietet, dem steigenden Ausmaß an Hassrede im Netz in breit angelegten Beteiligungsprozessen systematisch begegnen zu können. Die Stadt Leipzig arbeitet hierfür unter anderem mit ScaDS.AI, dem KI-Kompetenzzentrum in Leipzig, zusammen und entwickelt Modelle, die dabei unterstützen, große Mengen an Kommentaren auszuwerten. So können die für den Beteiligungsprozess relevanten Themenfelder herausgefiltert werden und es wird schneller erkannt, was die Stadtgesellschaft beschäftigt.

Es gibt aber auch Bereiche in der Stadtverwaltung, in denen die Risiken beim Einsatz von KI bewusst gemacht werden müssen. Als Beispiel nennt Beate Ginzel die Vorprüfung von Wohngeldanträgen mit Hilfe von KI-Tools. Hier wird über die finanzielle Situation von Menschen entschieden, wodurch eine stärkere und sensiblere Steuerung des Einsatzes notwendig ist. Die Stadt Leipzig testet dies gerade im Rahmen eines Pilotprojekts. Beate Ginzel sieht im Einsatz von KI-Tools insbesondere bei reduntanten Arbeitsprozessen eine große Chance, dem Fachkräftemangel in der Verwaltung begegnen zu können. Ihr Referat Digitale Stadt ist außerdem gerade dabei, Richtlinien für den Einsatz von KI in der Verwaltung zu entwickeln, die sich aus den Vorgaben aus dem AI Act ableiten.

Zum Abschluss der Diskussion habe ich betont, dass wir in einer digitalen Welt leben, deren Entwicklung sich nicht mehr rückgängig machen lässt. Ein großes Problem dabei ist, dass zu wenig Menschen in der Lage sind die digitalen Prozesse in Zukunft zu verstehen und zu steuern: Erstens sind es viel mehr Männer als Frauen, wodurch in der IT-Szene ein Gender-Bias besteht. Zweitens fällt es den meisten Menschen bereits heute schwer, zu verstehen, wie eine WhatsApp-Nachricht von einem Telefon auf ein anderes kommt. Drittens ist es selbst Informatikerinnen und Informatikern, wie mir, teilweise nicht möglich, technisch nachzuvollziehen, wie KI-generierte Videos entstanden sind. Dieses fehlende Wissen befördert meiner Meinung nach den Prozess, dass die großen Tech-Unternehmen uns unhinterfragt ihre Produkte aufzwängen können.

Für mich liegt die Lösung dieses Problems in der Stärkung von digitaler Bildung. Eine Anfang in Sachsen im Bereich digitaler Bildung macht die Förderrichtlinie “Initiative Digitale Schule Sachsen”, auf deren Basis auch außerschulische Träger Projekte anbieten können, wie etwa das Jugend hackt-Projekt. Das Projekt bietet digitale Bildung für Jugendliche zwischen 12 und 18 Jahren an. Für den ländlichen Raum gibt es in Sachsen das Fabmobil, welches ebenfalls digitale Bildung sehr niedrigschwellig anbietet. Der Doppeldeckerbus kommt direkt vor Ort zu den Kindern und Jugendlichen und bietet die Möglichkeit, kostenfrei mit Digitaltechnik zu experimentieren.

Meiner Meinung nach müssen alle Menschen wissen, was KI kann und was nicht, was ein Prompt ist und wie man sich gegen Fake News zur Wehr setzt. Denn wir brauchen digital mündige Bürgerinnen und Bürger in einer zunehmend digitalen Welt, um die freie Entfaltung und Selbstbestimmung zu bewahren.