Wenn mich jemand fragt, welche Einflüsse das Leben im 21. Jahrhundert am meisten prägen, dann nenne ich Digitalisierung und Klimakrise. In der Diskussion um Digitalisierung ist künstliche Intelligenz (KI) die Technologie, die am häufigsten mit revolutionärer Veränderung in Zusammenhang gebracht wird und der große Auswirkungen auf viele Sektoren, wie weltweite Produktivität oder Umweltfaktoren, zugeschrieben werden.
KI-basierte Technologien gelten als Schlüsselinnovation bei der Herausforderung, die planetaren Grenzen einzuhalten. Die meisten KI-Anwendungen für Nachhaltigkeit werden aktuell vor allem für die Energiewende eingesetzt. „Intelligente“ Stromnetze können dabei helfen, den Bedarf an Elektrizität mit der Verfügbarkeit von verschiedenen erneuerbaren Energiequellen abzugleichen. Für Artenschutz an Land und im Wasser, zwei der Nachhaltigkeitsziele der UN, können KI-basierte Technologien ebenfalls genutzt werden, um die Artenvielfalt mittels automatisierter Verfahren und Fernerkundungsdaten besser zu erfassen, aber auch in der Landwirtschaft oder bei der Verkehrswende haben KI-Anwendungen große Potenziale.
Das KI-Lab am Umweltbundesamt
Am Umweltbundesamt (UBA) werden daher Forschungsprojekte und Beratungs- und Informationsangebote gemeinsam mit KI-Expertinnen und -experten gestaltet. Im Oktober diesen Jahres wurde das Anwendungslabor für Künstliche Intelligenz und Big Data am UBA (KI-Lab) in Leipzig offiziell eröffnet. Dr. Tilman Hartwig, einer der drei Leiter des KI-Labs und Chief Data Scientist, hat sich mit mir auf ein Gespräch über die Arbeit des Anwendungslabors, Chancen von KI für die Nachhaltigkeitswende, dessen Selbstverständnis und Herausforderungen bei der Verwendung von KI getroffen.
Nach einem kleinen Exkurs über Definitionen und Abgrenzungen von KI, maschinellem Lernen und generativer KI kamen Tilman und ich auf die Menschen am KI-Lab zu sprechen.
Mit einem Klick auf das Vorschaubild bin ich damit einverstanden, dass ein externes Video von YouTube geladen wird. Damit können personenbezogene Daten an YouTube übermittelt werden. Mehr dazu unter Datenschutz.
Wie setzt sich das Team des KI-Labs zusammen?
Am KI-Lab arbeiten etwa 20 Teammitglieder mit unterschiedlichen Hintergründen und Fähigkeiten zusammen. Tilman betonte, dass interdisziplinäres Zusammenarbeiten wichtig ist, um die Themen nicht nur aus technischer Perspektive zu betrachten, sondern auch direkt den Mehrwert für die Gesellschaft, also eine menschen- oder umweltzentrierte KI, sicherzustellen.
Die Aufgaben werden daher breit aufgeteilt: Data Scientists haben Erfahrung in der Datenanalyse, Modellierung und Interpretation von Daten. Sie entwickeln Algorithmen und Modelle, um Erkenntnisse aus Umweltdaten zu gewinnen und Vorhersagen zu treffen. Data Engineers sind für die Datenbeschaffung, -speicherung und -verarbeitung verantwortlich. Sie entwickeln die technische Infrastruktur, um große Mengen von Umweltdaten zu verwalten und für Analysen zugänglich zu machen. Softwareentwickler:innen sind für die Entwicklung von Softwareanwendungen und Tools verantwortlich, die es Politiker:innen, Forschung und der Öffentlichkeit ermöglichen, auf Umweltdaten und -informationen zuzugreifen. Sie erstellen Benutzeroberflächen und Anwendungen.
Eine Expertin für KI-Ethik ist für die Sicherstellung verantwortlich, dass alle KI-Anwendungen und -Entscheidungen ethisch verantwortungsbewusst sind. Sie entwickelt ethische Leitlinien und überwacht die Auswirkungen der KI-Anwendungen auf die Gesellschaft. Die UX/UI-Designerin sorgt dafür, dass die von Ihrem Team entwickelten Anwendungen und Berichte benutzerfreundlich und ansprechend sind. Sie gestaltet die Benutzeroberflächen und die Präsentation der Daten.
Menschen aus den wissenschaftlichen Fachbereichen des UBA bringen Expertise aus der Umweltwissenschaft ein, um fundierte Erkenntnisse und Fachwissen in die KI-Projekte einfließen zu lassen. So erhalten die Mitarbeiter:innen des Labs die Projektaufträge von fachlichen Stellen am Umweltbundesamt und den nachgeordneten Behörden, damit der der gesellschaftliche und bedarfsgerechte Projektauftrag im Bereich Klimaschutz, Artenschutz und Gewässerschutz sichergestellt wird.
Für was wird künstliche Intelligenz am UBA eingesetzt?
Tilman stellte mir drei Projekte vor, an denen die Mitarbeiter:innen des Labs derzeit arbeiten. Mittels Chatbots oder anderen Tools zur Datenauswertung werden dabei enorme Umweltbestandsdaten ausgewertet, um die Umwelt besser zu schützen und die Politik beraten zu können.
- Illegalen Online-Artenhandel detektieren
Das KI-Lab unterstützt das Bundesamt für Naturschutz darin, illegalen Online-Artenhandel zu detektieren und zu bekämpfen. Es gibt viele geschützte Tiere und Pflanzen, die je nach Art und Reglementierung nicht einfach so gehandelt werden, teilweise gar nicht gehandelt werden dürfen, teilweise nur mit der nötigen Dokumentation. Trotzdem wird im Internet von Privatpersonen viel mit Wildtieren oder geschützten Pflanzen gehandelt.
Das KI-Lab programmiert derzeit eine Software die automatisiert die Websites der üblichen Handelsplattformen absucht und durch Bild- und Texterkennung feststellt, was für eine Art gehandelt wird. Die Art wird dann mit dem Washingtoner Artenschutzabkommen abgeglichen, um eine Priorisierung zu erhalten, welche Arten gehandelt werden und wie stark die Arten geschützt sind. Bei Anzeichen auf Illegalität wird nach Überprüfung eine Meldung an den Vollzug gegeben. Das ist ein schönes Projekt für den Artenschutz, bei welchem KI sinnvoll eingesetzt werden kann, um illegale Online-Kleinanzeigen zu unterbinden.
Zum Thema Artenhandel gibt es dieses Methodenpaper. Außerdem gibt es noch diese interaktive Webseite, die Umweltkriminalität monitort.
- Non-Target-Screening von Gewässerproben
Dieses Projekt befasst sich mit der Sammlung und Analyse von Gewässerproben, um die chemische Zusammensetzung von Gewässern zu untersuchen. Dabei werden die Proben ohne konkrete Suche nach einer bestimmten Substanz im „Non-Target-Screening“ untersucht. Es werden auch unbekannte Stoffe in den Proben erfasst, von denen möglicherweise noch nicht bekannt ist, was sie sind oder welche Auswirkungen sie haben könnten. Beispielsweise können die Proben Pharmazieabbauprodukte von neuen Medikamenten oder andere potenziell schädliche Substanzen aufweisen. Die riesigen Datenmengen werden mithilfe von KI ausgewertet. So werden Umweltauswirkungen frühzeitig erkannt und Giftstoffe und Chemikalien identifiziert. Damit trägt das Projekt maßgeblich zum Gewässerschutz bei.
- Flächenoptimierung von PV- und Windenergieanlagen
Das dritte Projekt des KI-Labs zielt darauf ab, Satellitendaten zur Verbesserung der Informationen über Photovoltaik- und Windkraftanlagen zu nutzen. Dabei werden Daten aus dem Marktstammdatenregister und anderen Quellen gesammelt und verarbeitet, um Unstimmigkeiten zu beseitigen. Mithilfe von Satellitendaten werden Standorte erkannt und ergänzende Informationen wie Flächennutzung im Umland und Anlageneigenschaften abgeleitet. Das Projekt hat das Ziel, präzisere und umfassendere Daten für erneuerbare Energieanlagen bereitzustellen, um deren Einfluss auf die Umwelt, einschließlich der Biodiversität, zu bewerten und Entscheidungsträger:innen wertvolle Einblicke zu bieten.
Was kann die Politik dafür tun, dass die Anwendung von künstlicher Intelligenz Nachhaltigkeit fördert?
Damit der Einsatz von KI allen zu Gute kommt und Nachhaltigkeit im Zentrum steht, braucht es entsprechende Forschungs- und Innovationsziele. Aber auch Gesetze, die die Digitalisierung mit Nachhaltigkeit verzahnen. Denn längst sind die Prognosen für CO2-Ausstöße durch die Digitalisierung in der Tendenz steigend. Bei KI-Anwendungen gibt es zum einen direkte Emissionen wie den Stromverbrauch während der Laufzeit eines Systems, hinzu kommt der Ressourcenverbrauch durch Hardware. Auch indirekte Emissionen, etwa die Modalitäten, wie die Algorithmen eingesetzt würden und das Training der Modelle, machen den Energieverbrauch aus (vgl. Kaack).
Eine Studie ergab, dass KI auf 80 Prozent der UN-Nachhaltigkeitsziele positiv wirken, aber auch auf ein Drittel der Ziele negative Effekte haben kann. Tilman sieht Chancen im Beitrag der KI die Umwelt besser zu verstehen und zu schützen. Richtig angewandt, hat sie das Potenzial Ressourcen und Energie zu sparen und zielgerichtet Bildungsressourcen bereitzustellen.
Der Energie- und Ressourcenverbrauch von KI ist ein wichtiges Thema, das angegangen werden muss, z.B. durch Regulierung, Standards (z.B. Blauer Engel) und Anreize für grüne Rechenzentren oder eine gezielte Förderung von Nachhaltigkeit in Forschung und Entwicklung.
Auch die Auswirkungen auf den Arbeitsmarkt sind ein Thema: KI kann Arbeitsplätze schaffen, aber auch verändern oder gefährden. Clickworker, die mit ihrer Arbeit die Datengrundlage für KI-Anwendungen schaffen, haben insbesondere in Entwicklungsländern schlechte Arbeitsbedingungen. Auch das Thema Bias, also das Verstärken von Diskriminierung und Ungerechtigkeit ist laut Tilman eine ernstzunehmende Gefahr, die mit KI-Modellen, die auf Wahrscheinlichkeiten basieren und nicht unbedingt objektiv sind, einhergehen.
Tilman sieht einen wichtigen Hebel der Politik darin, zu Bildungsangeboten und Data-Literacy beizutragen.
„Bildung im Sinne von, dass Menschen überhaupt genau verstehen, was ist KI oder was ist Data Science, was ist Big Data? Wir müssen ja nicht beim Schlagwort KI bleiben. Ich würde es eine Data Literacy nennen, Aufklärungsarbeit. Also was sollte mit den eigenen Daten machen? Was passiert, wenn ich private Daten bei Chats hochlade? Also einfach, dass Menschen mündige Bürger:innen werden, wie man mit seinen eigenen Daten und mit der KI umgeht. Ich glaube, das ist etwas, was man auf Landesebene durchaus vorantreiben kann.“
Tilman Hartwig, 11.10.2023
Einen Ansatz den ich auf Landesebene mit dem Einsatz für die Förderung des Fabmobils, Jugend hackt und den lokalen Innovationsräumen für Digitalisierung verfolge.
Insgesamt besteht eine komplexe Beziehung zwischen KI und Nachhaltigkeit, die sowohl Chancen als auch Herausforderungen mit sich bringt. Damit die sich abzeichnenden Defizite in der Transparenz der Algorithmen, die Sicherheit der Daten und ethischen Standards bei der Erstellung von Datensätzen nicht weiter anwachsen, braucht es Regulation und Aufsicht über KI-basierte Technologien, dies habe ich in meiner Rede im Landtag zum KI-Zeitalter deutlich gemacht.
Transkript des kompletten Interviews
Das komplette Interview könnt ihr euch hier auf YouTube ansehen.
Daniel Gerber:
Ich freue mich ganz besonders, dass wir heute im Labor des Umweltbundesamtes sind. Vielen, vielen Dank für die Einladung. Tilman, KI ist ja quasi in aller Munde. Jeder spricht davon. Zeitungen sind voll davon, Social Media ist voll davon, und so weiter und so fort. Vielleicht kannst du nochmal so eine grobe Zusammenfassung bringen, was ihr eigentlich bei euch im Labor darunter versteht.
Tilman Hartwig:
Ja, danke Daniel. Schön, dass du vorbeigekommen bist. Hier im KI-Lab in Leipzig. Wir versuchen hier KI für die Umwelt zu machen. Und die Frage, was KI ist, beschäftigt uns natürlich auch. Und ich glaube, es ist ein spannendes Thema, weil KI einfach so ein dynamisches Feld ist. Und da irgendwie eine statische Textbuch zu finden ist schwierig. Ich glaube, wenn wir drei unterschiedliche KI-Expert:innen fragen würden, würden wir fünf unterschiedliche Antworten bekommen. Ich glaube, wenn ich es auf eine relativ einfache Antwort runterbrechen müsste, was ist KI, würde ich sagen automatisierte Entscheidungssysteme.
Da steckt viel drin. Automatisiert, dass der Computer selbstständig was tut. Und Entscheidungssysteme finde ich fast recht viel zusammen. Also Entscheidungssysteme kann sein, eine Entscheidung links abbiegen oder rechts abbiegen bei einem Auto oder einem Navigationssystem. Es kann sein, weißer Bauer auf E4 bei einem Schachcomputer. Oder es kann sein, morgen wird es 14°C anstatt 13°C oder 15°C. Also automatisierte Entscheidungssysteme ist für mich so eine ganz gute Zusammenfassung dafür, was heutzutage unter KI verstanden wird.
Aber KI ist oder es wirkt oft so als eine Blackbox oder so was Kompliziertes. Irgendwie selbstfahrende Autos oder ChatGPT, wo man vielleicht auch gar nicht genau weiß, was passiert da eigentlich. Aber KI kann auch ganz einfach sein und dafür würde ich dich eigentlich auch gern zu einem kleinen Spiel herausfordern, um dir und den Zuschauerinnen und Zuschauern mal zu zeigen, was KI eigentlich auch sein kann.
Also Daniel, ich würde gern am Beispiel Tic-Tac-Toe zeigen, was KI auch sein kann. Also, wenn wir hier einfach ein kleines Tic-Tac-Toe machen. Was mache ich, hier dann vielleicht.
Daniel Gerber:
Dann muss ich ja hier.
Tilman Hartwig:
Dann muss ich hier und ab da ist es schon relativ deterministisch.
Unentschieden. Was hat das jetzt mit KI zu tun? Wir könnten auch eine KI programmieren, eine regelbasierte KI, die Tic-Tac-Toe spielt. Und das wäre auch relativ einfach. Also ich würde mir mal erlauben, hier so ein bisschen was in Pseudocode zu schreiben. Also eine KI, die würde je Spielzug sich überlegen: `can_win()`. Also irgendeine Funktion die checkt ob die KI drei in einer Reihe machen könnte und dann den Spielzug ausführt. Oder [eine Funktion] die irgendwie checkt `can_opponent_win()` und dann würde die eben ausführen, dass jetzt nicht der oder die Gegner drei in einer Reihe bekommt.
Und wenn das alles nicht ist. Wenn frei ist, zum Beispiel, könnte man sagen nach Priorität, versuch deinen Marker irgendwie in die Mitte zu machen. Ansonsten versuch es irgendwie in eine Corner zu machen, in eine Ecke. Oder ansonsten in die Edge, an die Seite. Das hier wäre jetzt ganz vereinfacht der Pseudocode für eine KI, die gegen den Menschen Tic-Tac-Toe spielt. Das wäre regelbasiert. Das wäre vielleicht keine KI, die immer gewinnt, aber von daher ist es vielleicht keine hochintelligente KI. Aber es ist eine KI, die ist besser als zufällig.
Was ich mit dem ganzen Beispiel sagen will ist: KI muss nicht immer so ein hoch kompliziertes System wie ChatGPT oder ein selbstfahrendes Auto sein. KI kann auch so ein regelbasiertes Computerskript sein, wie wir hier an diesem Beispiel sehen.
Daniel Gerber:
Okay, du hast jetzt mir gesagt, dass quasi auch relativ einfache Algorithmen schon als KI definiert werden könnten unter den Voraussetzungen von eben. Ich tue mich persönlich mit diesem KI-Begriff ein bisschen schwer, weil gerade auch im politischen Bereich wird das mehr als Buzzword verwendet und Leute haben noch nie irgendwie eine Zeile Code geschrieben und denken, sie sind Experte für irgendwelche automatischen Entscheidungsprozesse. Und im Grunde genommen ist es ja meistens so eine Art Spektrum von ganz einfachem maschinellen Lernen.
Beispielsweise habe ich ein paar Temperaturen gegeben und prognostiziere die nächste Temperatur oder irgendeinen Währungsverlauf oder sowas, hin zu quasi das, wo jetzt alle hinwollen, zum heiligen Gral der generellen Künstlichen Intelligenz. Und da ist ja dann quasi überhaupt nicht mehr klar, was die überhaupt können muss. Also was soll das sein? Hat eine künstliche Intelligenz ein Bewusstsein? Ist es irgendwie selbstständig? Ist es ein Agent, der irgendwo arbeitet.
Tilman Hartwig:
Ich glaube, du hast es gut zusammengefasst im Sinne von KI ist ein kontinuierliches Spektrum, wo Menschen vielleicht unterschiedlich den Cut machen, was ist KI und was ist keine KI. Für uns im KI-Lab ist wichtig, die KI soll uns am Ende unterstützen, die Umwelt besser zu verstehen oder gar dann auch, das kann ich nachher noch ein paar Beispiele geben, die Umwelt besser zu schützen. Also in dem Sinne haben wir auch so, wie ich es schon zusammengefasst habe, automatisierte Entscheidungssysteme wie einen regelbasierten Chatbot, den wir entwickeln. Aber ganz viel KI wollen wir natürlich auch einsetzen, um einfach Umweltdaten zu analysieren, wie du auch gerade das Beispiel gemeint hast, irgendwie Temperaturdaten oder Luftqualitätsdaten.
Daniel Gerber:
Jetzt haben wir schon ganz viel oder das Stichwort KI-Lab ist schon ganz oft gefallen. Wir sind hier bei dir zu Gast, bei euch zu Gast. Vielleicht kannst du nochmal ein paar Worte über das Lab selbst erzählen. Also wie viel seid ihr? Was macht ihr und wo sitzt ihr überhaupt?
Tilman Hartwig:
Genau, sehr gerne. Wir sind hier mit dem Hauptsitz in Leipzig. Wir haben aber auch Standorte in Dessau und in Berlin. Wir sind momentan ein Team von ca. 20 Leuten. Wir werden aber mal bis zu 30. Die Idee ist, wir sind Teil des 5-Punkte-Plans der Digitalisierungsstrategie der Bundesregierung. Und wir wollen KI-Anwendungen schaffen für Mensch und Umwelt. Das heißt, da kann ich auch noch ein paar konkrete Beispiele geben…
Daniel Gerber:
Hätte ich dich gleich gefragt.
Tilman Hartwig:
Wir wollen KI so anwenden, dass wir die Umwelt besser verstehen oder auch da Politik beraten können. Unser KI-Lab Team, wir sind ca. 20 Leute. Wir haben recht unterschiedliche Backgrounds, also was wir bisher gemacht haben. Wir sind viele Data Scientists, Data Engineers, wir haben ein paar Softwareentwickler im Team, wir haben auch eine KI-Ethikerin und UX/UI-Designerin. Und ich glaube, so eine breite Aufstellung im Team ist auch wichtig, um die Themen eben nicht nur aus dieser technischen Perspektive zu betrachten, sondern auch direkt den Mehrwert für die Gesellschaft, also auch das menschen- oder umweltzentrierte KI-Thema.
Daniel Gerber:
Wir haben ja quasi in jeder Diskussion, in die ich gehe, ist das erste Wort IT-Fachkräftemangel. Ist das bei euch ein Problem die Leute zu finden oder wie ist da so die Gefechtslage?
Tilman Hartwig:
Tatsächlich hatten wir eine recht positive Resonanz auf unsere Bewerbung. Also ich will jetzt gar keine konkreten Zahlen geben, aber wir hatten wirklich unfassbar viele, auch richtig gute Bewerbungen. Von daher haben wir, glaube ich, auch ein tolles Team hier zusammengestellt.
Daniel Gerber:
Okay, also keine Probleme.
Tilman Hartwig:
Wir haben vom Fachkräftemangel nichts gemerkt, wenn man das so ausdrücken möchte.
Daniel Gerber:
Also freut mich ja auch, wenn die IT-Leute dann quasi was sinnvolles mit ihren Skills machen können.
Tilman Hartwig:
Und ich glaube, das ist tatsächlich auch was ein bisschen gezogen hat im KI oder im Umweltbundesamt. Wir wollen ja KI einsetzen. Ich habe schon vorhin gesagt für Mensch und Umwelt, also wir wollen einen Mehrwert schaffen, was man vielleicht in seinem früheren Beruf an der Uni oder bei einer Versicherung nicht immer so direkt gesehen hat.
Daniel Gerber:
Mit KI kann man ja jede Menge Quatsch machen. Da kann man irgendwelche Chatbots schreiben, die niemandem was bringen oder viel Rechenenergie für irgendwelche lustigen Bilder verbrauchen. Aber was sind denn quasi die konkreten Projekte, wo ihr Sinn stiftet für die Gesellschaft oder an denen ihr hier arbeitet?
Tilman Hartwig:
Also wir haben ein paar verschiedene Projekte. Die Idee ist auch, wir als KI-Lab sind zuständig für das ganze Bundesumweltministerium und dessen nachgeordnete Behörden. Und mit denen zusammen wollen wir bedarfsgetrieben Projekte umsetzen. Es ist also auch nicht so, dass wir hier Club-of-Geeks zusammensitzen und uns überlegen, was man Schönes machen könnte, sondern die Ideen für die Projekte kommen tatsächlich von der Fachseite aus den verschiedenen nachgeordneten Behörden. Da haben wir einige, die auf Klimaschutz, Artenschutz, Gewässerschutz einzahlen.
Zum Beispiel ein Projekt, da geht es um den illegalen Online-Artenhandel. Da wollen wir das Bundesamt für Naturschutz darin unterstützen, illegalen Online-Artenhandel zu detektieren und zu bekämpfen. Es gibt viele geschützte Tiere und Pflanzen, die je nach Art und Reglementierung nicht einfach so gehandelt werden dürfen, teilweise gar nicht gehandelt werden dürfen, teilweise nur mit der nötigen Dokumentation. Trotzdem wird im Internet von Privatpersonen viel mit Wildtieren oder geschützten Pflanzen gehandelt. Da sind wir im KI-Lab gerade dabei ein Tool zu bauen, also eine Software, einen Webscraper, der automatisiert die Websites der üblichen Handelsplattformen absucht und da dann durch Bild- und Texterkennung erstmal feststellt, was für eine Art wird hier gerade gehandelt, also der lateinische Name. Das mit dem Washingtoner Artenschutzabkommen abgleicht und dann können wir da so eine Priorisierung geben, was für Anzeigen es gibt. Zum einen wissenschaftlich, was wird an geschützten Arten online gehandelt. Das ist schon spannend. Und dann zweitens schauen, ob es da Anzeichen gibt für Illegalität, dass da jemand was macht, was vielleicht so nicht sein sollte. Also geschützte Tiere oder Pflanzen verkaufen. Das würde dann auch als Meldung an den Vollzug gehen. Aber da ist dann am Ende noch ein Mensch in der Kette drin. Also das ist ein schönes Projekt für den Artenschutz, wo wir KI sinnvoll einsetzen können, um eben illegale Online-Kleinanzeigen zu unterbinden.
Zweites Projekt, das wir noch hätten, da geht es um Gewässerschutz. Stichwort ist Non-Target-Screening (NTS).
Daniel Gerber:
Das musst du glaub ich nochmal erklären.
Tilman Hartwig:
Genau. Wir sammeln da Gewässerproben. Beziehungsweise nicht wir, sondern Kolleginnen und Kollegen sammeln Gewässerproben und analysieren quasi die chemische Zusammensetzung der Gewässerproben. Non-Target-Screening, also quasi das nicht zielgerichtete Untersuchen von Gewässerproben heißt, wir untersuchen auch Stoffe, von denen wir noch gar nicht wissen, dass es sie gibt oder was die denn eigentlich sind. Es gibt Giftstoffe, von den wissen wir es. Aber es gibt auch Stoffe im Gewässer, da wissen wir noch gar nicht, was es ist. Das können zum Beispiel Pharmazieabbauprodukte sein von neuen Medikamenten auf dem Markt. Die können wir dann, wir können sie vielleicht noch nicht benennen, aber wir können sie über die Zeit im Gewässer beobachten, ob sie zunehmen, abnehmen oder gerade irgendwo vermehrt auftreten. Konkretes Beispiel war auch das Fischsterben in der Oder letztes Jahr. Da waren auch Einleitungen von Giftstoffen und Chemikalien, die man so nicht auf dem Schirm hatte. Mit so einem Non-Target-Screening könnte man das hoffentlich verhindern. Die Idee von der KI ist, da fallen einfach riesige Datenmengen an, auch täglich neue Datenmengen. Und da könnte die KI helfen, uns die wenigen unbekannten Stoffe rauszusuchen, die vielleicht zum Beispiel eine ansteigende Konzentrationen in Gewässern haben. Also das ist auch ein spannendes Projekt, wo man KI einsetzen kann für den Gewässerschutz.
Vielleicht ein drittes kleines Projekt noch oder vielleicht gar nicht so klein, aber ich versuche mich kurz zu fassen. Wir versuchen Satellitendaten zu nutzen, um Photovoltaik- und Windkraftanlagen zu erkennen. Die Idee ist, es gibt das Marktstammdatenregister, was glaube ich auch das Klimadashboard Sachsen nutzt als Quelle. Da sind Energie erzeugende vermerkt, aber die sind entweder oft nicht vollständig oder die sind von Menschenhand eingetragen. Da sind manchmal Unstimmigkeiten drinnen bei GPS-Koordinaten und wir wollen gerne das anreichern, indem wir zum Beispiel auch bei Windkraft-/Photovoltaikanlagen die Flächennutzung im Umland mitbestimmen können oder zusätzliche Angaben von Photovoltaikanlagen Reihenabstand, Höhe über dem Boden, um dadurch auch zum Beispiel den Einfluss auf die Biodiversität zu messen.
Daniel Gerber:
Das könnte man tatsächlich aus Satellitendaten rausziehen?
Tilman Hartwig:
Genau. Und das könnte man aus teilweise auch öffentlichen Satellitendaten dann wochen-/ monatsaktuell machen. Von daher wäre das irgendwie eine Verbesserung und ein Zusatz zum Marktstammdatenregister oder ähnlichen Registern, was uns helfen würde den Ausbau von erneuerbaren Energien besser zu monitoren, auch eventuell den Rückbau und dadurch auch zielgerichteter Vorhersagen zu machen, wo die nächsten drei Tage wie viel erneuerbare Energien erzeugt werden. Und das könnte man dann automatisiert aus Satellitendaten machen.
Daniel Gerber:
Das klingt ziemlich spannend. Schön. Vielleicht kann man das ja noch ins Klimadashboard Sachsen einbauen.
Ich habe ja vorhin schon einmal gesagt, man kann quasi viel Quatsch machen. Du hast gerade drei sehr sinnvolle Positivbeispiele genannt. Diese ganzen großen Rechenmodelle, also zum Beispiel ChatGPT, da gibt es ja viele Berechnungen, was die dann quasi an Stromkosten oder was die Nutzung jenseits des Trainings des Modells quasi an Strom kosten. Ist das denn alles nachhaltig? Kann man das irgendwie steuern, dass es nachhaltig wird?
Tilman Hartwig:
Genau. KI und Nachhaltigkeit ist so eine ambivalente Beziehung. Auf der einen Seite kann KI viel dafür tun, dass wir die Umwelt besser verstehen, die Umwelt besser schützen können, Ressourcen und Energie sparen. Auf der anderen Seite, du hast es erwähnt, KI selbst braucht viel Energie, Ressourcen und man kann auch viele, wenn man es falsch hält, schlechte Dinge damit tun. Es gab eine interessante Studie in Nature Communications von 2020, die haben untersucht den Einfluss von KI auf die Sustainable Development Goals, also die UN Nachhaltigkeitsziele. Es gibt 17 Ziele und 170 Unterziele circa und die haben dann untersucht, ob KI einen positiven oder negativen Effekt auf diese Nachhaltigkeitsziele hat. Und die haben gefunden, KI hat auf 80 Prozent der Ziele einen positiven Effekt, aber kann auch auf ein Drittel der Ziele einen negativen Effekt haben. Da sieht man schön diese Ambivalenz. Und es gibt ein paar Sachen, wo KI glaube ich eindeutig einen positiven Beitrag leisten kann. Wir haben gerade schon über Umweltschutz gesprochen, was KI da machen kann. Ich glaube, auch im Bereich Bildung kann KI viel leisten, im Sinne von Menschen sehr zielgruppengenau Bildungsressourcen bereitstellen.
Auf der anderen Seite, wir haben gerade schon Energie- und Ressourcenverbrauch von KI angesprochen, ist ein großes Thema, wo wir auch im KI-Lab dran arbeiten, auf Software- und Hardwareebene, da den Energieverbrauch eventuell zu reduzieren. Anderes spannendes Thema sind auch Arbeitsplätze. Auf der einen Seite, KI schafft vielleicht neue Arbeitsplätze, wie auch unser KI-Labor. Arbeitsplätze können vielleicht auch verloren gehen durch KI, aber auch die Qualität der Arbeitsplätze. KI zum Beispiel, viele Supervised Modelle, also Modelle, die mit Trainingsdaten trainiert wurden. Wo kommen denn diese Trainingsdaten her? Das sind oft Clickworker, auch oft im globalen Süden, die erstmal unsere Trainingsdaten labeln. Das heißt, es sind schlecht bezahlte, ausgebeutete Menschen, die für uns dann aus dem globalen Norden Trainingsdaten erstellen, labeln, damit unsere KI-Modelle funktionieren. Also da gibt es auch große Ungerechtigkeiten im Bereitstellen dieser KI Modelle.
Und zu guter Letzt ein großer Punkt ist glaube ich auch einfach Bias in KI-Modellen, also dass KI-Modelle oft verzerrt sind. Bei KI-Modellen geht es nicht um Wahrheit am Ende, sondern um Wahrscheinlichkeiten. Und wenn ein KI-Modell auf Grund von Daten lernt, die biased sind, diskriminierend sind, dann ist das auch diese KI. Und dadurch, dass die KI ein vermeintlich objektives System ist, kann das sogar so bestehende Ungleichheiten, Ungerechtigkeiten verstärken.
Daniel Gerber:
Also es gab ja mal diese öffentlichen Beispiele, wenn Amazon die KI einsetzt, um die neuen Mitarbeiter einzustellen und dann quasi nur noch Männer eingestellt werden, weil die offensichtlich die besseren wären, aber sich am Ende herausgestellt hat, dass die Trainingsdaten aus Amazon selbst kommen und da nur Männer arbeiten.
Tilman Hartwig:
Genau. Die KI hat aus historischen Daten vermeintlich gelernt, dass Männer die besten Führungskräfte sind, was nicht gegeben ist und das dann reproduziert.
Daniel Gerber:
Aus falschen Informationen kommt nur Falsches wieder raus. Das hab ich auch mal gelernt im Studium.
Was kann man denn jetzt, ich sitze ja im Sächsischen Landtag, habe ein paar Kollegen im Bundestag, im Europaparlament. Was kann denn, was sollte denn Politik tun, damit wir genau dahin kommen, so wie du das gerade gesagt hast, dass das wir die KI nachhaltig nutzen und eben nicht diese 30 SDGs (Sustainable Development Goals/Nachhaltigkeitsziele) bespielen, die einen negativen Impact haben.
Tilman Hartwig:
Ja, spannende Frage. Ich glaube, auf Landesebene wäre der Punkt natürlich Bildung und Forschung. Bildung im Sinne von, dass Menschen überhaupt genau verstehen, was ist KI oder was ist Data Science, was ist Big Data? Wir müssen ja nicht beim Schlagwort KI bleiben. Ich würde es eine Data Literacy nennen, Aufklärungsarbeit. Also was sollte mit den eigenen Daten machen? Was passiert, wenn ich private Daten bei Chats hochlade? Also einfach, dass Menschen mündige Bürger:innen werden, wie man mit seinen eigenen Daten und mit der KI umgeht. Ich glaube, das ist etwas, was man auf Landesebene durchaus vorantreiben kann.
Gleiches gilt für Forschung, dass eben Forschung nicht nur für höher, besser, weiter, größer in KI-Modellen angewandt wird, sondern für nachhaltige KI, für Sustainable KI, für grüne KI-Anwendungen. Das wäre glaube ich etwas, was man sich auf Landesebene tun könnte.
Auf Bundesebene natürlich Anreize schaffen für grünere Rechenzentren. Auch, was glaube ich einfach ein gutes Beispiel ist, hoffe ich doch, ist unser KI-Lab im Sinne von wir sind nicht in der freien Wirtschaft, wir sind nicht profitgetrieben, aber wir sind auch nicht an der Uni, wo wir immer die neuesten, verrücktesten KI-Modelle, größere KI-Modelle trainieren müssen, sondern wir sind gemeinwohlgetrieben hier als Bundesbehörde. Und ich glaube, das ist wichtig in der KI-Entwicklung auch mit zu berücksichtigen. Das heißt, so Einrichtungen wie das KI oder andere Bundeseinrichtungen sind da schon mal einen Schritt in die richtige Richtung. Und ich glaube, auf europäischer Ebene steht der European AI Act an, der gerade im Trilog ist, wo auch das Umweltbundesamt zusammen mit anderen Akteuren einen Änderungsantrag geschrieben hat, wie man da noch vorgehen könnte, um KI grüner zu machen, um auch Responsible AI, KI-Ethik da mehr Fokus und Gewicht zu geben.
Daniel Gerber:
Habt ihr das Thema Explainable AI mit erwähnt, also sozusagen, dass man nachvollziehen kann, welche Entscheidungen wie getroffen wurden?
Tilman Hartwig:
Genau, das ist auch ein ganz großes wichtiges Thema im Rahmen von KI-Ethik natürlich, das wird da auch erwähnt.
Daniel Gerber:
Cool, dann danke ich dir ganz herzlich für diese vielen, vielen Informationen und ich wünsche euch sehr viel Erfolg in eurem KI-Labor hier in Leipzig und in den ganzen anderen Standorten.
Tilman Hartwig:
Dankeschön. Schön, dass du vorbeigekommen bist. Danke für das gute Gespräch, Daniel.
lizensiert.
Ein Kommentar