Copyright: re:publica
Das KI-Leuchtturmprojekt SustAIn entwickelte Nachhaltigkeitskritierien, um die Auswirkungen von KI auf verschiedene Aspekte der Nachhaltigkeit untersuchen. Im Interview berichten die Beteiligten von konkreten Erfolgen, aber auch Hürden des Projekts.
Was war das Ziel Ihrer Arbeit und was hat Sie motiviert?
Wir waren eine der ersten Forschungsgruppen weltweit, die sich die Frage gestellt hat, wie nachhaltig Systeme mit so genannter Künstlicher Intelligenz sind. Das heißt, im Zentrum stand weniger die Frage, ob KI dazu beitragen kann, Nachhaltigkeitsziele zu erreichen, sondern welche konkreten Auswirkungen aus Nachhaltigkeitssicht wichtig sind, wenn KI entwickelt und eingesetzt wird. Beispielsweise im Hinblick auf Ressourcen, Arbeitsbedingungen oder die Struktur von Märkten. Wir wollten einen breiten gesellschaftlichen Diskurs zu Nachhaltigkeitsrisiken von KI-Systemen anstoßen und dafür Bewusstsein in der KI-Industrie schaffen.
Was waren Herausforderungen und Hürden und wie sind Sie damit umgegangen?
Die größte Hürde war, dass Unternehmen so gut wie keine Daten und Informationen zur Verfügung stellen, die es uns oder anderen erlauben würden, die Auswirkungen auf Umwelt, Produktionsbedingungen oder den Wettbewerb zu messen und einzuschätzen. Um die Nachhaltigkeitskriterien zu entwickeln, haben wir deshalb auf aktuellen wissenschaftlichen Studien sowie bestehenden Bewertungsansätzen aufgebaut. Wir haben aber auch viele Kriterien neu entwickelt und anwendbar gemacht. Außerdem entwickelten wir aus dem Projekt heraus Forderungen, welche Art von Auskunft zu Nachhaltigkeit gesetzlich vorgeschrieben sein sollte und diese in die Debatte eingebracht, etwa bei Anhörungen, in den Medien, auf Konferenzen und bei eigenen Veranstaltungen.
Welchen Impact hat Ihr Projekt mit Blick auf den Klima- bzw. Umweltschutz?
Die breite Resonanz auf die Projekterkenntnisse sowohl in den Medien als auch in der Politik hat gezeigt, dass diese Debatte überfällig war und wir sie zur richtigen Zeit angestoßen haben. Die Europäische Union hat in die KI-Verordnung einige unserer Empfehlungen aufgenommen, etwa Dokumentationspflichten für den Energie- und Ressourcenverbrauch bei KI-Systemen und eine Lebenszyklusperspektive, die wir immer wieder gefordert haben.
Das ist zum einen ein großer Erfolg, da es weltweit die ersten Vorgaben dieser Art sind und ihre Aufnahme ins Gesetz höchst umstritten war. Zum anderen sind die Vorgaben aber sehr schwach und es droht, dass sie in der Praxis kaum Verbesserungen bringen werden – weder bei ökologischer Nachhaltigkeit selbst, noch bei der Datenlage. Es bleibt also noch viel zu tun.
Die Bedeutung der Projektergebnisse für politisch-regulatorischen Debatten zeigt sich auch daran, dass Friederike Rohde vom IÖW und Kilian Vieth-Ditlmann von AlgorithmWatch im März 2024 als Sachverständige in den parlamentarischen Beirat für nachhaltige Entwicklung eingeladen wurden und die notwendigen politischen Maßnahmen unterstrichen haben.
Was waren die konkreten Ergebnisse Ihres Projektes?
Das wissenschaftliche Hauptergebnis sind die „Nachhaltigkeitskriterien für künstliche Intelligenz – ein Kriterien- und Indikatorenset für die Nachhaltigkeitsbewertung von KI-Systemen entlang des Lebenszyklus“, die in einer deutschsprachigen Studie und einem englischen Fachartikel veröffentlicht wurden. Das politische Hauptergebnis ist, dass die oben genannten Nachhaltigkeitsaspekte in die KI-Verordnung aufgenommen wurden. Das Hauptergebnis in der Kommunikation ist die SustAIn-Website, auf der in drei SustAIn-Magazinen die Nachhaltigkeitsaspekte von KI in journalistischen Texten für Laien verständlich erläutert werden.
Wie geht es nun mit Ihrem Projekt weiter?
Alle Projektergebnisse sind über das Projektende hinaus öffentlich verfügbar und für alle Stakeholder aus Politik, Wirtschaft oder Wissenschaft, verwendbar. Im Rahmen der Umsetzung der KI-Verordnung werden die Projektergebnisse in den kommenden Jahren eine hohe Bedeutung haben, da die nationalen und europäischen Normungsstellen (DIN, CEN/CENELEC) Standards für nachhaltige KI entwickeln werden, um Umweltauswirkungen zu messen. Dafür sind die im Projekt SustAIn entwickelten Kriterien und Indikatoren höchst relevant.
Das im Rahmen des Projekts entwickelte Self-Assessment-Tool und die Guidelines haben zudem schon heute einen konkreten wirtschaftlichen Nutzen für Unternehmen. Das KI-Bewertungstool, das mindestens zwei Jahre über das Projektende hinaus bereitgestellt wird,trägt zur Stärkung von Nachhaltigkeit in der Praxis bei; zahlreiche Anfragen aus Wirtschaft und Wissenschaft deuten auf einen hohen Bedarf in diesen Bereichen hin.
AlgorithmWatch arbeitet in zwei neuen Kooperations-Projekten an einer Weiterentwicklung einer umfassenden KI-Folgenabschätzung, die auch auf den im SustAIn-Projekt erarbeiteten Nachhaltigkeitskriterien aufbauen wird. Auch das IÖW bringt die entwickelte Nachhaltigkeitsbewertung weiterhin in Forschung und Praxis ein.
