Enquete-Kommission »Künstliche Intelligenz« des Deutschen Bundestags veröffentlicht nur Teilergebnisse

Seit die Enquete-Kommission "Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale" tagt, sträubt sich die Mehrheit in der Kommission dagegen, die Öffentlichkeit intensiv an ihrer Arbeit teilhaben zu lassen. So wurden mittlerweile zwei Anträge auf vollständige Öffentlichkeit der Sitzungen abgelehnt. Das immerhin nach einem Jahr beauftragte Gutachten dazu, wie die Öffentlichkeit die Thesen und Handlungsempfehlungen der Kommission einschätzt, ist nach wie vor nur ein halbherziger Versuch, die größtenteils nicht-öffentliche Kommissions-Arbeit nachträglich zu legitimieren. Nun hat sich die Kommission nach langen Debatten auch dagegen entschieden, die ersten Teilberichte zu veröffentlichen. Immerhin konnte unter anderen die Fraktion DIE LINKE erreichen, dass das erste zusammenfassende Kapitel der Teilberichte der ersten Projektgruppenphase zu den Themen Wirtschaft, Gesundheit und Staat veröffentlicht wird. Diese ersten Kapitel stellen die Mehrheitsmeinung dar und die Fraktion DIE LINKE betont, dass sie von einigen dargestellten Meinungen zum Teil deutlich abweicht und entsprechende Sondervoten verfassen wird.   

Petra Sitte, stellvertretende Fraktionsvorsitzende und ordentliches Mitglied in der Enquete-Kommission Künstliche Intelligenz sowie dort Obfrau für die Fraktion, kommentiert:

"Wir setzen uns seit Beginn der Kommission dafür ein, die Bevölkerung rechtzeitig, umfassend und unmittelbar in unsere Arbeit einzubeziehen, unter anderem durch die vollständige Öffentlichkeit der Sitzungen. Folglich sind wir auch dafür, dass die gesamten Teilberichte veröffentlicht werden. Mit diesem Wunsch nach Transparenz konnten wir uns gegen die Stimmen der Union und der SPD erneut nicht durchsetzen. Die Debatte zur Veröffentlichung der Teilberichte hat nun immerhin doch noch zu einem Teilerfolg geführt: Nicht in allen Punkten können wir uns allerdings der Mehrheit der Projektgruppen anschließen und werden für den Abschlussbericht ausführliche Sondervoten verfassen, in denen wir alternative Empfehlungen für einen teilhabe- und gemeinwohlorientierten Einsatz von KI darlegen."  

Zu den wichtigsten Handlungsempfehlungen, die die Kommissions-Mitglieder der Fraktion DIE LINKE für die Entwicklung und den Einsatz von KI-Systemen in die Projektgruppen eingebracht haben, gehören unter anderem:

Allgemein:

• Ziel des KI-Einsatzes sollte vor allem die Steigerung der sozialen, wirtschaftlichen und politischen Teilhabe sein, die Würde des Menschen und die Wertschätzung von Vielfalt sollte mindestens erhalten bleiben, ein sozial-ökologischer Umbau sollte vorangetrieben, Armut und soziale Ungleichheit vermindert und bestenfalls verhindert werden.
• Einführung einer Risikoklassifizierung für KI-Systeme: KI-Systeme sollten unter unabhängiger Kontrolle auf ihre Kritikalität für Einzelne und die Gesellschaft geprüft und in Risikoklassen eingeordnet werden. KI-Systeme der höchsten Risikoklasse dürfen nicht eingesetzt werden.
• Förderung von Open Data und Open Access
• Förderung (Grundlagen-) Forschung mit Nutzen für die sozial-ökologische Transformation
• Nachhaltigkeit im ökologischen, ökonomischen und sozialen Sinn
• Aufbau gemeinwohl-orientierter intermediärer Plattformen auf Open-Data-Basis für Datenaustausch, Datengenossenschaften, Trust Center für Daten-Anonymisierung/-Pseudonymisierung, Grenzen der Anonymisierbarkeit beachten
• interdisziplinäre KI-Entwicklung: KI-Systeme sollten als sozio-technische Systeme verstanden werden und entsprechend zusammen mit u.a. Soziolog*innen, Psycholog*innen, Jurist*innen und Ethiker*innen erforscht, entwickelt,  getestet und evaluiert werden.
• Zweckbindung von KI-Systemen einhalten: Für einen bestimmten Zweck entwickelte und trainierte KI-Systeme sollten nicht für einen anderen als den ursprünglichen Zweck eingesetzt werden.
• Digitale Infrastrukturen sind auf Gemeinwohl, Inklusion und Nachhaltigkeit auszurichten.
• Jeder KI-Einsatz sollte unter datenschutzrechtlichen Rahmenbedingungen stattfinden, die sowohl staatliche Überwachung als auch privatwirtschaftlichen Missbrauch personenbezogener Daten effektiv unterbinden.
• Die Zivilgesellschaft muss in einer breiten gesellschaftlichen Debatte zum Einsatz von KI einbezogen werden.

KI und Wirtschaft:

Für die Fraktion DIE LINKE nahmen die Abgeordnete Jessica Tatti und der Sachverständige Dr. Florian Butollo an der Projektgruppe Wirtschaft teil.

Den Bericht der Projektgruppe lehnen die Kommissions-Mitglieder der Fraktion DIE LINKE ab, da er nicht geeignet ist, um KI gemäß der zivilisatorischen Herausforderung einer sozial-ökologischen Transformation einzusetzen. Mit dem Endbericht wird die Fraktion voraussichtlich im kommenden Herbst ein ausführliches Sondervotum veröffentlichen.

Die Kommissions-Mitglieder der Fraktion DIE LINKE fordern unter anderem:

• Kritik am Widerspruch: Der Anspruch an eine ethische und menschenzentrierte KI wird von der Projektgruppe Wirtschaft zwar formuliert, nicht aber in Handlungsempfehlungen übersetzt.
• Ein umfangreiches Investitionspaket („Moonshot“) sollte mit dem Ziel geschnürt werden, die bestehende Wirtschaftsordnung im Sinne sozialer und ökologischer Zielsetzungen zu transformieren. Nur so sind zentrale Herausforderungen der Zukunft, wie Klimawandel und Erhalt der Lebensgrundlagen auf inklusive Art und Weise zu bewältigen. Technologien wie Künstliche Intelligenz sind kein Selbstzweck, sondern sollten immer in den Dienst gesellschaftlicher Ziele gestellt werden.
• Öffentliche Betriebe als Pioniere und gezielte staatliche Investitionen werden als sinnvollere Alternativen zu privatem Wagniskapital angesehen, das einseitige Anreize für schnell skalierbare Geschäftsmodelle setzt und damit eine zerstörerische Wachstumsspirale befördert. Nur durch die Stärkung von Alternativen zu privatem Wagniskapital können nachhaltige KI-Projekte gefördert werden, die einen gemeinwohlorientierten digitalen Wandel vorantreiben.
• Plattformen sollten als Infrastruktur begriffen und entsprechend reguliert werden. Dabei sind klare Spielregeln auf europäischer Ebene (Stichwort: DSGVO) und ggfs. auch öffentliche Alternativen (Stichwort: „Open AI“) nötig, um der Monopolbildung und der missbräuchlichen Zweitverwertung von Nutzerdaten vorzubeugen.
• Es sollte nicht nur in KI-Forschung oder KI-Unternehmen investiert werden, sondern auch in die Menschen, die davon betroffen sind. Investitionen in Bildung und Weiterbildung sind unbedingt notwendig, um die Beschäftigten im sozio-technischen Wandel zu stärken. Wir brauchen eine partizipative Technikgestaltung mit einer starken betrieblichen Mitbestimmung.

KI und Staat:

An der Projektgruppe Staat nahmen für die Fraktion DIE LINKE die Abgeordnete Anke Domscheit-Berg und die Sachverständige Prof. Dr. Katharina Zweig teil. Anke Domscheit-Berg hatte in der Projektgruppe den Vorsitz.

Zu einzelnen Aspekten der inneren Sicherheit und zum Bereich der äußeren Sicherheit wird die Fraktion ein Sondervotum verfassen und ausführlich die eigenen Positionen zu diesen Bereichen darlegen.

Die Kommissions-Mitglieder der Fraktion DIE LINKE fordern unter anderem:

• Es sollte ein Social Innovation Fonds eingerichtet werden, um gemeinwohlorientierte KI-Anwendungen zu schaffen.
• Der Einsatz von KI-Systemen sollte auch Behörden-intern ermöglicht werden, um Fehlverhalten wie Diskriminierung, Korruption oder Datenmissbrauch aufzudecken.
• Bei Entscheidungsprozessen, die Grundrechte einschränken können, dürfen KI-Systeme nur Input liefern, Entscheidungen müssen in jedem Fall Menschen treffen.
• Sofort sollte die Ächtung von letalen autonomen Waffensystemen erfolgen sowie ein Verbot der Entwicklung, Herstellung, des Vertriebs, Imports und Exports, sowie dem Besitz und Einsatz durch die Bundeswehr, die Unterstützung von militärischen Drohneneinsätzen im Ausland auf dem Stützpunkt Ramstein sollte untersagt werden.
• Es darf kein Einsatz halb-autonomer Systeme erfolgen, die auf voll-autonome Systeme umgerüstet werden können.
• Die Zivilgesellschaft sollte besonders frühzeitig, breit und intensiv einbezogen werden, wenn KI-Systeme mit Grundrechtsbezug eingesetzt werden sollen, vor allem in den Bereichen der inneren Sicherheit und des Militärs. Halb-autonome Systeme müssen besser erforscht werden – Wirken sie wie autonome Systeme, müssen sie auch als solche behandelt werden.