Karlsruhe/Ditzingen/Brüssel (dpa/lsw) - Wissenschaft und Wirtschaft in Baden-Württemberg begrüßen die geplanten EU-einheitlichen Regeln für den Umgang mit künstlicher Intelligenz (KI) - haben aber auch einige kritische Fragen. «Regulierung allein wird nicht helfen», sagte etwa Wissenschaftsministerin Theresia Bauer (Grüne) der Deutschen Presse-Agentur. Verhindert werden müsse, dass technisch nicht umsetzbare Regulierungen die Entwicklung von KI-Anwendungen verhindern oder mögliche Anwender entmutigt werden.
Europa will bei der Anwendung von KI globale Standards setzen. Die EU-Kommission hat vor kurzem Regeln vorgeschlagen, die vor allem das Vertrauen in die Technologie stärken sollen. Je höher die potenziellen Gefahren einer Anwendung, desto höher sind die Anforderungen. Für Regelverstöße sind hohe Strafen vorgesehen.
Dieses einheitliche Vorgehen - wenn wirklich alle Staaten mitziehen - könnte den Standort Europa stärken, sagte Michael Decker, Professor für Technikfolgenabschätzung, der am Karlsruher Institut für Technologie (KIT) den Bereich Informatik, Wirtschaft und Gesellschaft leitet. «Das Signal ist: Wir meinen es jetzt auch ernst.»
Die damit verbundene Bürokratie bremse vielleicht erst kurzfristig, auf lange Sicht aber fördere das Vorhaben Innovationen der Marke «Made in Europe» - verbunden mit den hier geltenden Werten. Das sei ein starkes Signal ins Ausland, gerade für die USA, sagte Decker. «Auch Unternehmen gehen mit: Die wollen vertrauenswürdige KI.»
So heißt es etwa beim Autozulieferer Bosch aus Gerlingen (Landkreis Ludwigsburg): «KI wird sich nur durchsetzen, wenn der Mensch ihr vertraut, deshalb befürworten wir die Vorschläge der Kommission grundsätzlich.» Im vergangenen Jahr haben sich die Schwaben einen internen KI-Kodex gegeben. Die Maxime lautet, der Mensch solle bei allen Entscheidungen der KI die Kontrollinstanz sein.
Gerade das stellt Decker infrage. So sei erwiesen, dass KI etwa Röntgenbilder besser beurteilen könne als Ärzte. Dennoch müsse ein Mediziner entscheiden und verantworten, ob operiert wird. Als anderes Beispiel nannte er das autonome Fahren: «Die ganze Zeit fährt das Auto selbst, aber wenn es kniffelig wird, muss der Mensch das Steuer und die ganze Verantwortung übernehmen», sagte der Physiker. «Wir haben bei KI immer dafür zu sorgen, dass wir die Verantwortung den richtigen Akteuren zuschreiben.» Das könne auch der Programmierer eines Algorithmus sein, erläuterte Decker. Dass das möglich sein kann, darauf müsste sich dann die Gesellschaft einigen.
Eine Regulierung wird aus Sicht des Wirtschaftsministeriums die Vertrauenswürdigkeit in europäische Hochrisiko-Anwendungen erhöhen, «was die generelle Akzeptanz der Technologie, aber auch die konkreten Absatzchancen und die Wettbewerbsfähigkeit europäischer Anbieter nachhaltig verbessern dürfte». Auch der Export innerhalb der EU werde angesichts gleicher Standards wesentlich erleichtert und günstiger.
Die Maschinenbauer von Trumpf gehen davon aus, Chancengleichheit im Wettbewerb von Unternehmen könne so gewahrt werden. Und trotzdem kämen sichere und hochwertige KI-Produkte auf den Markt. «Wir sollten allerdings vermeiden, dass aufgrund überbordender Regulierung in Europa Investitionen in vielversprechende KI-Lösungen außerhalb der EU stattfinden und notwendiges Know-how im Bereich der KI hierzulande nicht aufgebaut wird», teilte ein Sprecher in Ditzingen (Landkreis Ludwigsburg) mit. Könnten neue KI-Lösungen gar nicht oder nur schwer getestet werden, könnte Europa sonst bei digital vernetzten Industrieprodukten den internationalen Anschluss verlieren. Gerade die Spielräume etwa von Start-ups müssten berücksichtigt werden.
Ein Punkt, den auch das Wirtschaftsministerium sieht: «Regulatorische Anforderungen können speziell für kleine und mittlere Unternehmen sowie Start-ups eine große Hürde darstellen.» KI-Innovationen dürften nicht unnötig erschwert oder verzögert werden. Die Regulierung solle sich daher auf jene Fälle beschränken, in denen der Einsatz von KI gravierende Auswirkungen auf Sicherheit und Gesundheit von Menschen und auf die Grundrechte haben kann, teilte eine Sprecherin mit.
«Ich befürworte den Vorschlag der Europäischen Kommission, künstliche Intelligenz nicht pauschal zu regulieren, sondern sich gezielt auf Anwendungen mit hohem Risiko zu konzentrieren, erklärte Ministerin Nicole Hoffmeister-Kraut (CDU). Der Großteil der möglichen KI-Anwendungen ist aus Sicht des Ministeriums «absolut unkritisch».
Auch Bosch unterstützt zum Beispiel die Idee, je nach Risiko und Gefahr, die eine KI-Anwendung auf das menschliche Leben haben kann, zwischen Selbst- und externer Zertifizierung zu unterscheiden. KIT-Forscher Decker sieht hier noch Klärungsbedarf, welche Anwendung wie einzustufen ist. So stehe Spielzeug bei der EU auf dem Index, das Kinder zu gefährlichem Verhalten animieren kann - ein KI-gestütztes Videospiel hingegen nicht. «Dabei könnte ein lernendes System den Spieler zu immer aggressiverem Verhalten antreiben.»
Die EU-Staaten und das Europaparlament müssen über die Vorschläge verhandeln. Bis die Regeln gelten, wird es noch einige Jahre dauern.
Nachholbedarf sieht Jessica Heesen, Leiterin des Schwerpunkts Medienethik und Informationstechnik an der Uni Tübingen, auch beim Verbraucherschutz: «Individuelle Beschwerdemöglichkeiten und ein Ombudswesen spielen in der Verordnung praktisch keine Rolle», heißt es in ihrem Statement für das Science Media Center.
Überhaupt werde an der Verordnung deutlich, dass sich an der KI viele der typischen Probleme der Digitalisierung kristallisieren, so Heesen. «Dazu gehören Überwachung, Manipulation und Sicherheitsfragen.» Es zeige sich jedoch auch, dass diese Probleme nicht allein durch Regulierung überwunden werden können.
Für Wissenschaftsministerin Bauer ist wichtig, dass KI keine Freiheitsrechte einschränken oder Diskriminierungen erzeugen darf. «Die vorgeschlagene Einteilung von KI-Anwendungen in verschiedene Risikogruppen schafft aus meiner Sicht die notwendige Sensibilität.»
Für einen verantwortungsvollen Umgang mit Daten sieht sie vor allem die Grundlagenforschung gefordert: «KI-Methoden müssen höchsten Standards gerecht werden, sie müssen unter anderem robust und sicher sein.» Aus Sicht Deckers hat die Diskussion die Forschung längst beeinflusst. Aspekte wie Datenschutz und -sicherheit würden viel früher mitgedacht als noch vor einigen Jahren. «Wir haben jetzt einen Diskussionsstand erreicht, wo es klare Regeln braucht.»
Bei der Umsetzung drückt das Wirtschaftsministerium etwas mehr aufs Tempo: «Um die Planungsunsicherheit zu minimieren, sollte der Gesetzgebungsprozess nun zügig durchgeführt werden, damit möglichst schnell Rechtssicherheit herrscht.» Bauer hingegen sagte, ein unbedachter Schnellschuss auf diesem wichtigen Gebiet wäre fatal. Aber: «Natürlich dürfen wir aufgrund der notwendigen Debatte nicht technologisch ins Hintertreffen geraten.» KI-Experten sollten dabei helfen, zeitnah regeln zu formulieren, die leicht anwendbar sind.
Der digitalisierungspolitische Sprecher der FDP im Landtag, Daniel Karrais, erklärte am Donnerstag mit Blick auf die zweite Amtszeit von Grün-Schwarz: «Im Koalitionsvertrag hat sich die neue Landesregierung Innovation und Zukunft groß auf die Fahnen geschrieben, daran wird sie sich messen lassen müssen! Für künstliche Intelligenz findet sie jedoch nicht viel mehr als warme Worte.» Nötig seien aber Förderung und Investitionen. Weder Finanzierungsvorbehalte noch falsche Regierungspolitik dürften diese Zukunftstechnologie blockieren.
Baden-Württemberg will sich auf dem KI-Sektor breit aufstellen. Neben einem «Cyber Valley» gibt es ein spezielles Förderprogramm für junge Wissenschaftler, am KIT soll ein Reallabor für KI entstehen. Zudem läuft noch die Suche nach einem Innovationspark KI Baden-Württemberg, für den sich mehrere Regionen beworben haben. Hier sollen laut dem Wirtschaftsministerium unter anderem auch internationale Maßstäbe bei wichtigen ethischen Fragen der KI gesetzt werden.
© dpa-infocom, dpa:210506-99-485680/4
Wirtschaftsminnisterium über KI