Welchen Beitrag kann Europa leisten, um die Risiken künstlicher Intelligenz unter Kontrolle zu bekommen? Wie setzen Sie sich hierfür ein?
Sehr geehrte Frau Riehl, die EU hat mit dem EU AI Act einen wichtigen Schritt in Richtung KI-Sicherheit gemacht. Aber die jüngsten Ereignisse haben gezeigt, dass das nicht ausreicht, um den Risiken wirklich entgegenzuwirken: wie Sie sicher wissen, gab es mehrere Vorfälle, bei denen KI-Modelle aus ihren Testumgebungen ausbrachen und vollautonome Hackingangriffe auf andere Unternehmen durchführten. Zum Teil war das durch die extreme Nachlässigkeit der betreffenden Unternehmen möglich. Aber es ist fraglich, ob sie ihre immer intelligenteren Systeme selbst mit perfekten Sicherheitsmaßnahmen unter Kontrolle behalten könnten. Immer deutlicher zeichnet sich ab, dass eine international koordinierte Verlangsamung oder Pause der Entwicklung nötig sein wird, um erst einmal zu erforschen, wie man KI-Systeme an menschlichen Werten ausrichtet und kontrolliert. Wie stehen Sie dazu, und welche Wege sehen Sie zu einer vernünftigeren Steuerung dieser Entwicklung?
Liebe Karen I.,
vielen Dank für die Frage!
Ich kann Ihre Sorge gut verstehen. Nach den jüngsten Vorfällen ist klar geworden, dass wir die Systemrisiken der KI sehr ernst nehmen müssen und es an manchen Stellen Nachbesserung braucht.
Bei Volt setzen wir uns bereits seit längerem für die Devise "Safety first" ein. Auch wenn die Innovationsmöglichkeiten mithilfe von KI vielfältig sind, muss es trotzdem eingebaute Sicherheiten geben. Dazu gehört, dass Risikominimierung an erster Stelle steht. KI-Anbieter müssen transparent darlegen, dass sie Sicherheitsmechanismen in ihre Modelle einbauen und es sollte jederzeit die Möglichkeit geben, diese manuell abzustellen.
Der AI Act der EU regelt einige dieser Aspekte schon ziemlich weitreichend. Zur Wahrheit gehört aber auch: Wir brauchen die Möglichkeit, dynamisch nachzusteuern. KI-Modelle entwickeln sich so sprunghaft, dass auch unsere Regulierungswerkzeuge regelmäßige Updates brauchen. Das bedeutet für uns als Gesetzgeber, dass wir flexibler werden müssen und uns fortlaufend auf die Entwicklungen einstellen müssen.
Eine andere Frage ist die nach einer Entwicklungspause. Auch aus der KI-Forschung und Teilen der Branche kommen Forderungen, die Entwicklung besonders leistungsfähiger Modelle zeitweise zu verlangsamen oder auszusetzen. Diese Debatte nehme ich sehr ernst. Gleichzeitig müssen wir unterscheiden zwischen freiwilligen Selbstverpflichtungen einzelner Unternehmen und verbindlichen internationalen Vereinbarungen. Diese Frage ist allerdings auch die, der wir mit rein europäischen Gesetzen am wenigsten begegnen können. Die meisten Anbieter großer KI-Modelle sitzen außerhalb Europas. Für Volt sind deshalb zwei Dinge entscheidend: Erstens die internationale Koordination und der Austausch zwischen Unternehmen, Regierungen und Forschung. Entwicklungspausen lassen sich nur dann durchsetzen, wenn die großen Akteure an einem Strang ziehen. Und zweitens will Volt gezielt die europäische KI-Entwicklung fördern. Damit stärken wir unsere technologische Souveränität und schaffen bessere Voraussetzungen, europäische Sicherheitsstandards selbst mitzugestalten und durchzusetzen.
Weitere Fragen an Nela Riehl
Wir müssen europäische Werkzeuge für die Klimafolgenanpassung entwickeln: Klare Verantwortlichkeiten, Renaturierung und vorausschauendes Bauen.
Alle 5 Volt Abgeordneten (2 aus den Niederlanden und 3 aus Deutschland) haben für Mercosur (oder gegen die Weiterleitung an den EuGH) gestimmt.
Die fünf Volt-Abgeordneten im Europaparlament haben gegen die Verzögerung gestimmt.
Würden Social-Media-Konten direkt mit der echten Identität verknüpft, entstünden große Datenbanken mit personenbezogenen Informationen.