Wie bewerten Sie die Auswirkungen von DeepLearning Algorithmen wie OpenAi Sora & Voice Engine oder Google's Lumiere auf die Prozessordnung?

Portrait von Thorsten Frei
Thorsten Frei
CDU
100 %
335 / 335 Fragen beantwortet
Frage von Michael H. •

Wie bewerten Sie die Auswirkungen von DeepLearning Algorithmen wie OpenAi Sora & Voice Engine oder Google's Lumiere auf die Prozessordnung?

Sehr geehrter Herr MdB Frei,

im Zusammenhang mit DeepLearning Algorithmen wird zunehmend die Möglichkeit der Desinformation debattiert. Ich sorge mich als Bürger aber ebenfalls um die Auswirkungen solcher Technologien auf die prozessuale Beweisführung, insbesondere unter Berücksichtigung der schon jetzt verbreiteten VoiceCloning- und Bildgenerierungssoftwares, und den bald zur Verfügung stehenden Möglichkeiten der Bewegtbildergenerierung.
Wie bewerten Sie den möglichen Einfluß solcher Technologien beispielsweise auf Entscheidungsregeln im Prozessrecht wie den Grundsatz "in dubio pro reo", wenn jeglichem per Sinne erfassbaren Beweismittel durch seine mögliche Manipulierbarkeit a priori eine im Raume stehende Diskreditierung anhaftet?
Werden Abhörmöglichkeiten und Videobeweise hier nicht fundamental ad absurdum geführt, da jeder Verdächtige die Echtheit von möglichen Beweisen aus verteidigungstaktischen Gründen in Zweifel ziehen könnte?

Mit freundlichen Grüßen
Michael H.

Portrait von Thorsten Frei
Antwort von
CDU

Sehr geehrter Herr H.,

Ihre Sorge kann ich absolut nachvollziehen. Ehrlicherweise dürften die technologische Entwicklung genau wie die missbräuchliche Verwendung derzeit noch relativ am Anfang stehen. Und umgekehrt dürfte kaum jemand eine umfassende Vorstellung über die Materie haben. Das geht auch mir so. Der Deutsche Bundestag hat sich bereits in der letzten Wahlperiode im Rahmen einer Enquete Kommission mit dem Themenkomplex sehr umfassend befasst. Falls Sie daran interessiert sind, könnten Sie den umfangreichen Abschlussbericht hier lesen. https://dserver.bundestag.de/btd/19/237/1923700.pdf Klar ist aber auch, dass damit nicht alle Einsatzbereiche oder auch Missbrauchsmöglichkeiten abgedeckt wurden.

Wir sind uns gewiss einig, dass die negativen Auswirkungen dieser Technologien sowie damit verbundene Betrugsmöglichkeiten in jedem Fall zu vermeiden sind. Das Gefahrenpotenzial ist in jedem Fall hoch. Sowohl in Bezug auf Kriminalität, aber auch im Hinblick auf die Demokratie oder die Stabilität der Gesellschaft. Deshalb braucht es umfassende Kennzeichnungspflichten, damit die Bürger ohne Schwierigkeiten erkennen, was echt ist und was nicht. Die Menschen dürfen nicht zum Spielball von Technologien oder Desinformation werden. Vor diesem Hintergrund ist eine Regulierung des Einsatzes dieser Technologien in allen relevanten Gesellschaftsbereichen zwingend erforderlich. Auf Europäischer Ebene ist dazu jüngst der sog. AI-Act erlassen worden. Und auch auf nationaler Ebene werden wir uns immer wieder mit dem Notwendigen befassen.

 

Mit besten Grüßen

Thorsten Frei 

Was möchten Sie wissen von:
Portrait von Thorsten Frei
Thorsten Frei
CDU