Glauben Sie, dass die Entwicklung von immer fähigeren KI-Systemen eine existenzielle Bedrohung für die Menschheit darstellt?
Sehr geehrter Herr Pauls, Es ist das erklärte Ziel von führenden KI-Firmen wie Anthropic und OpenAI KI-Modelle herzustellen, die dem Menschen in allen kognitiven Fähigkeiten gleichwertig oder überlegen sein werden. Viele der im Feld Forschenden glauben, dass die derzeitige Dynamik in der KI-Forschung in den nächsten ein bis fünf Jahren zu solchen Systemen (Artifical General Intelligence) führen wird.Währenddessen warnen viele hochangesehene Forscher (z.B. die Pioniere der KI-Forschung und Turing-Preisträger Yoshua Bengio und Geoffrey Hinton) seit Jahren vor den existenziellen Risiken für die Menschheit durch den Kontrollverlust an superintelligente KI-Systeme. Selbst in den KI-Laboren von Anthropic, OpenAI und Google Deepmind existiert diese Sorge wie Interviews mit einer steigenden Anzahl von Aussteigern aus diesen Firmen zeigen (zuletzt z.B. Jacob Coxon). Wir plädieren an die Politik diese Sorgen ernstzunehmen.
Sehr geehrter Herr F.
vielen Dank für Ihre Nachricht. Zunächst möchte ich betonen, dass ich Ihre Sorgen sehr ernst nehme.
Am Rande des Digitalgipfels in Berlin hatte ich Gelegenheit, mich mit Yoshua Bengio auszutauschen. Das Gespräch hat mir noch einmal deutlich gemacht, mit welcher Dringlichkeit führende Forscher die Frage nach der Kontrollierbarkeit zukünftiger KI-Systeme stellen.
Ob die Entwicklung immer fähigerer KI-Systeme eine existenzielle Bedrohung darstellt, lässt sich nach meiner Einschätzung derzeit nicht seriös mit Ja oder Nein beantworten. Unter Fachleuten gehen die Einschätzungen weit auseinander, sowohl was den Zeitpunkt als auch was die Wahrscheinlichkeit solcher Systeme betrifft. Gerade weil diese Unsicherheit besteht und die möglichen Folgen so gravierend wären, halte ich es für richtig, das Thema nicht zu verdrängen, sondern vorausschauend zu handeln. Die Warnungen von Wissenschaftlern wie Yoshua Bengio und Geoffrey Hinton verdienen politische Aufmerksamkeit, ebenso die Berichte von Beschäftigten aus den Entwicklerfirmen selbst.
Zugleich sehe ich nicht nur die Risiken, sondern auch die erheblichen Chancen: in der medizinischen Forschung, bei der Bewältigung des Fachkräftemangels, in der Energie- und Klimatechnik und für die Wettbewerbsfähigkeit unseres Landes und Europas. Eine Politik, die ausschließlich auf Abwehr setzt, würde diese Chancen verspielen, ohne die Risiken zu verringern. Eine Politik, die nur auf Chancen schaut, wäre fahrlässig. Beides gehört zusammen.
Aus meiner Sicht ergeben sich daraus mehrere Schwerpunkte. Zunächst müssen wir die Sicherheitsforschung stärken: Wir brauchen mehr Mittel und Kapazitäten für die Forschung zu Kontrollierbarkeit, Robustheit und Transparenz von KI-Systemen, auch in Deutschland und Europa. Darüber hinaus sollten Sicherheitstests für besonders leistungsfähige Modelle nicht allein den Unternehmen überlassen bleiben, weshalb es kompetente, unabhängige Institutionen für deren Prüfung braucht. Bei der Regulierung plädiere ich für Augenmaß: Die Umsetzung des europäischen AI Acts sollte wirksam und zugleich praxistauglich sein, damit Innovation nicht abwandert. Und schließlich liegt ein Wettlauf ohne gemeinsame Sicherheitsstandards in niemandes Interesse, weshalb ich mich für internationale Zusammenarbeit einsetze.
Ich werde das Thema weiterhin aufmerksam verfolgen und in die Beratungen einbringen.
Mit freundlichen Grüßen,
Thomas Pauls
Weitere Fragen an Thomas Pauls
Wer jeden Tag arbeitet, eine Familie versorgt und Steuern und Beiträge zahlt, trägt dieses Land. Deshalb muss sich Leistung wieder lohnen. Ein undifferenzierter Blick auf „die Reichen“ bringt dafür allerdings ebenso wenig wie undifferenzierte Kürzungen bei den Ärmsten.
Ich habe der Reform zugestimmt, weil die gesetzliche Krankenversicherung vor großen finanziellen Herausforderungen steht und wir handeln müssen, um ihre langfristige Stabilität zu sichern.
Derzeit zahlen Mitglieder des Deutschen Bundestages nicht in die gesetzliche Rentenversicherung ein.
Aus meiner Sicht hat sich die bestehende Regelung bewährt; langfristig sind die Zahlen der Alkoholunfälle bereits stark gesunken.