Unterstützen Sie das von führenden KI-Forschern unterzeichnete Superintelligence Statement, das die Entwicklung von Superintelligenz stoppen will?
Das Superintelligence Statement (superintelligence-statement.org) fordert einen Stopp der Entwicklung von künstlicher Superintelligenz, da die damit verbundenen Risiken derzeit nicht beherrschbar sind.
Das Statement wurde von über 125.000 Personen weltweit unterzeichnet. Zu den prominenten Unterstützern zählen führende, international anerkannte KI-Forscher wie Yoshua Bengio und Geoffrey Hinton, die als "Paten der KI" gelten. Diese Experten warnen öffentlich vor einem zweistelligen prozentualen Risiko des Aussterbens der Menschheit durch unkontrollierte Superintelligenz.
Angesichts dieser existenziellen Bedrohung argumentieren die Unterzeichner, dass eine internationale Verhandlung und ein bindendes Abkommen notwendig sind, um die Forschung zu kontrollieren.
“Banning powerful AI systems (say beyond the abilities of GPT-4) that are given autonomy and agency would be a good start.”
– Yoshua Bengio, meistzitierter lebender Wissenschaftler
Lieber Herr S.,
vielen Dank für Ihre Nachricht.
Ich teile Ihre Sorgen hinsichtlich unkontrollierter Superintelligenz. Die Risiken hochautonomer, sich selbst verbessernder Systeme sind real, und wir dürfen sie weder verharmlosen noch ignorieren.
Grundsätzlich bleibt es höchste Priorität, dass wir verantwortungsvoll abwägen und politische Lösungen finden, die Sicherheit gewährleisten, ohne Innovation grundsätzlich zu blockieren. Es bedarf eines risikoorientierten Ansatzes, sprich KI-Systeme mit hoher Autonomie und weitreichender Entscheidungsfreiheit müssen streng reguliert und nur bei nachgewiesener Sicherheit zugelassen werden. Zugleich habe ich aber Vorbehalte gegenüber einem pauschalen Entwicklungsstopp. Während demokratische Staaten zögern, würden autoritäre Regime ohne vergleichbare Kontrollmechanismen vermutlich weitermachen. Europa darf sich nicht in eine neue technologische Abhängigkeit begeben. Unser Ziel muss Kontrolle sein, nicht Verzicht. Wir müssen führend darin werden, sichere KI-Systeme zu entwickeln und international zu koordinieren. Politisch setze ich mich deshalb für strenge Auflagen für hochautonome KI ein und für verpflichtende Sicherheitsprüfungen besonders leistungsfähiger Systeme sehe es aber auch als unseren Auftrag KI so zu gestalten, dass sie Freiheit, Wohlstand und Sicherheit stärkt – nicht bedroht.
Mit freundlichen Grüßen
Ronja Kemmer
Weitere Fragen an Ronja Kemmer
Die Union hat die Legalisierung von Cannabis aufgrund möglicher gesundheitlicher Risiken, insbesondere für junge Menschen immer abgelehnt und dies haben wir immer offen kommuniziert.
Unsere Haltung ist klar: Mit der CDU/CSU-Bundestagsfraktion wird es keine anlasslose Kontrolle privater Kommunikation geben
Aus meiner Sicht braucht es einen realistischen Mittelweg: neue, flexible Gaskraftwerke ja, aber nur in dem Umfang, wie sie für die Versorgungssicherheit tatsächlich gebraucht werden.
Die aktuellen Überlegungen im Bundeswirtschaftsministerium zielen nicht auf einen Abbau der Unterstützung, sondern auf eine Weiterentwicklung der bestehenden Regelungen.