Risiken durch Künstliche Intelligenz
US-Entwickler denken über eine KI-Pause nach
- Anthropic-Chef Dario Amodei warnte schon oft vor den Risiken einer ungebremsten Entwicklung Künstlicher Intelligenz. (Archivbild)
- Foto: Andrej Sokolow/dpa
- hochgeladen von Arthur Kreklau
SAN FRANCISCO (dpa/ak) – In den USA gewinnt die Debatte über Risiken Künstlicher Intelligenz neue Schärfe. Auslöser sind jüngst bekanntgewordene Hacking‑Angriffe, bei denen KI‑Software eigenständig aus einer abgesicherten Testumgebung ausbrach und sich Zugang zu Systemen der Firma HuggingFace verschaffte. Die Vorfälle haben mehrere große Entwickler aufgeschreckt – und erstmals Bewegung in eine seit Jahren geforderte Verlangsamung der KI‑Entwicklung gebracht.
Dario Amodei, Chef des Unternehmens Anthropic, schlug am Wochenende eine branchenweite Pause vor, die ein bis zwei Jahre Zeit für Sicherheitsmaßnahmen schaffen soll. Binnen Stunden erhielt er Zuspruch von OpenAI‑Chef Sam Altman und Tech‑Unternehmer Elon Musk. Amodei warnte, ein KI‑Schwarm könne in wenigen Monaten das Internet übernehmen und Schäden in dreistelliger Milliardenhöhe verursachen. Altman erklärte auf der Plattform X, auch er halte ein geringeres Entwicklungstempo für notwendig.
- OpenAI-Chef Sam Altman. Der Börsengang für OpenAI ist erst einmal aufgeschoben.
- Foto: Rodrigo Reyes Marin/ZUMA Press Wire/dpa
- hochgeladen von Arthur Kreklau
Anthropic will unabhängige Beobachter bereits während der Trainingsphase neuer Modelle ins Haus lassen. Altman kündigte an, OpenAI werde diesem Beispiel folgen. Musk, lange ein Kritiker Amodeis, schloss sich der Einschätzung an. Zugleich bestätigte Altman dem Magazin „Fortune“, dass der geplante Börsengang von OpenAI in diesem Jahr nicht stattfinden werde. Angesichts der aktuellen Diskussion sei der Zeitpunkt ungünstig, sagte er. Auch 2026 komme für ihn nicht infrage.
Die politische Reaktion fällt unterschiedlich aus. Donald Trump spielte die Sorgen herunter und verwies auf die aus seiner Sicht klare amerikanische Führungsrolle gegenüber China. Sein Wirtschaftsberater Kevin Hassett nannte die Vorschläge Amodeis dennoch einen sinnvollen Schritt. Ex‑Präsident Barack Obama wiederum forderte die Demokraten laut „New York Times“ auf, KI‑Strategien zu einem zentralen Thema der kommenden Jahre zu machen.
In der Branche selbst sorgen weitere Stimmen für Unruhe. Ein junger Anthropic‑Forscher trat mit der Warnung zurück, große KI‑Labore handelten unverantwortlich und gefährdeten Menschenleben. Ein Kollege bestätigte die Sorge und schätzte das Risiko, dass KI der Menschheit schadet, im kommenden Jahrzehnt auf mehr als zehn Prozent. Anthropic arbeitet derzeit an einem Modell namens Mythos, das besonders gut darin ist, lange unentdeckte Software‑Schwachstellen aufzuspüren und nur ausgewählten Behörden und Unternehmen zugänglich gemacht wird.
Auch abseits der Labore wächst der Widerstand. In den USA formiert sich eine Bewegung gegen den Bau großer Rechenzentren, die für den KI‑Ausbau notwendig sind. Der deutsche KI‑Bundesverband sieht hinter den amerikanischen Warnungen vor allem wirtschaftliche Interessen. Verbandschef Rasmus Rothe verweist auf mögliche Haftungsrisiken und den Blick auf künftige Börsengänge. Europa habe mit dem neuen Rechtsrahmen klare Vorgaben geschaffen, nun müsse man „massiv in wettbewerbsfähige eigene Modelle“ investieren.
Sie möchten kommentieren?
Sie möchten zur Diskussion beitragen? Melden Sie sich an, um Kommentare zu verfassen.