Wenn KI die Vorlage für einen realen Mord liefert
Aktueller Fall in Kanada deckt Schwachstelle bei ChatGPT auf
- Monate vor dem Schulmassaker soll die Täterin Gedanken zu Waffengewalt auf der KI-Plattform ChatGPT ausgestaltet haben.
- Foto: Frank Rumpenhorst/dpa (Symbolbild)
- hochgeladen von Victor Schlampp
Ottawa (dpa/vs) - Die Vorstellung ist beängstigend und trotzdem bereits in Teilen Realität. Was ist, wenn Künstliche Intelligenz potentiellen Gewaltverbrechern das Drehbuch für einen grausamen Mord liefert? - So hat in Kanada eine spätere Todesschützin ChatGPT - nach derzeitiger Kenntnis - für die Ausgestaltung ihrer Gewaltfantasien genutzt. Kanadas KI-Minister verlangt, dass Warnzeichen schneller den Behörden gemeldet werden.
Zwei Wochen nach den tödlichen Schüssen an einer Schule in Kanada haben Regierungsvertreter Verbesserungen bei der Gefahren-Meldekette des ChatGPT-Entwicklers OpenAI gefordert. «Eine interne Überprüfung allein reicht nicht aus, wenn die öffentliche Sicherheit auf dem Spiel steht», erklärte Kanadas Minister für Künstliche Intelligenz (KI), Evan Solomon, nach einem Gespräch mit dem führenden Sicherheitsteam des Plattform-Betreibers.
Hintergrund des Treffens von Solomon und weiteren Ministern war die Gewalttat vom 10. Februar im westkanadischen Ort Tumbler Ridge, bei der insgesamt neun Menschen starben. Den Ermittlungen zufolge hatte eine 18-jährige Trans-Frau acht Menschen getötet, sechs davon in einer Schule, bevor sie sich das Leben nahm.
Täterin soll Chatbot missbraucht haben
Danach wurde bekannt, dass die 18-jährige Schützin Monate vor ihrer Tat den KI-Chatbot zur «Förderung gewalttätiger Aktivitäten» missbraucht haben soll, wie der Sender CBC berichtete. Laut Medienberichten soll sie dem KI-Bot ChatGPT Szenarien beschrieben haben, die Waffengewalt beinhalteten. OpenAI sperrte ihr Konto - eine Meldung an Strafverfolgungsbehörden erfolgte allerdings nicht.
- Die Gewalttat von Tumbler Ridge führte in Kanada zu großer Trauer.
- Foto: Christinne Muschi/The Canadian Press/AP/dpa (Archivfoto)
- hochgeladen von Victor Schlampp
Minister zeigt sich enttäuscht
«Wir haben deutlich gemacht, dass die Kanadier erwarten, dass glaubwürdige Warnzeichen für schwere Gewalt zeitnah und verantwortungsvoll eskaliert werden», hieß es von Solomon nach dem Gespräch mit den OpenAI-Vertretern. Es sei darüber gesprochen worden, wie ein «unmittelbares und glaubhaftes Risiko» bei der Nutzung der Chat-Plattform identifiziert und überprüft werde.
Enttäuschenderweise habe der Plattform-Betreiber zunächst keine nennenswerten neuen Sicherheitsmaßnahmen präsentiert, so Solomon. OpenAI habe aber in Aussicht gestellt, bald konkretere, «auf den kanadischen Kontext zugeschnittene Vorschläge» vorzulegen.
Sie möchten kommentieren?
Sie möchten zur Diskussion beitragen? Melden Sie sich an, um Kommentare zu verfassen.