Stellen wir uns vor: Ein Amokläufer erkundigt sich vor der Tat bei ChatGPT, wie er möglichst viele Menschen verletzen kann. Danach zieht er los und setzt seine Pläne um. Die Empörung wäre vorprogrammiert, die Forderung nach einer Klage gegen den KI-Anbieter ebenso. Doch was würde eine solche Klage straf- und zivilrechtlich in Deutschland überhaupt leisten?

In den USA wird bereits ganz konkret versucht, aus der Nutzung von ChatGPT straf- und zivilrechtliche Konsequenzen für den Betreiber abzuleiten: So berichten US-Medien über ein laufendes Verfahren aus Florida, in dem OpenAI vorgeworfen wird, ChatGPT habe einen Schützen bei der Planung eines Mass Shootings unterstützt, indem der Chatbot Informationen zu Waffen und zur logistischen Vorbereitung des Angriffs geliefert haben soll.