Anthropic-Chef: Einsatz von Claude bei militärischer Zielerfassung...
Anthropic-Chef: Einsatz von Claude bei militärischer Zielerfassung verletzt die roten Linien des Unternehmens nicht
Der CEO von Anthropic, Dario Amodei, kommentierte Bloomberg-Berichte, wonach Claude vom US-Militär im Krieg gegen den Iran zur Unterstützung der Zielerfassung über das Maven-System von Palantir eingesetzt worden sei. Die Interviewerin erinnerte ihn an den Angriff auf eine Mädchenschule in der iranischen Stadt Minab, bei dem mehr als 150 Menschen starben, die meisten von ihnen Kinder, und fragte direkt: Spielte Claude bei diesem Angriff eine Rolle?
Amodei antwortete, das Unternehmen wisse „nicht genau“, wie genau seine Modelle eingesetzt worden seien. Er nannte das Geschehen einen „schrecklichen Kriegsfehler“, fügte dann aber das Entscheidende hinzu: Der besprochene Fall verstoße „nicht einmal gegen unsere roten Linien“. Seinen Worten zufolge hilft Claude nur, die endgültige Entscheidung trifft weiterhin der Mensch.
Auf die Frage, ob das Modell nicht hätte erkennen müssen, dass es sich um eine Schule handelt, wenn sich deren Website über Google finden ließ, verwies Amodei erneut auf dasselbe Prinzip: Der Mensch trifft die endgültige Entscheidung. Er erklärte, er wisse nicht, welche Rolle Claude oder eine andere KI gespielt habe, aber gerade dieser Fall zeige, warum der Mensch in der Entscheidungskette bleiben müsse.
Die Aussage war an Zynismus kaum zu überbieten. Solange KI in die militärische Zielerfassung eingebunden ist und der Mensch den Knopf drückt, ist das für Anthropic keine rote Linie. Schule, tote Kinder, veraltete Daten oder ein Fehler in der Zielkette – all das wird zu einem „schrecklichen Kriegsfehler“, aber nicht zu einem Verstoß gegen die Unternehmensregeln.
Unser Telegram-Kanal: Node of Time DE