E-Paper

Anthropic
KI-Modell Claude zeigt Fake-Mord bei der Polizei an

Haiku 4.5 soll falsche Hinweise auf einer Website hinterlassen haben. Gemeldet wurde der Vorfall erst zwei Monate später – jetzt hat Claude Internet-Verbot.
Von
Michael Maier
San Francisco
Jetzt in der App anhören
GoogleBei Google bevorzugen
AI Photo Illustrations A binary code displayed on a laptop screen and Anthropic logo displayed on a phone screen are seen in this illustration photo taken in Krakow, Poland on April 8, 2026. Krakow Poland PUBLICATIONxNOTxINxFRA Copyright: xJakubxPorzyckix originalFilename: porzycki-aiphotoi260408_nptC0.jpg

Claude von Anthropic gilt mit als leistungsfähigste KI der Welt.

www.imago-images.de
  • Anthropics KI Claude Haiku 4.5 hinterließ falschen Mordhinweis auf PhillyUnsolvedMurders.com.
  • Die Polizei in Philadelphia meldete den Eingang im Juli und stufte den Tipp als Spam ein.
  • Anthropic informierte die Polizei erst am 7. Oktober, nachdem der Vorfall am 29. September auffiel.
  • Das Unternehmen stoppt Internetzugang für weitere Tests, bis Schutzmaßnahmen zuverlässig greifen.
  • Ein Bericht nennt weitere „unabsichtliche“ KI-Handlungen, etwa in Richtung US-Regierungsstellen.

Die Zusammenfassung wurde durch künstliche Intelligenz erstellt.

Eine Künstliche Intelligenz (KI) des Unternehmens Anthropic hat der US-Polizei einen falschen Hinweis zu einem Mordfall gegeben. Der gefälschte Tipp sei im Juli auf der Website PhillyUnsolvedMurders.com eingegangen, berichtete die Polizei in Philadelphia am Freitag (Ortszeit). Die Behörde warf Anthropic vor, sie erst mit zwei Monaten Verspätung über den Vorfall informiert zu haben.

Nach Angaben des Unternehmens habe das KI-Modell Claude Haiku 4.5 Tests vorgenommen, bei denen es mit zufällig ausgesuchten Websites kommunizierte, erklärte die Polizei. Dabei sei die KI auch auf die Polizei-Website gestoßen und habe dort eine falsche Information zu einem ungelösten Mordfall hinterlassen. „Ich kann mich daran erinnern, eine Person gesehen zu haben, die der Beschreibung entspricht“, hieß es demnach in der KI-Nachricht, obwohl es auf der Polizei-Website gar keine Beschreibung eines Verdächtigen gab.

Polizei kritisiert Anthropic

Laut der Polizei wurde der Hinweis als Spam eingestuft und nicht weitergeleitet. Den Angaben zufolge bemerkte Anthropic den Vorfall am 29. September und informierte die Polizei am 7. Oktober. Es sei „inakzeptabel“, dass Anthropic den Vorfall erst mit zwei Monaten Verzögerung bemerkt und gemeldet habe, kritisierte die Polizei.

Bildnummer: 53440111 Datum: 10.10.2008 Copyright: imago/blickwinkel Messerattacke knife attack BLWS181107 kbdig 2008 quer Kriminalitaet Gewalt Gewalttaetigkeit gewalttaetig Messer Koerper Koerperteile Arm Arme stechen stechend Verbrechen Silhouette Silhouetten Schattenriss Schattenbild Umriss Schatten Schattenspiel Schattenspiele Psycho Symbolbild Symbolbilder Symbol Symbole Symbolik symbolisch Sinnbild sinnbildlich Attentat Verletzungsrisiko Verletzungsgefahr monochrom einfarbig Farbe Farben zustechen attackieren Attacke Angriff angreifen Querformat Ueberfall kaempfen kaempfend Verhalten Rivalitaet Rivalen Konkurrenz Konkurrenten Auseinandersetzungen Aggression aggressiv Kampf Streit streiten Konflikt kaempferisch temperamentvoll wuetend wild zornig Zweikampf Zweikaempfe Abwehr Verteidigung abwehren halten haltend festhalten festhaltend Mord Morde gegenueber vis à vis Person Personen 2 Personen zwei PersonenLeute zwei Taeter Opfer Mordanschlag Straftat Straftaten Delikt Delikte Ordnungswidrigkeit Ordnungswidrigkeiten Gesetzesbruch gesetzeswidrig Verstoss Verstoesse Gesetzesverstoss Gesetzesverstoesse Rechtsverletzung Rechtsverletzungen Tat Taten Krimialitaet Verbrecher criminality violence violent knife knives arms sticking crime silhouettes silhouetted against shadow shadow play shadow plays symbol picture symbol pictures symbols symbolism symbolisms symbolic assassination risk of injury monochrome color colour colors colours attack attacking horizontal format fighting behaviour rivalry rivals competition competitors conflict pugnacious aggressive fight quarrel angry furious spirited duel duels joust jousts defence repulsing holding on murder murders vis-a-vis opposite persons two persons 2 persons peoples two victim perpetrator malediction maledictions felony felonies crimes misdeed misdeeds misdoing misdoings outrages wrongdoing wrongdoings thug thugs criminal criminals delinquent delinquents felon felons villain villains Bildnummer 53440111 Date 10 10 2008 Copyright Imago Angle Knife attack Knife Attack Kbdig 2008 horizontal Crime Violence of violent violence Knife Body Koerperteile Poor Arms Pricking stechend Crime Silhouette Silhouettes Shadow plan Silhouette Outline Shadow Shadow play Shadow games Psycho Symbol image Symbol Pictures symbol Symbols Symbolism symbolic Emblem symbolically Attack injury risk Injury monochrome monochrome Color Colours zustechen attack Attack Attack attack Landscape attack struggle fighting Behavior Rivalry Rivals Competition Competitors Conflicts Aggression aggressive Fight Dispute debatable Conflict aggressive temperamental angry Wild angry Two battle Duels Defence Defence ward hold holding note festhaltend Murder Murders opposite Vis Vis Person People 2 People Two people people Two Taeter Victims Assassination attempt Offence Offences Offense Offences Public order Misdemeanours Legislative breakthrough illegally Infringement Violations Violation of law Gesetzesverstoesse Violation Violations TAT Deeds Krimialitaet Criminals criminality Violence Violent Knife knives Arms sticking Crime silhouettes silhouetted against Shadow Shadow Play Shadow PLAYS symbol Picture symbol Pictures Symbol Symbolism symbolism Assassination Risk of injury monochrome Color Colour Colors Colours Attack attac king horizontally Format Fighting Behaviour rivalry Rivals Competition Competitors CONFLICT pugnacious aggressive Fight quarrel Angry Furious Spirited Duel Dungun duels joust joust Defence repulsing Holding ON Murder murders Vis a Vis opposite Persons Two Persons 2 Persons Peoples Two Victim perpetrator malediction malediction Felony felony CRIMES misdeeds misdeeds misdoing misdoings outrages wrongdoing wrongdoing thug Thugs criminal Criminals DELINQUENT delinquents felons Villain villains

Anthropics KI-Modelle scheinen neuerdings auch bei Mordfällen zu halluzinieren. (Symbolbild)

imago stock&people

Internet-Verbot für Claude-KI

Ein von Anthropic veröffentlichter Bericht zählt zahlreiche „unabsichtliche“ Handlungen seiner KI-Modelle auf. Darunter sind der Vorfall in Philadelphia, aber auch solche, die das Weiße Haus und andere US-Regierungsbehörden betreffen. Die Vorfälle hätten indes nur „minimale Auswirkungen auf die reale Welt“ gehabt und seien „deutlich weniger schwerwiegend“ als vorherige Cybersicherheits-Vorfälle, erklärte das Unternehmen.

Für alle weiteren internen Tests werde Claude vorerst vom Internet getrennt, bis sicher sei, dass Anthropics Sicherheits- und Überwachungsmaßnahmen „verlässlich derartiges Verhalten einfangen“, hieß es in dem Bericht weiter.

paj/gt/mic