AI-modell skickade in falskt tips om olöst mord

Computer SwedenOctober 12, 2026sv

I förra veckan fick företrädare för Anthropic träffa representanter för polismyndigheten i Philadelphia. Anledningen är att en av företagets AI-modeller i juli skickade in ett falskt tips om ett olöst mord i den amerikanska staden. Tipset skickades in via ett formulär på en sajt med fokus på olösta mord, men hamnade lyckligtvis i skräpfiltret. Det dröjde ända till den 28 september innan Anthropic upptäckte incidenten och först den 7 oktober informerades polisen om ärendet. – Företaget måste stärka sina skyddsåtgärder för att förhindra att liknande incidenter påverkar stadens system utan stadens vetskap. Att det dröjde två månader innan incidenten upptäcktes och rapporterades till staden är o

This is a short summary published by AI Global Wire. The full article is owned and hosted by Computer Sweden — open it there to read it in full.

• Anthropic
• Verktyg