Uppgifter: Open AI och Anthropic utreder tiotusentals incidenter

Computer SwedenSeptember 28, 2026sv

Enligt uppgifter till nyhetssajten Axios utreder Open AI och Anthropic för närvarande tiotusentals incidenter där företagens AI-modeller har agerat problematiskt. Bland annat har AI-modellerna rymt från sandlådor, tagit sig förbi säkerhetssystem, kapat webbsidor och skapat egna diskussionsforum. Många fall är kända men vidden av problemen verkar alltså vara mycket större än tidigare rapporterats, enligt Axios . Som en följd av incidenterna har Open AI bestämt sig för att pausa träningen av sina AI-modeller, något som ska ge företaget tid att få ordning på problemen. Anthropic ska å sin sida ta hjälp av externa säkerhetsforskare för att ta reda på vad som kan göras för att hindra liknande inc

This is a short summary published by AI Global Wire. The full article is owned and hosted by Computer Sweden — open it there to read it in full.

• Anthropic
• Verktyg