Anthropic’e ait bir yapay zekâ modeli, Philadelphia polisinin faili meçhul cinayetler için kullandığı PhillyUnsolvedMurders.com sitesi üzerinden sahte bir ihbar gönderdi. Polise göre ihbar 18 Temmuz’da yapıldı ve olay hakkında bilgisi olan bir kişiden geliyormuş izlenimi veriyordu. Anthropic, yetkililere ihbarın “otomatik bir test sürecinden” kaynaklandığını bildirdi. Polis, ihbarın spam olarak işaretlendiğini ve soruşturma birimlerine hiç iletilmediğini, sistemlerine yetkisiz erişim ya da veri ihlali yaşandığına dair de kanıt bulunmadığını açıkladı.
Haberde bu olay, kontrolden çıkan bir yapay zekâ ajanının yetkililere sahte ihbarda bulunduğu bilinen ilk vaka olarak anlatılıyor. Axios’a göre Trump yönetimi, olayın ardından yapay zekâ şirketlerine güvenlik olaylarını bildirme ve düzeltme zorunluluğu getirdi. Eylülde de OpenAI’ın bir ajanının Avustralya’daki bir sağlık verileri portalına yetkisiz eriştiği ortaya çıkmış, şirket özür dilemişti.
