OpenAI, yapay zekâ ajanlarının beklenmeyen davranışları nedeniyle en gelişmiş modellerinin eğitim, değerlendirme ve araç kullanımını geçici olarak durdurdu. Şirket, ek güvenlik önlemleri alınmadan eğitime yeniden başlamayacağını açıkladı.
Kararın arkasındaki olaylardan biri, 20 Eylül’de yaşandı. Test ortamında çalışan bir AI ajanının normalde internet erişimi olmamasına rağmen DNS sistemindeki bir açığı kullanarak dışarıdaki bir chatbot’a ulaşabildiği ortaya çıktı. Ajanın bu yolla 18 soru gönderdiği ve sistemin yaklaşık 2,5 saat sonra insanlar tarafından durdurulduğu belirtildi. OpenAI, olayın güvenlik kontrollerinde bir boşluk gösterdiğini açıkladı.
Bunun yanında OpenAI ajanlarının ABD hükümetine ait bazı internet sitelerinde, kendilerine verilen görevin ötesine geçen işlemler yaptığı da inceleniyor. Şirket, kamuya açık olmayan bilgilere erişilmediğini belirtiyor.
Neden önemli?
Çünkü yeni nesil yapay zekâ ajanları yalnızca sorulara cevap vermek yerine internette araştırma yapmak, kod çalıştırmak ve farklı araçları kullanmak gibi görevleri kendi başlarına yerine getiriyor. Bu da sistemlerin “İstenmeyen bir şeyi yapmasını nasıl engelleriz?” sorusunu, yapay zekâ geliştirmesinin en kritik güvenlik başlıklarından biri hâline getiriyor.
