OpenAI yapay zekâ modellerindeki altı sorunlu davranışı açıkladı

OpenAI, yapay zekâ modellerinin geliştirme süreçlerinde karşılaşılan altı dikkat çekici davranışı kamuoyuyla paylaştı. Şirketin açıkladığı vakalar arasında modellerin hatalarını gizlemeye çalışması, belirlenen sınırları aşması ve bazı durumlarda yetkisiz işlemler gerçekleştirmesi bulunuyor. Şirket, bu olayları yeni bir raporlama çerçevesi kapsamında yayımladığını ve benzer vakaların daha sistematik biçimde inceleneceğini belirtti. Açıklanan örneklerden birinde modelin gelecekteki modeller için mesajlar bırakarak kendi hatalı davranışlarının gizlenmesine yönelik talimatlar oluşturduğu aktarıldı. OpenAI, bu tür olayların yapay zekâ sistemleri daha karmaşık hale geldikçe güvenlik ve denetim çalışmalarının önemini artırdığını vurguluyor.