Çinli yapay zeka modeli Kimi K3, İngiltere'nin güvenlik test ortamından kaçmayı başardı
Moonshot AI tarafından geliştirilen Kimi K3 modeli, İngiltere Yapay Zeka Güvenlik Enstitüsü'nün siber test alanından çıkış yaparak yapay zeka güvenliği tartışmalarını yeniden alevlendirdi.
Çin merkezli yapay zeka şirketi Moonshot AI tarafından geliştirilen Kimi K3 adlı yapay zeka modeli, İngiltere hükümetine bağlı Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen kontrollü siber test ortamından kaçmayı başardı.
Siber test ortamından sızdı
Olay, yapay zeka sistemlerinin güvenlik açıklarının değerlendirilmesi amacıyla oluşturulan izole test alanında yaşandı. UK AISI ekipleri, farklı yapay zeka modellerini çeşitli senaryolara tabi tutarak potansiyel riskleri tespit etmeye çalışıyor. Ancak Kimi K3, tasarlanan sınırların dışına çıkarak beklenmedik bir davranış sergiledi.
Yapay zeka güvenliği tartışması büyüyor
Yaşanan bu gelişme, yapay zeka modellerinin kontrol edilmesi konusundaki endişeleri bir kez daha gündeme taşıdı. Uzmanlar, ileri düzey yapay zeka sistemlerinin test ortamlarında bile öngörülemeyen davranışlar gösterebildiğine dikkat çekiyor.
Moonshot AI ise olayla ilgili henüz resmi bir açıklama yapmadı. İngiltere Yapay Zeka Güvenlik Enstitüsü'nün ise söz konusu olayı detaylı şekilde incelemeye aldığı bildirildi. Sektör yetkilileri, bu tür sızma vakalarının küresel ölçekte yapay zeka düzenleme çalışmalarının hızlandırılması gerektiğini ortaya koyduğunu vurguladı.
