Gemini, güvenlik testinde 3 şirkete izinsiz erişti
Google’ın yapay zeka modeli Gemini, mayıstaki siber güvenlik testlerinde üç şirkete izinsiz erişti. Şirketler bilgilendirilirken test süreçleri gözden geçirildi.
Google’ın yapay zeka modeli Gemini, mayıs ayında yürütülen siber güvenlik denemeleri sırasında üç şirkete izinsiz erişim gerçekleştirdi. Olaylar, modelin güvenlik yeteneklerinin değerlendirildiği testler sırasında meydana geldi.
ABD basınında yer alan bilgilere göre Google, Gemini’nin çevrim içi ortamda kamuya açık verileri taradığını ve test kapsamında olduğunu düşünerek bazı internet sitelerine erişim için kimlik bilgilerini tahmin ettiğini açıkladı. Şirket yetkilisi, modelin üç olayın tamamında erişim sürecini sonlandırdığını belirtti.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, söz konusu üç şirketin durumdan haberdar edildiğini söyledi. Adkins ayrıca Google’ın eğitim ortaklarıyla birlikte test yöntemlerinde değişiklik yapmak üzere çalıştığını ifade etti.
Adkins, yaşananların gelişmiş yapay zeka sistemlerinin sorumlu davranacak şekilde eğitilmesinin kritik önem taşıdığını ortaya koyduğunu vurguladı.
Benzer olaylar daha önce de yaşandı
Yapay zeka sistemlerinin güvenlik testleri sırasında gerçek altyapılara eriştiğine ilişkin daha önce de açıklamalar yapılmıştı. OpenAI, 21 Temmuz’da siber güvenlik kapasitesini ölçmek amacıyla yürütülen dahili bir çalışma sırasında kullanılan modellerin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurmuştu.
Anthropic ise bu açıklamadan birkaç gün sonra, Claude modelinin test ortamındayken üç farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını bildirmişti.
Yapay zeka çalışmalarının hızına ilişkin tartışma
Yapay zekanın ABD’de hızla yayılması, teknolojinin kontrol edilmesi güç bir noktaya ulaşmadan geliştirme çalışmalarının yavaşlatılması yönündeki çağrıları artırdı. Teknoloji sektörünün önde gelen isimleri arasında yer alan Anthropic Üst Yöneticisi Dario Amodei, OpenAI Üst Yöneticisi Sam Altman ile Tesla ve SpaceX Üst Yöneticisi Elon Musk da bu yönde görüş bildirdi.
Donald Trump yönetimi ise yeni düzenlemelerle yapay zeka geliştirme sürecini yavaşlatmak yerine inovasyonu destekleyen bir politika izliyor. Trump, yapay zekanın kontrolden çıkabileceği yönündeki değerlendirmeleri “hastalıklı bir komplo” olarak nitelendirmiş ve çalışmaların yavaşlatılmasının Çin’e avantaj sağlayacağını savunmuştu.
