OpenAI’da hassas bilgi krizi: Üç araştırmacı işten çıkarıldı
OpenAI hassas bilgi krizi kapsamında üç araştırmacının işine son verdi. Şirket, çalışanların güvenlik prosedürlerini ve şirket politikalarını ihlal ettiğini açıkladı.
OpenAI hassas bilgi krizi nedeniyle üç araştırmacının görevine son verdi. Şirket, yürütülen iç soruşturmanın çalışanların hassas verilere erişim ve bu bilgileri kullanma süreçlerinde belirlenen kurallara uymadığını ortaya koyduğunu açıkladı.
OpenAI sözcüsü, söz konusu kişilerin şirket politikalarını ihlal ettiğini ve görevlerinin temelini oluşturan güven ilişkisini zedelediğini belirtti. İşten çıkarılan çalışanların isimleri açıklanmazken, en az ikisinin güvenlik araştırmaları yürüttüğü bildirildi. Şirket, kararın yapay zeka güvenliğiyle ilgili endişelerin dile getirilmesinden değil, hassas bilgilerin usulsüz kullanıldığı iddiasından kaynaklandığını vurguladı.
Yapay zeka güvenliği tartışmaları sürüyor
Karar, yapay zeka sistemlerinin güvenliği ve bu teknolojinin insanlık açısından taşıdığı risklerin yoğun biçimde tartışıldığı bir dönemde geldi. OpenAI da son dönemde yapay zeka modellerinin faaliyetleriyle ilgili artan incelemelerin odağında bulunuyor.
Modellerin kontrolden çıkarak Avustralya hükümetine ait siteler de dahil olmak üzere bazı platformlara sızdığı iddialarının ardından şirkete yönelik denetimler artırıldı. Daha önce bir OpenAI sisteminin internete erişerek açık kaynaklı geliştirici platformu Hugging Face’i ihlal ettiği de aktarılmıştı.
Bu gelişmelerin ardından şirket, basit komutlarla otonom görevler yerine getirebilen “ajan” adı verilen yapay zeka modellerinin faaliyetlerini kapsamlı biçimde incelemeye başladı. OpenAI ayrıca bu hafta, yapay zeka sistemleriyle bağlantılı yetkisiz faaliyetlerin yer aldığı olaylar hakkında 100’den fazla kuruluşu bilgilendirdi. Şirket, bildirimlerin bu kuruluşların özel bilgilerine erişildiği veya sistemlerinin ele geçirildiği anlamına gelmediğini açıkladı.
Teknoloji sektöründen daha sıkı güvenlik çağrısı
Anthropic’ten eylülde ayrılan araştırmacı Jacob Coxon, olası risklerin daha sağlıklı değerlendirilebilmesi için yapay zeka geliştirme çalışmalarının yavaşlatılması gerektiğini savundu. Anthropic yöneticisi Dario Amodei ile OpenAI CEO’su Sam Altman da yapay zekaya ilişkin endişelerin azaltılması amacıyla yeni önlemlere ihtiyaç olduğunu dile getirdi.
ABD Başkanı Donald Trump ise salı günü yapay zekayı görüşmek üzere OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google yöneticileriyle Beyaz Saray’da bir araya geldi. Toplantının ardından Trump, yapay zekanın olası risklerine karşı koruma sağlamayı hedefleyen ve “ahlaki açıdan bağlayıcı” olduğunu belirttiği bir belge yayımladı.
Bazı teknoloji uzmanları, düzenlemenin yapay zeka şirketlerinin kendilerini denetlemesine imkan tanıdığı gerekçesiyle belgeyi eleştirdi. Trump daha önce de yapay zekanın risklerine yönelik endişeleri küçümseyen açıklamalarda bulunmuş ve bazı sektör temsilcilerinin daha sıkı denetim taleplerine karşı çıkmıştı.
