Sam Altman: Dünya yapay zekâdan korkmakta haklı
OpenAI CEO’su Sam Altman, yapay zekânın oluşturduğu riskler karşısında dünyanın endişelenmekte haklı olduğunu, güvenliğin sağlanabileceğini söyledi.
OpenAI CEO’su Sam Altman, yapay zekânın hızla ilerleyen kapasitesinin beraberinde getirdiği riskler konusunda dikkat çeken değerlendirmelerde bulundu. İnsanların bu teknolojinin olası sonuçlarından kaygı duymasını anlaşılır bulan Altman, şirketlerin gerekli önlemlerle yapay zekâyı güvenli biçimde geliştirebileceğini savundu.
San Francisco’da Salesforce tarafından düzenlenen yıllık konferansta konuşan Altman, yapay zekânın ulaştığı seviyeyi ve güvenlik tartışmalarını ele aldı. Teknolojinin yanlış sonuçlara yol açabileceği senaryoları öngörmenin artık daha kolay olduğunu belirten Altman, dünyanın bu gelişmelerden korkmakta haklı olduğunu söyledi.
Artan endişelere rağmen OpenAI ve sektördeki diğer şirketlere güvenilmesi gerektiğini ifade eden Altman, yapay zekânın güvenli şekilde geliştirilmesinin öneminin farkında olduklarını dile getirdi. Şirketlerin kendi çalışmalarını denetleyebilecek kapasiteye sahip olduğunu öne süren Altman, OpenAI’nin güvenlik konusunda gereken adımları atacağından emin olduğunu kaydetti.
Altman ayrıca güvenlik çalışmalarının, yapay zekânın yeteneklerini artırmaya yönelik faaliyetlerin önünde tutulacağını belirtti. Bu dengenin sağlanamaması halinde geliştirme süreçlerinin yavaşlatılabileceğini veya tamamen durdurulabileceğini söyledi.
Altman’ın açıklamaları, yapay zekâ şirketlerinin nasıl denetlenmesi gerektiğinin tartışıldığı bir dönemde geldi. Anthropic’ten ayrılan bir araştırmacının, yapay zekânın kontrolsüz bırakılmasının insanlık açısından ağır sonuçlar doğurabileceği yönündeki değerlendirmeleri sektör içindeki tartışmaları yeniden gündeme taşıdı.
Anthropic CEO’su Dario Amodei, yapay zekâ geliştirme hızının düşürülmesi ve hükümetlerin sektöre yönelik düzenlemeler hazırlaması gerektiğini savundu. ABD’de bazı siyasi isimler de teknoloji şirketlerinin kendi kendilerini denetlemesine karşı çıktı.
Vermont Senatörü Bernie Sanders, yapay zekânın geleceğine ilişkin kararların dünyanın en zengin kişilerinden oluşan küçük bir grup tarafından alınmaması gerektiğini belirtti. Sanders, bu konuda söz sahibi olması gerekenlerin yalnızca oligarklar değil, toplumun tamamı olduğunu ifade etti. Donald Trump’ın eski danışmanı Steve Bannon da teknoloji şirketlerinin kendi kendilerini düzenleyebileceği görüşüne itiraz etti.
Nvidia CEO’su Jensen Huang ise şirketlerin yeni yapay zekâ teknolojilerini piyasaya sürüp sürmeme konusunda karar verme yetkisini koruması gerektiğini söyledi. Yeni yasalara veya düzenlemelere ihtiyaç olmadığını savunan Huang, yapay zekâ güvenliğini esas olarak bir mühendislik sorunu şeklinde değerlendirdi.
Huang, şirketlerin mümkün olduğu kadar hızlı ilerleyebileceğini ancak kontrolün kaybedildiğine dair bir endişe ortaya çıkması durumunda çalışmaların durdurulması gerektiğini belirtti.
Bu tartışmalar sürerken OpenAI ve Anthropic yöneticileri, yapay zekâ güvenliği için sektör genelinde uygulanabilecek ortak standartlar geliştirilmesi amacıyla görüşmeler yürütüldüğünü açıkladı. Anthropic CEO’su Amodei, daha güçlü güvenlik kuralları ve kontrol mekanizmaları üzerinde diğer şirketlerle çalıştıklarını belirtirken, OpenAI yöneticisi Chris Lehane de Anthropic ve Google DeepMind’ın aralarında bulunduğu laboratuvarlarla ileri düzey yapay zekâ güvenliği standartlarının ele alındığını bildirdi.
