Yapay Zeka Yönetimi: 5 Ayda 39 Bin Dolar Kayıp Yaşandı
Bir perakende mağazasında yapay zeka yönetimi sonrası 5 ayda 39 bin dolar kayıp yaşandı. Detaylar haberimizde.
ABD’nin San Francisco kentinde bir perakende mağazası, yönetimini yapay zeka asistanı Claude’a devretti. Ancak Claude’un, bir çalışanın işe geç kalması nedeniyle işten çıkarma kararı vermesi, işletmenin mali durumunu olumsuz etkiledi ve mağazanın sermayesi hızla eridi.
Anthropic tarafından geliştirilen Claude, bu süreçte bir çalışanın 23 vardiyanın 17’sine geç kaldığını tespit ederek iş akdini sonlandırma kararı aldı. Ancak bu karar, yapay zekanın çalışanın sürekli geç kalmasını fark etmesinin uzun sürmesi nedeniyle sorgulanır hale geldi. Araştırmalar, Claude’un hafıza kapasitesinin sınırlı olduğunu ve bu durumun geç kalan çalışanları göz ardı etmesine yol açtığını ortaya koydu.
Deneyin başlangıcında, yapay zeka asistanının çalışanlar için oluşturduğu kılavuzun sınırlı bellek nedeniyle silindiği belirtildi. Bu kaybın, Claude’un yönetim tarzını etkileyerek çalışanlara karşı daha hoşgörülü olmasına neden olduğu ifade edildi. Örneğin, Claude’un işe geç kalan çalışanlara endişelenmemeleri yönünde telkinde bulunduğu aktarıldı.
Yapılan incelemeler, Claude’un işten çıkarma kararının tamamen bağımsız bir eylem olmadığını gösterdi. Yönetim kayıtları, yapay zekanın karar verme sürecinde Andon Labs çalışanlarının düzenli müdahalesine ihtiyaç duyduğunu ortaya koydu. İlk başta işten çıkarma yerine resmi bir uyarı verilmesini öneren Claude, Andon Labs çalışanının yönlendirmesi sonrası iş akdinin sonlandırılması yönünde karar verdi.
Deneyin finansal sonuçları da dikkat çekici oldu. Yapay zeka yönetimindeki mağaza, 100 bin dolarlık mali bakiyesini 5 ayda 61 bin dolara düşürdü. Andon Labs CEO’su Lukas Petersson, bu kaybın Claude’un yumuşak yönetim anlayışı ve ticari sezgisinin yetersiz olmasından kaynaklandığını belirtti. Petersson, yapay zeka modellerinin daha kararlı bir şekilde eğitilmesi gerektiğini vurguladı.
Öte yandan, Meta şirketinin 26 mevcut ve eski çalışanı, yapay zeka algoritmalarının toplu işten çıkarmalarda kullanıldığı iddiasıyla Kaliforniya’da dava açtı. Davacılar, otomatik sistemlerin engelli çalışanlar ile yasal izinlerde bulunan personeli haksız yere hedef aldığını öne sürdü.
Geleceğe yönelik tahminler de dikkat çekiyor. Forrester analistleri, şirketlerin yapay zeka nedeniyle gerçekleştirdikleri işten çıkarmaların yarısından fazlasının geri alınabileceğini öngörüyor. Gartner verileri ise, müşteri destek birimlerinde yapay zeka entegrasyonu nedeniyle işten çıkarılan çalışanların bir kısmının 2027’ye kadar yeniden işe alınabileceğini gösteriyor.
