Verilerimiz tehlikede mi?

Yapay Zeka devlerinde inovasyon hırsı ve etik sorunları nedeniyle güvenliğimiz tehlikede ..Büyük dil modelleri geliştiren ve yapay zeka ürünleri sunan sektör devlerinde yaşanan istifalar etik bir tartışmanın bir yansıması mı?  Sektörün devleri Anthropic ve OpenAI’da gelen peş peşe istifalar ve uyarılar, bu kurumların kapalı kapıları ardında büyük bir krizin filizlendiğini gösteriyor olabilir.

Geçtiğimiz günlerde yapay zeka güvenliği ve yönetişimi konusunda kritik gelişmeler yaşandı. Claude’un arkasındaki Anthropic şirketi, Güvenlik Araştırmaları Bölüm Başkanı’nın istifasıyla sarsıldı. Open AI’da ise bir araştırmacı, ChatGPT’nin yeni reklam stratejisindeki “kullanıcı manipülasyonu potansiyeli” nedeniyle istifa etti. Üst düzey bir güvenlik yöneticisi, platformda “yapay zeka erotiği”ne izin verilmesine karşı çıktığı süreçte işten çıkarıldı. Bir mühendis ise X üzerinden yaptığı paylaşımda yapay zekanın “varoluşsal bir tehdit” haline geldiğini vurguladı. Elon Musk’ın xAI şirketindeki kurucu ekibin yarısı (%50) bu hafta itibarıyla ayrılmış durumda.

2021 yılında OpenAI’nin ilk çalışanlarından oluşan bir grup tarafından kurulan şirket, rakiplerine kıyasla yapay zeka araştırmalarına daha güvenlik odaklı bir yaklaşım benimsediğini belirtiyor uzun süredir. İşte Mrinank Sharma, burada yapay zeka güvenlik önlemlerini araştıran bir ekibi yönetiyordu. Sharma, İstifa mektubunda, katkılarının arasında yapay zeka sistemlerinin kullanıcıları neden etkilediğini araştırmak, yapay zeka destekli biyoterörizm riskleriyle mücadele etmek ve “yapay zeka asistanlarının bizi nasıl daha az insan yapabileceğini” araştırmak olduğunu belirtti.

Sharma, “Dünya tehlikede. Ve bu tehlike sadece yapay zeka veya biyolojik silahlardan değil, şu anda ortaya çıkan bir dizi birbiriyle bağlantılı krizden kaynaklanıyor” ayrıca belirtmiş. “Değerlerimizin eylemlerimizi gerçekten yönlendirmesinin ne kadar zor olduğunu defalarca gördüm” diye eklemiş ve Anthropic’te “en önemli şeyleri bir kenara bırakma baskısıyla sürekli karşı karşıya kaldıklarını” söylemiş. (Mehmet Şafak Sarı)