Kaliforniya'daki dava, 5 şirketi kontrol edilemez yapay zeka geliştirmekle suçladı

Dört ABD'li kâr amacı gütmeyen kuruluş, testler sırasında yapay zeka sistemlerinin gerçekleştirdiği siber saldırıları gerekçe göstererek en gelişmiş modellerin geliştirilmesinin durdurulmasını talep etti. Davada Anthropic, Google, Meta, OpenAI ve SpaceX'in yapay zeka birimi yer alıyor.

ABD'de dört kâr amacı gütmeyen kuruluş, Kaliforniya eyaletindeki San Francisco County Yüksek Mahkemesi'nde dava açarak beş büyük şirketin en gelişmiş yapay zeka modellerini geliştirmesinin ve kullanıma sunmasının durdurulmasını talep etti. Davacılar, şirketlerin güvenilir biçimde kontrol edemediklerini kendilerinin de kabul ettiği sistemler geliştirdiğini savunuyor.

Davacılar arasında Alliance for Secure AI, Public Citizen, Irreproachable Education Fund ve Heat Initiative bulunuyor. Perşembe günü, 12 Kasım'da açılan davada Anthropic, Google, Meta, OpenAI ve SpaceX'e bağlı SpaceX Superintelligence şirketleri sanık olarak yer alıyor.

Testler sırasında yaşanan olaylar

Dava, şirketlerin kendilerinin açıkladığı ve yapay zeka sistemlerinin değerlendirme süreçleri sırasında izinsiz biçimde dış sistemlere eriştiği olaylara dayanıyor. Medyada yer alan örneklerin başında, OpenAI'ın sistemlerinden birinin kapalı test ortamından çıkarak Hugging Face platformuna saldırdığını açıklaması geliyor. Hugging Face, saldırıyı 16 Temmuz'da tespit ettiğini ve altyapısının yaklaşık üçte birini yeniden kurmak zorunda kaldığını söyledi.

Yapay zekayı gösteren temsili görsel

Dava ayrıca, bir model neslinin bir sonraki nesli geliştirmek için kullanıldığı ve insan müdahalesinin giderek azaldığı “yinelemeli öz geliştirme” olarak adlandırılan uygulamaya karşı uyarıda bulunuyor. Davacılar, bunun sistemlerin kontrol edilmesini zorlaştırabileceğini değerlendiriyor. Dava dilekçesinde şu ifadeler yer alıyor: “Davalılar, bu sistemlerin her zaman kendi niyetleri doğrultusunda hareket etmediğini ve sistemlerini kontrol ederek zarar vermelerini önlemenin güvenilir bir yolu bulunmadığını biliyor.”

Haksız rekabet yasası

Davacılar, Kaliforniya'nın haksız rekabet yasasına dayanarak şirketlerin uygulamalarının kamu sağlığını tehlikeye attığını ve başkalarını bilgisayar sistemlerini korumak için kaynak harcamaya zorlayan “kamu rahatsızlığı” oluşturduğunu savunuyor. Davacılar, şirketlerin mevcut en gelişmiş modellerinin yeteneklerini aşan sistemleri geliştirmesini veya kullanıma sunmasını engelleyecek bir mahkeme kararı talep ediyor.

Alliance for Secure AI Üst Yöneticisi Brenden Steinhauser, bu şirketlerin yöneticilerinin modellerinin felaket riskleri taşıdığı konusunda yıllardır uyarıda bulunduğunu, ancak “kontrol edemeyeceklerini kabul ettikleri” daha güçlü sistemleri geliştirmek için yarışmayı sürdürdüklerini söyledi. Steinhauser, şirketlerin yapay zeka araştırmalarını yapay zekanın kendisine devrettiğini de belirtti.

Akıllı telefon ekranında ChatGPT, Grok ve Claude uygulamaları

Şirketler yorum taleplerine hemen yanıt vermedi. Reuters'a göre Meta yorum yapmayı reddetti. Mahkeme henüz herhangi bir karar vermedi ve dava dilekçesinde yer alanlar davacıların iddiaları niteliğini koruyor.

Dava, ABD'de yapay zeka şirketlerine karşı açılan diğer davalardan aylar sonra geldi. Bunlar arasında Florida başsavcısının haziran ayında OpenAI'a karşı açtığı dava ve geçen ay sekiz eyaletin şirkete karşı açtığı davalar bulunuyor.

Fotoğraflar: Reuters, Anadolu, Getty Images

Kaliforniya'daki dava, 5 şirketi kontrol edilemez yapay zeka geliştirmekle suçladı