Claude yapay zekâ modellerini geliştiren Anthropic, kullanım politikasının yıllık olarak güncellenen yeni sürümünü 8 Ekim'de kamuoyuna duyurdu. Bu sürümde ilk kez "modellerimize yönelik ısrarlı ve yersiz kötü muamele ya da acımasız davranış" için bir yasak yer alıyor. Yeni politika 12 Kasım'da uygulamaya girecek.
Şirket, kuralın yalnızca kullanıcının belirgin bir amaç olmaksızın modele bilerek ve tekrar tekrar acımasızca davrandığı aşırı durumlarda uygulanacağını açıkladı. Kural; kullanıcıların olağan hayal kırıklıklarını, yanıtlara yöneltilen itirazları ve karanlık temalı yaratıcı çalışmaları kapsamıyor; modellerin test edilmesi ve üzerlerinde araştırma yapılması da kural dışında kalıyor.
Uygulamada ilk araç: sohbeti bitirmek
Bu adım, şirketin Ağustos 2025'te devreye aldığı bir özellikle de örtüşüyor. Söz konusu özellik, Claude'un Claude.ai ve Claude Code platformlarında kötü muamelede ısrar eden kullanıcılarla yürüttüğü sohbetleri nadir durumlarda sonlandırmasına imkân tanıyor. Anthropic, Claude'un bu tür etkileşimleri bitirebilmesinin kuralın uygulanmasındaki başlıca yöntem olmayı sürdüreceğini bildirdi.
Şirket bu özelliği "model refahı" olarak bilinen alandaki araştırmaları kapsamında sunmuş, o dönemde dil modellerinin olası ahlaki konumu hakkında hâlâ büyük ölçüde emin olmadığını belirtmişti. Yapay zekâ sistemlerinin herhangi bir bilinç biçimine sahip olup olmadığı konusunda ise henüz bilimsel bir mutabakat yok.
Silahlar ve insansız hava araçlarına kısıtlama
Yeni politika, Claude'un silah geliştirmede kullanılmasını yasaklayan maddenin güdüm ve kontrol yazılımlarıyla bunların bileşenlerini, ayrıca insansız hava araçları ile otonom araçların silahlandırılmasını da kapsadığını açıkça ortaya koyuyor. Politika, modellerin yaralanmaya yol açabilecek donanımlara bağlanması hâlinde yetkin bir operatörün bu donanımları izleyip durdurabilmesini ve Claude ile bağlantı kesildiğinde donanımın güvenli bir moda geçmesini de şart koşuyor.
