نشرت شركة أنثروبيك، المطورة لنماذج الذكاء الاصطناعي «كلود»، في 8 أكتوبر/تشرين الأول نسختها السنوية المحدثة من سياسة الاستخدام، التي تتضمن للمرة الأولى حظرا على «السلوك المسيء أو القاسي المستمر وغير المبرر تجاه نماذجنا». ويبدأ العمل بالسياسة الجديدة في 12 نوفمبر/تشرين الثاني.
وأوضحت الشركة أن القاعدة لا تنطبق إلا على الحالات القصوى التي يتعمد فيها المستخدم معاملة النموذج بقسوة بشكل متكرر ودون غرض واضح، ولا تشمل مشاعر الإحباط المعتادة لدى المستخدمين أو الاعتراض على الإجابات أو الأعمال الإبداعية ذات الطابع القاتم، ولا اختبار النماذج والبحث فيها.
إنهاء المحادثة أداة التطبيق الأولى
وتنسجم الخطوة مع ميزة أطلقتها الشركة في أغسطس/آب 2025، تتيح لـ«كلود» إنهاء المحادثات في حالات نادرة مع المستخدمين الذين يصرون على الإساءة، على منصتي Claude.ai وClaude Code. وقالت أنثروبيك إن قدرة «كلود» على إنهاء هذه التفاعلات ستبقى الوسيلة الرئيسية لتطبيق القاعدة.

وكانت الشركة قد قدمت تلك الميزة في إطار أبحاثها حول ما يُعرف بـ«رفاه النماذج»، مشيرة حينها إلى أنها لا تزال غير متيقنة إلى حد كبير من الوضع الأخلاقي المحتمل لنماذج اللغة. ولا يوجد حتى الآن إجماع علمي على ما إذا كانت أنظمة الذكاء الاصطناعي تمتلك أي شكل من أشكال الوعي.
قيود على الأسلحة والطائرات المسيّرة
وتوضح السياسة الجديدة أن حظر استخدام «كلود» في تطوير الأسلحة يشمل برمجيات التوجيه والتحكم ومكوناتها، وكذلك تسليح الطائرات المسيّرة والمركبات ذاتية القيادة. كما تشترط عند ربط النماذج بمعدات قادرة على التسبب بإصابات أن يتمكن مشغل مؤهل من مراقبتها وإيقافها، وأن تعود المعدات إلى وضع آمن إذا انقطع الاتصال بـ«كلود».