قواعد جديدة من شركة «أنثروبيك» تحظر السلوك المسيء لنموذج الذكاء الاصطناعي «كلود»

في خطوة تعيد النقاش حول وعي الذكاء الاصطناعي وحدود التعامل مع النماذج المتقدمة، وضعت شركة «أنثروبيك» قواعد جديدة تحظر على المستخدمين ممارسة سلوك مسيء أو قاسٍ بصورة مستمرة وغير مبررة تجاه نموذج الذكاء الاصطناعي «كلود»، وذلك بالتزامن مع استمرار دراسة قادة الشركة لاحتمال امتلاك النماذج اللغوية شكلًا من أشكال الوعي.

وأوضحت الشركة، التي تتخذ من سان فرانسيسكو مقرًا لها، بحسب ما أوردته صحيفة «الغارديان»، أن هذه القيود تستهدف الإساءة المتعمدة والمستمرة، ولا تشمل التعبير الطبيعي عن الإحباط، أو اختبار قدرات النموذج، أو استخدامه في سياقات إبداعية تتناول موضوعات قاتمة.

وتتضمن الآليات التي تحدث عنها الشركة قدرة نموذج «كلود» على إنهاء المحادثة تلقائيًا عند التعرض للإساءة المستمرة، حيث تصف «أنثروبيك» هذا التدخل بأنه إجراء احترازي منخفض التكلفة يوفر احتياطًا إضافيًا في حال اتضح مستقبلًا أن أنظمة الذكاء الاصطناعي تمتلك شكلًا من أشكال الوعي أو الخبرة الذاتية.

وفي سياق متصل، لم يستبعد الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، احتمال امتلاك أنظمة الذكاء الاصطناعي شكلًا من أشكال الوعي، وأفادت تقارير صحفية بأن قيادات في الشركة أجرت محادثات مع علماء دين لبحث الجوانب الأخلاقية والفلسفية للوعي الاصطناعي.

في المقابل، برز موقف مختلف للرئيس التنفيذي لشركة «أوبن إيه آي»، سام ألتمان، الذي حذّر من إضفاء طابع ديني على الذكاء الاصطناعي أو منحه سلطة إصدار الأحكام البشرية، معتبرًا أن مثل هذه التصورات قد تمثل تهديدًا حقيقيًا للسلامة.