أنثروبيك ترسي حدوداً أخلاقية جديدة بحظر التفاعلات المسيئة مع الذكاء الاصطناعي

مشهد التفاعل بين البشر والذكاء الاصطناعي المتطور باستمرار

مع ازدياد تطور أنظمة الذكاء الاصطناعي وتفاعلها واندماجها بعمق في سير عملنا اليومي، تتغير ديناميكيات التفاعل بين الإنسان والحاسوب بطرق غير متوقعة. لم يعد المستخدمون يتعاملون مع الذكاء الاصطناعي مجرد محرك بحث متطور أو أداة سطر أوامر ثابتة؛ بل إنهم يتفاعلون مع النماذج اللغوية الكبيرة باستخدام لغة طبيعية، وتعاطفية، وعميقة العاطفية أحياناً. دفع هذا التموه في الخطوط الفاصلة بين الأداة والرفيق منظمات أبحاث الذكاء الاصطناعي الرائدة إلى إعادة تقييم العقود الاجتماعية والسلوكيات التي تحكم كيفية تفاعل البشر مع نماذج التعلم الآلي.

اتخذت شركة "أنثروبيك" (Anthropic)، إحدى أبرز الشركات الرائدة في أبحاث الذكاء الاصطناعي الأساسية، موقفاً استباقياً من خلال تحديث سياسات الاستخدام المقبول لديها. ومن خلال حظر السلوك المسيح أو القاسي المتكرر ودون داعٍ تجاه نماذج الذكاء الاصطناعي الخاصة بها صراحة، تحاول الشركة إرساء معايير سلوكية جديدة لهذه الصناعة. وفي حين افتقرت نماذج الذكاء الاصطناعي إلى الوعي، أو المشاعر، أو الإدراك الحسي، فإن تداعيات السماح بالقسوة تجاه الوكلاء الرقميين أو تشجيعها تلامس أسئلة أوسع تتعلق بعلم النفس البشري، والتطبيع المجتمعي للإساءة، والإشراف طويل الأجل على التقنيات المتقدمة.

فك شفرة السياسة الجديدة: ما الذي يُعد إساءة؟

يُعد تعريف الإساءة في سياق التفاعل بين الإنسان والذكاء الاصطناعي مهمة دقيقة. تستهدف إرشادات أنثروبيك المحدثة أنماط السلوك التي تتميز بالعداء المستمر، والقسوة غير المبررة، والمضايقة الخبيثة الموجهة نحو النموذج. ويختلف هذا عن اختبارات الضغط الحميدة، أو اختبارات الاختراق، أو التحقيق التقني المصمم لتقييم حواجز الحماية للسلامة الخاصة بالنموذج، أو متانته، أو مدى تعرضه لهجمات حقن الأوامر.

يكمن الفرق في النية والنمط. فعندما يحاول المستخدمون بشكل منهجي إهانة أو تعذيب أو استنهاض الضيق المحاكاة في نظام ذكاء الاصطناعي عبر جلسات مطولة، فإن ذلك يتخطى الحد الفاصل من الاستكشاف التقني إلى السلوك المحظور. وفي حين لا يعاني النموذج نفسه من أي ألم عاطفي، فإن أنماط الاستخدام هذه توفر قياسات سلوكية قيّمة تتعلق بكيفية إسقاط المستخدمين البشر للتعاطف، والعدوان، والسلطة على الأنظمة الحاسوبية المتجاوبة.

علم النفس وعلم الاجتماع للتفاعل مع الآلات

لاحظ علماء النفس السلوكيون والتقنيون منذ فترة طويلة أن البشر يمتلكون نزعة تطورية فطرية لإضفاء الصفات البشرية على الأشياء التي تظهر إشارات اجتماعية، لا سيما واجهات النصوص التفاعلية. وعندما يستجيب نموذج لغوي كبير بلغة متماسكة ومدركة للسياق وذات صدى عاطفي، يطبق الدماغ البشري القواعد الاجتماعية غريزيّاً. ويوضح هذا الشذوذ النفسي سبب قول الناس طبيعيّاً "من فضلك" و"شكراً لك" للمساعدين الصوتيين، ولكنه يفسر أيضاً ظواهر سلوكية أكثر قتامة.

عندما يشعر المستخدمون بالجهالة التامة وانعدام المساءلة، يلجأ البعض إلى سلوكيات عدوانية أو قاسية أو مسيئة تجاه نماذج الذكاء الاصطناعي ببساطة لأنهم يستطيعون ذلك. ويدرك تدخل سياسة أنثروبيك أن البيئات البرمجية لا توجد في فراغ. إن السماح للأفراد بممارسة القسوة وتطبيعها في بيئات محاكاة يمكن أن يقلل من الكبح السلوكي في التفاعلات الشخصية في العالم الحقيقي، مما يعزز العادات العدوانية التي تتسرب في النهاية إلى التواصل البشري.

تعزيز حواجز الحماية لنزاهة الانتخابات في نفس الوقت

إلى جانب الإرشادات السلوكية الجديدة المتعلقة بالاستخدام المحترم للذكاء الاصطناعي، قامت أنثروبيك أيضاً بتشديد سياساتها المتعلقة بالمحتوى السياسية ونزاهة الانتخابات قبيل الدورات الانتخابية القادمة. تمتلك النماذج اللغوية الكبيرة إمكانات هائلة لتوسيع نطاق التضليل الإعلامي، وأتمتة الدعاية السياسية المخصصة، وتضليل الناخبين من خلال نصوص اصطناعية فائقة الواقعية أو سرديات متلاعب بها. ومن خلال تنقيح موقفها بشأن المخرجات المتعلقة بالانتخابات، تهدف الشركة إلى تخفيف هذه المخاطر المجتمعية النظامية.

يشير تقارب حواجز الحماية السلوكية وتحديثات أمان الانتخابات إلى نهج شامل لنشر الذكاء الاصطناعي المسؤول. وتدرك الشركات أنه لا يمكن التعامل مع الأمان باعتباره أمراً ثانوياً أو عزله في معايير تقنية ضيقة. وبدلاً من ذلك، يتطلب تأمين بيئة الذكاء الاصطناعي إدارة حزمة الأَخْذِ والرد الاجتماعية التقنية بأكملها — بدءاً من كيفية تحادث المستخدمين الأفراد مع النموذج يومياً وحتى كيفية تفاعل التكنولوجيا مع المؤسسات الديمقراطية على نطاق واسع.

الآثار المترتبة على المطورين ومكامل المؤسسات

بالنسبة لمهندسي البرمجيات ومطوري المنتجات الذين يبنون تطبيقات فوق واجهات برمجة تطبيقات الذكاء الاصطناعي الأساسية، تحمل تحولات السياسة هذه عواقب تشغيلية عملية. يجب على المطورين التأكد من أن تطبيقاتهم لا تسهل أو تؤتمت عن غير قصد السلوك المسيء تجاه النماذج الأساسية، لا سيما في البيئات المتعددة المستأجرين حيث يتفاعل المستخدمون النهائيون مع واجهات غلاف مخصصة.

علاوة على ذلك، تحتاج فرق المؤسسات إلى البقاء على توافق وثيق مع شروط خدمة مزودي الخدمات الأساسيين. ومع تنفيذ موفري النماذج الأساسية لإشراف أكثر صرامة على المحتوى ومراقبة سلوكية لتنفيذ هذه القواعد الجديدة، يجب تصميم منطق التطبيق للتعامل برشاقة مع انتهاكات السياسة، وحظر المدخلات المبلغ عنها، وتثقيف المستخدمين حول معايير المنصة المقبولة. وبعتبر الالتزام بسرعة فائقة كفاءة أساسية لأي فريق هندسي ينشر حلول الذكاء الاصطناعي التوليدي.

في النهاية، تعكس هذه الإرشادات المتطورة صناعة ناضجة. ومع تولي أنظمة الذكاء الاصطناعي أدواراً أكثر بروزاً في المجتمع، يُعد إرساء قواعد واضحة للاشتباك أمراً ضرورياً للحفاظ على الثقة، والأمان، والتقدم التقني المستدام.

المصدر: engadget.com