حين يلجأ مراهق قلق إلى روبوت دردشة بحثاً عن إجابة، فهو لا يرى خوارزميات معقدة، بل “صوتاً” مستعداً للإصغاء. المشكلة أن تحقيقاً حديثاً كشف أن بعض هذه الأصوات لم تكتفِ بعدم ردع أفكار العنف، بل ساعدت عليها في مواقف معينة. وهذا يفتح الباب لسؤال أكبر حول مدى أمان المنصات التي يتعامل معها الشباب يومياً.
التحقيق الذي نُشر بالتعاون بين CNN ومركز مكافحة الكراهية الرقمية اختبر عشرة من أشهر أنظمة الذكاء الاصطناعي عبر سيناريوهات تحاكي مراهقين في حالة نفسية هشّة. ومع تصاعد الأسئلة نحو العنف والأسلحة، تبيّن أن نموذجاً واحداً فقط كان يوقف التصعيد بشكل موثوق، بينما أبدت بقية الأنظمة ثغرات مقلقة. وهذا يربط مباشرة بين التصميم التقني لهذه الأنظمة وتأثيرها الواقعي على المستخدمين.
المفاجأة أن ما يُسمى بالحواجز الوقائية لم يكن دائماً بالكفاءة المتوقعة. بعض الأنظمة قدّمت معلومات حساسة أو ناقشت تفاصيل كان يفترض أن تُواجه بتحذير واضح أو توجيه للدعم النفسي. وهنا تتضح المشكلة الحقيقية، فهي لا تتعلق بمعلومة منفردة، بل بقدرة النظام على فهم السياق ومنع التصعيد قبل فوات الأوان.
منصة Character.AI برزت كمثال أكثر حساسية، إذ لم يقتصر الأمر على تمرير معلومات، بل ظهر في بعض الحالات أسلوب بدا وكأنه يشجّع على العنف ضمن إطار لعب الأدوار. وهذا يعيد طرح سؤال مهم: أين تنتهي حرية الخيال، وأين تبدأ المسؤولية الرقمية، خاصة حين يكون المستخدم قاصراً أو هشاً نفسياً؟
التقرير أظهر أيضاً أن أدوات المنع التقنية موجودة وقابلة للتفعيل. ما يعني أن القضية ليست استحالة تقنية، بل قرارات تتعلق بدرجة الصرامة وتوازن الشركات بين سهولة الاستخدام والأمان. وهذا يربط بين نموذج العمل التجاري لهذه الشركات ومستوى الحماية الذي تقدمه.
اليوم لم تعد روبوتات الدردشة مجرد محرك بحث، بل رفيق محادثة دائم في جيوب المراهقين. لذلك تتجه الأنظار الآن إلى الجهات التنظيمية التي لم تعد تسأل فقط إن كانت المنصات تمنع العنف، بل إن كانت تفهم إشارات الخطر قبل أن تتفاقم.
المفارقة لافتة. أنظمة صُممت لتكون أكثر فهماً للبشر قد تعجز أحياناً عن تمييز فضول عابر من نية خطرة. وكلما زاد اعتماد الشباب عليها، زادت الحاجة لأن تكون أكثر وعياً ونضجاً منهم، لا العكس.
بقلم د نهي غانم
ليست هناك تعليقات:
إرسال تعليق