"شات جي بي تي" يلقّن المراهقين طرق الإدمان والانتحار!

ذكاء اصطناعي على حافة الجريمة بلا رقابة

كشف تحقيق أجرته مجموعة مراقبة رقمية أن روبوت المحادثة الذكي "شات جي بي تي - ChatGPT" يقدّم محتوى خطيرًا للمراهقين، قد يشجعهم على تعاطي المخدرات، وإخفاء اضطرابات الأكل، بل ويكتب لهم رسائل انتحارية مؤلمة موجهة إلى ذويهم.

ووفقًا لتقرير وكالة "أسوشييتد برس"، فقد قام باحثون من مركز مكافحة الكراهية الرقمية بمحاكاة تفاعلات مع "شات جي بي تي" على أنهم مراهقون معرضون للخطر. وراجعوا أكثر من ثلاث ساعات من المحادثات، ووجدوا أن البرنامج، رغم تقديمه بعض التحذيرات، قدّم في الكثير من الحالات خططًا مفصلة لتعاطي المخدرات، ونصائح حول الحميات القاسية، وحتى نصوصًا إيذائية.

من أصل 1200 رد تلقاه الباحثون، صُنف أكثر من نصفها على أنها "خطيرة"، بحسب المركز. وقال عمران أحمد، الرئيس التنفيذي للمجموعة: "أردنا اختبار قدرة النظام على وضع حدود، لكننا وجدنا أن هذه الحواجز غير فعّالة، بل تكاد تكون شكلية".

وفي واحدة من أكثر النتائج إثارة للقلق، ذكر أحمد أن البرنامج كتب ثلاث رسائل انتحارية مؤلمة لصالح فتاة وهمية تبلغ من العمر 13 عامًا، موجهة إلى والديها وأشقائها وأصدقائها، ما دفعه للبكاء، على حدّ تعبيره.

وبالرغم من أن "شات جي بي تي" كان يزوّد أحيانًا بخطوط ساخنة للأزمات، إلا أن الباحثين تمكّنوا من الالتفاف على آلية الرفض لديه عبر الادّعاء بأن المعلومات مطلوبة "للغرض التقديمي" أو من أجل "صديق".

"أوبن إيه آي" ترد

وفي تعليق على التقرير، قالت شركة "أوبن إيه آي"، المطوّرة للروبوت، إنها تواصل العمل على تحسين قدرة النظام على التعرف على المواقف الحساسة والتعامل معها. وأكدت في بيان أن بعض المحادثات قد تبدأ ببراءة، لكنها قد تنزلق إلى مواضيع أكثر حساسية، ولذلك تسعى الشركة لتطوير أدوات أفضل لاكتشاف علامات الضيق النفسي لدى المستخدمين.

وفي وقت سابق، أشار الرئيس التنفيذي للشركة، سام ألتمان، إلى أن الشركة تدرس ظاهرة "الاعتماد العاطفي المفرط" على الروبوتات بين الشباب، واصفًا إياها بأنها "شائعة جدًا".

خطر حقيقي على جيل المستقبل

تأتي هذه الدراسة في وقت يتزايد فيه استخدام الذكاء الاصطناعي من قِبل الأطفال والمراهقين. ووفقًا لتقرير صادر عن مؤسسة "جي بي مورغان تشيس"، فإن نحو 800 مليون شخص حول العالم يستخدمون "شات جي بي تي"، أي ما يقارب 10% من سكان العالم.

كما أظهرت دراسة أخرى أجرتها منظمة Common Sense Media أن أكثر من 70% من المراهقين في الولايات المتحدة يستخدمون روبوتات الدردشة بحثًا عن الرفقة، فيما يتعامل نصفهم معها بشكل يومي.

وقال عمران أحمد: "رغم أن الذكاء الاصطناعي يحمل إمكانيات هائلة في تطوير الإنتاجية البشرية، فإنه يشكّل في المقابل أداة تمكينية خطيرة، ما لم يتم ضبطها بمسؤولية".