"أنثروبيك" تحذر: الذكاء الاصطناعي قد يطور نفسه ويخرج عن السيطرة البشرية

-دعت إلى إبطاء تطوير النماذج الأكثر تقدماً خشية اقتراب مرحلة "التحسين الذاتي المتكرر"

حذرت شركة «أنثروبيك» الأميركية من أن التطور المتسارع للذكاء الاصطناعي قد يقود إلى مرحلة تصبح فيها بعض الأنظمة المتقدمة خارج نطاق السيطرة البشرية الفعالة، داعية إلى تنسيق دولي يحد من سباق تطوير أقوى النماذج الذكية.

وقالت الشركة، المطورة لنموذج الذكاء الاصطناعي «كلود» ومقرها سان فرانسيسكو، إن تباطؤاً عالمياً ومنسقاً في تطوير الأنظمة الأكثر تقدماً قد يكون خطوة إيجابية للحد من المخاطر المحتملة. لكنها أكدت في الوقت نفسه أن أي شركة تتخذ هذه الخطوة بمفردها ستجد نفسها متأخرة عن منافسيها في سباق التكنولوجيا المتسارع.

وأوضحت أن أي وقف أو تباطؤ فعلي للتطوير لن يكون مجدياً ما لم يتم بالتنسيق بين كبرى شركات الذكاء الاصطناعي في عدة دول، وفي مقدمتها الولايات المتحدة والصين، ضمن آليات وقواعد قابلة للتحقق والرقابة من جميع الأطراف.

وشبّهت «أنثروبيك» هذا التحدي بالاتفاقيات الدولية الخاصة بالحد من الأسلحة النووية، لكنها أشارت إلى أن تطوير نماذج الذكاء الاصطناعي يمكن إجراؤه بسرية أكبر بكثير من تطوير الأسلحة التقليدية، ما يجعل الالتزام بأي قيود دولية أكثر تعقيداً وصعوبة.

وفي هذا الإطار، كشفت الشركة عن خطط لعقد مشاورات خلال الأشهر المقبلة تجمع مسؤولين حكوميين وعلماء وخبراء وشركات منافسة، بهدف مناقشة آليات إنشاء إطار دولي يحد من المخاطر المرتبطة بالذكاء الاصطناعي المتقدم.

وتستند هذه الدعوات، بحسب الشركة، إلى مؤشرات داخلية تفيد بأن الذكاء الاصطناعي بات يساهم بصورة متزايدة في تسريع تطوير أجيال جديدة من أنظمة الذكاء الاصطناعي، وهو ما قد يفتح الباب أمام مرحلة تعرف باسم «التحسين الذاتي المتكرر»، حيث تصبح الأنظمة قادرة على تطوير وتحسين أدائها ذاتياً بدرجة كبيرة ومن دون تدخل بشري مباشر.

ورغم تأكيد «أنثروبيك» أن هذه المرحلة لم تتحقق بعد وأن الوصول إليها ليس أمراً حتمياً، فإنها حذرت من أن وتيرة التطور الحالية قد تجعل هذا السيناريو أقرب مما تتوقعه الحكومات والمؤسسات المعنية، وفق ما نقلته وكالة فرانس برس.

في المقابل، تواجه هذه الطروحات تحفظات واسعة في الولايات المتحدة وقطاع التكنولوجيا، حيث يرى مسؤولون أميركيون ومديرو شركات كبرى أن أي تباطؤ في تطوير الذكاء الاصطناعي قد يمنح الصين فرصة لتعزيز تفوقها التكنولوجي في هذا المجال الاستراتيجي.

كما تعرضت الشركة لانتقادات من بعض الأطراف في القطاع ومن مسؤولين في البيت الأبيض، الذين اعتبروا أن تركيزها على السيناريوهات الأكثر تشاؤماً ينطوي على مبالغة في تقدير المخاطر، فيما ذهب آخرون إلى اتهامها بمحاولة إبطاء المنافسين تحت غطاء التحذير من مخاطر التكنولوجيا.

ورغم هذا الجدل، حظي نموذج «ميثوس» الذي تطوره «أنثروبيك» باهتمام داخل الأوساط الحكومية الأميركية، إذ تشير تقارير إلى أن البيت الأبيض اعتمد استخدامه في نطاق محدود بسبب قدراته المتقدمة في مجالات الأمن السيبراني واختبار متانة الأنظمة الإلكترونية، فيما لم يُطرح النموذج حتى الآن للاستخدام العام.