أنثروبيك تحذر من التطور السريع للذكاء الاصطناعي ومخاطره المجتمعية قبيل طرحها العام

دعت شركة «أنثروبيك» مطوري الذكاء الاصطناعي الكبار إلى التفكير في وقف منسق وقابل للتحقق لتطوير التكنولوجيا، محذّرة من أن التقدم السريع قد يسمح قريباً لأنظمة الذكاء الاصطناعي بتحسين نفسها بوتيرة أسرع من قدرة المجتمع على إدارة المخاطر الناتجة عنها.

وقالت الشركة المطورة لروبوت «كلود» إن قدرة أنظمة الذكاء الاصطناعي على إنجاز المهام بشكل مستقل تتضاعف تقريباً كل أربعة أشهر، مشيرة إلى أن القطاع يتجه نحو ما يُعرف بـ«التحسين الذاتي التكراري»، وهي المرحلة التي تصبح فيها الأنظمة قادرة على تطوير نفسها دون تدخل بشري.

وأضافت الشركة في تدوينة مطولة نشرتها الخميس: «إذا أصبحت الأنظمة قادرة على بناء نسخها اللاحقة بالكامل بنفسها، فإن طرق تأمينها ومراقبتها وتوجيه سلوكها ستصبح أكثر أهمية بكثير»، معتبرة أن التوقف المؤقت عن التطوير قد يمنح المجتمع فرصة «للتعامل مع التداعيات الهائلة لهذه التكنولوجيا».

وكتب المؤسس المشارك للشركة جاك كلارك، إلى جانب مديرة معهد «أنثروبيك» مارينا فافارو: «لسنا هناك بعد، والتحسين الذاتي التكراري ليس أمراً حتمياً، لكنه قد يأتي أسرع مما تستعد له معظم المؤسسات».

وتزايدت المخاوف من خروج أنظمة الذكاء الاصطناعي المتقدمة عن السيطرة البشرية مع ازدياد قدراتها بشكل متسارع. وكانت نماذج «ميثوس» التابعة لـ«أنثروبيك» قد أثارت صدمة في قطاعات مثل البنوك والبرمجيات في وقت سابق من العام، بعدما أظهرت قدرة كبيرة على اكتشاف الثغرات البرمجية.

ورغم هذه المخاوف، لا يزال التنظيم الحكومي بطيئاً، خصوصاً في الولايات المتحدة حيث توجد أبرز مختبرات الذكاء الاصطناعي. وأصدر الرئيس الأميركي دونالد ترامب هذا الأسبوع أمراً تنفيذياً يحمّل الشركات نفسها مسؤولية السلامة، عبر مطالبتها طوعياً بتقديم نماذجها الأكثر تطوراً لاختبارات أمن إلكتروني حكومية قبل طرحها للجمهور.

وكان باحثون في مجال الذكاء الاصطناعي قد دعوا سابقاً إلى وقف مؤقت للتطوير، لكن تلك الجهود لم تحقق نجاحاً يُذكر. ومن بين الداعمين لمبادرة عام 2023 التي طالبت بتجميد تطوير الذكاء الاصطناعي لمدة ستة أشهر، الملياردير إيلون ماسك مالك شركة «إكس إيه آي».

وعُرفت «أنثروبيك» منذ تأسيسها بتركيزها على السلامة والأمان في الذكاء الاصطناعي. ففي وقت سابق من هذا العام، رفضت السماح للجيش الأميركي باستخدام نماذجها في المراقبة الداخلية أو الأسلحة ذاتية التشغيل بالكامل، ما أثار غضب الحكومة الأميركية وأدى إلى إدراجها على قائمة الأمن القومي السوداء المقرر تطبيقها لاحقاً في 2026.

لكن تقارير أشارت الجمعة إلى أن التوتر بين الشركة وبعض الجهات الحكومية الأميركية بدأ يتراجع.

ورغم خطابها التحذيري، واصلت «أنثروبيك» إطلاق نماذج أكثر قوة. كما تراجعت في فبراير عن تعهد رئيسي يتعلق بالسلامة، عندما أعلنت أنها لن تؤخر طرح نماذج خطيرة محتملة إذا اقترب المنافسون من قدراتها التقنية.

وقدرت قيمة الشركة مؤخراً بنحو 965 مليار دولار بعد جولة تمويل ضخمة، كما تقدمت سراً بطلب طرح عام أولي في الولايات المتحدة يوم الاثنين، لتتقدم بذلك على منافستها «أوبن إيه آي» من حيث التقييم وسباق جمع التمويل.

دعوة لتحرك منسق

وحذرت «أنثروبيك» من أن أي تباطؤ أحادي أو غير منسق في تطوير الذكاء الاصطناعي قد يأتي بنتائج عكسية إذا واصلت الجهات الأقل حذراً تطوير التكنولوجيا، ما قد يقلل مستوى الأمان العام.

وقالت إن أي وقف فعّال للتطوير سيتطلب اتفاقاً بين «عدة مختبرات كبيرة تمتلك موارد ضخمة وتقف على حدود التكنولوجيا»، إلى جانب وضع قواعد واضحة تحدد متى يبدأ التوقف ومتى ينتهي، والجهة التي ستشرف عليه.

وأضافت: «التوقف الأحادي من مختبر واحد يمكن تنفيذه فوراً، لكنه يحقق نتائج محدودة، لأنه يغيّر فقط هوية المتصدر، ولا يخلق عملية النقاش الجماعي المفقودة حالياً».

وأوضحت الشركة أن ذراعها البحثية «معهد أنثروبيك» سيدرس الأنظمة المطلوبة لدعم أي تباطؤ محتمل، كما سيجمع خلال الأشهر المقبلة صناع سياسات وباحثين ومنظمات مجتمع مدني وشركات منافسة لمناقشة إدارة مخاطر مثل التحسين الذاتي التكراري.

ولم تستجب شركات «أوبن إيه آي» و«إكس إيه آي» و«ألفابت» و«ميتا بلاتفورمز» و«ميسترال» فوراً لطلبات التعليق بشأن ما إذا كانت ستدعم هذه الدعوة.