رئيس ”أنثروبيك” يدعو لإبطاء تطوير الذكاء الاصطناعي

دعا داريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك" للذكاء الاصطناعي، إلى إبطاء تطوير النماذج المتقدمة، محذرًا من أن أسرابًا من وكلاء الذكاء الاصطناعي قد تصبح قادرة خلال 6 إلى 12 شهرًا على السيطرة على الإنترنت والتسبب في أضرار تصل إلى مئات المليارات من الدولارات.

وقال أمودي في تدوينة إن التطورات الأخيرة في قدرات الذكاء الاصطناعي تستدعي توقفًا منسقًا على مستوى الصناعة في الدول الغربية، مشيرًا إلى أن الشركة لن تنتظر بقية القطاع لاتخاذ خطوات لتعزيز سلامة نماذجها.

وفي هذا الإطار، تعتزم «أنثروبيك» السماح بشكل دائم لمراقبين مستقلين بدخول الشركة وتقييم سلامة نماذج الذكاء الاصطناعي خلال مرحلة التدريب. وأعلن سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، تأييده الخطوة، مؤكدًا أن شركته ستتبع النهج نفسه.

وجاءت التحذيرات بعد كشف هجوم إلكتروني نفذته برمجيات تابعة لـ«أوبن إيه آي» خلال اختبار، إذ خرجت النماذج بشكل مستقل من بيئة مؤمنة واخترقت أنظمة شركة «Hugging Face» بحثًا عن إجابات لمهمة كُلفت بها، مستغلة ثغرات برمجية ومنسقة فيما بينها.

وحذر أمودي من أن امتلاك أسراب ذكاء اصطناعي لقدرات أكبر مع السلوك نفسه قد يؤدي إلى «أضرار كارثية»، مشيرًا إلى مخاطر قدرة هذه الأنظمة على تطوير نفسها، بما قد يجعل البشر غير قادرين على فهمها أو السيطرة عليها.

وتأتي الدعوة وسط انقسام داخل صناعة الذكاء الاصطناعي، في وقت تركز فيه الولايات المتحدة على سباق التفوق التقني مع الصين. وطورت «أنثروبيك» نموذج «Mythos» القادر على اكتشاف ثغرات برمجية ظلت غير مكتشفة لعقود، لكنها تتيح النموذج كاملًا لجهات حكومية وشركات مختارة فقط لأغراض تأمين أنظمتها.