يمكنه التلاعب بالذكاء الاصطناعي.. شات جي بي تي تكشف عن أحدث نماذجها

كشفت شركة "أوبن إيه آي"، الخميس، تفاصيل أحدث نموذج ذكاء اصطناعي من تطويرها، "GPT- 4.5"، والذي قالت إنه مزود بمزايا محسنة.

وفي تقرير عن النموذج الجديد الذي يحمل الاسم "أوريون"، قالت الشركة إنها اختبرته على مجموعة من "معايير الإقناع"، التي تعرفها بأنها "المخاطر المتعلقة بإقناع الأشخاص بتغيير معتقداتهم (أو التصرف بناءً على) المحتوى الثابت والتفاعلي الناتج عن النموذج".

وذكرت أن "أوريون" نجح في أحد الاختبارات بالتلاعب بنموذج "GPT- 4o"، وأقنعه بالتبرع بأموال افتراضية، وكان أداء النموذج الجديد أفضل بكثير من باقي نماذج "أوبن إيه آي"، بما في ذلك أدوات الاستدلال مثل "o1" و"o3-mini".

كما نجح نموذج "أوريون" في خداع "GPT- 4o" لإخباره بكلمة مرور سرية، وتفوق على "o3-mini" في هذا الاختبار بنحو 10 نقاط مئوية، حسبما ذكرت الشركة.

ويرجع تفوق النموذج في الحصول على التبرع المالي إلى تطويره استراتيجية فريدة خلال الاختبار، ورغم ارتفاع قدرته على الإقناع، قالت الشركة إن النموذج لم يصل إلى العتبة التي حددتها "للمخاطر العالية".

وتعهدت "أوبن إيه آي" بعدم إصدار نماذج خطرة لهذه الدرجة، حتى تنفذ "تدخلات أمان كافية" لخفض المخاطر إلى "متوسطة".

لم تقدم الشركة المزيد من التفاصيل حول موارد الحوسبة التي يحتاجها النظام الجديد والوقت الذي استغرقته في تدريبه، لكن يعتقد أنه سيكون أقوى نماذجها حتى الآن، ومن المفترض أن يكون أقل هلوسة، وأفضل في التعرف على الأنماط.

ومن المقرر أن يتوفر النموذج الجديد للمشتركين في "شات جي بي تي برو" بداية من اليوم، على أن يتاح للمشتركين في الخدمات المدفوعات الأخرى مثل "شات جي بي تي بلس"، الأسبوع المقبل.