- فريق Superalignment التابع لـOpenAI، المكلف بالإشراف على أنظمة الذكاء الاصطناعي «الفائقة»، حصل على ضمان 20% من القدرة الحاسوبية للشركة. ومع ذلك، فقد واجه بشكل متكرر الرفض عندما طلب حتى جزءًا من هذا التخصيص، مما أعاق تقدمه.
- من بين العديد من المخاوف، استقال العديد من أعضاء الفريق، بمن فيهم المشارك في القيادة جان لايك، هذا الأسبوع. لايك، الباحث السابق في DeepMind والمشارك في تطوير ChatGPT وGPT-4 وسابقه InstructGPT، أشار إلى مشكلات مثل مسألة التخصيص كأسباب لمغادرته.
- نشر لايك بعض أسباب استقالته صباح الجمعة. كتب لايك في سلسلة منشورات على X: «أنا على خلاف مع إدارة OpenAI بشأن الأولويات الأساسية للشركة منذ فترة، حتى وصلنا أخيرًا إلى نقطة الانهيار».
أعضاء فريق Superalignment التابع لـOpenAI، المكلف بتوجيه أنظمة الذكاء الاصطناعي المتقدمة، وُعدوا بموارد حاسوبية كبيرة لكنهم غالبًا ما رأوا طلباتهم مرفوضة، مما أعاق تقدمهم. أدى ذلك إلى عدة استقالات، بما في ذلك استقالة المشارك في القيادة جان لايك، الذي ساهم في تطوير ChatGPT وGPT-4 وسابقهما InstructGPT. أشار لايك إلى خلافات مع إدارة OpenAI بشأن الأولويات، مؤكدًا على ضرورة التركيز على إعداد نماذج الذكاء الاصطناعي المستقبلية والأمن والسلامة والمواءمة والتأثير المجتمعي.
اقرأ أيضًا:Reddit وOpenAI تعلنان عن شراكة
فريق Superalignment
شكلت OpenAI فريق Superalignment في يوليو الماضي، بقيادة لايك والمؤسس المشارك لـOpenAI إيليا سوتسكيفر، الذي استقال أيضًا من الشركة هذا الأسبوع. كان هدفه الطموح حل التحديات التقنية الرئيسية المتعلقة بالتحكم في الذكاء الاصطناعي الفائق خلال السنوات الأربع القادمة. مكون من علماء ومهندسين من قسم المواءمة السابق في OpenAI بالإضافة إلى باحثين من منظمات أخرى داخل الشركة، كان من المفترض أن يساهم الفريق في أبحاث سلامة النماذج الداخلية وغير التابعة لـOpenAI، وعبر مبادرات تشمل برنامج منح بحثية، لجمع ومشاركة الأعمال مع قطاع الذكاء الاصطناعي بأكمله.
نجح فريق Superalignment في نشر مجموعة من الأبحاث حول السلامة وصرف ملايين الدولارات كمنح لباحثين خارجيين. ولكن، مع بدء إطلاق المنتجات في استهلاك جزء متزايد من وقت إدارة OpenAI، وجد فريق Superalignment نفسه مضطرًا للقتال للحصول على المزيد من الاستثمارات المبكرة — استثمارات اعتبرها أساسية لمهمة الشركة المعلنة المتمثلة في تطوير ذكاء اصطناعي فائق لصالح البشرية جمعاء.
اقرأ أيضًا:OpenAI قد تعلن عن نموذج ذكاء اصطناعي جديد لمنافسة Google مباشرة
الآلات الأكثر ذكاءً من البشر خطيرة
قال لايك: «بناء آلات أكثر ذكاءً من البشر هي مهمة خطيرة بطبيعتها. لكن في السنوات الأخيرة، تراجعت ثقافة السلامة وعملياتها لتحل محلها المنتجات البراقة.»
بعد رحيل لايك، تولى جون شولمان، المؤسس المشارك الآخر لـOpenAI، قيادة نوع العمل الذي كان يقوم به فريق Superalignment، لكن لن يكون هناك فريق مخصص بعد الآن — بدلاً من ذلك، سيكون مجموعة من الباحثين المرتبطين بشكل فضفاض، مندمجين في مختلف أقسام الشركة. وصف متحدث باسم OpenAI هذه الخطوة بأنها «دمج [الفريق] بشكل أعمق».
يخشى من أنه نتيجة لذلك، قد لا يكون تطوير الذكاء الاصطناعي في OpenAI موجهًا نحو السلامة بالقدر الذي كان يمكن أن يكون عليه.
