موظف سابق في OpenAI يستقيل لتجنب “العمل لصالح تيتانيك الذكاء الاصطناعي”

كشف ويليام سوندرز، الموظف السابق في شركة OpenAI وعضو فريق “المحاذاة الفائقة” بالشركة، مؤخرًا أنه استقال من الشركة لأنه شعر أنها كانت على مسار تصادمي مع المأساة، تمامًا مثل سفينة RMS Titanic المنكوبة في عام 1912.

وكما اكتشف موقع Business Insider، قدم سوندرز تعليقه خلال حلقة من بودكاست الصحفي التكنولوجي أليكس كانترويتز.

وقال سوندرز لكانترويتز إنه خلال السنوات الثلاث التي قضاها في شركة OpenAI، كان يسأل نفسه أحيانًا ما إذا كانت الشركة تسير على مسار “أشبه ببرنامج أبولو أو أشبه بتيتانيك”.

ويبدو أن منطقه هو أن برنامج أبولو الفضائي نجح، بفضل الجهود العلمية الحذرة، على الرغم من انتكاساته، في حين أن تيتانيك كان فاشلاً على الرغم من نجاحاته.

بير سوندرز:

“لقد بذلنا الكثير من الجهد لجعل السفينة آمنة وبناء حجرات محكمة الغلق حتى نتمكن من القول إنها غير قابلة للغرق. ولكن في الوقت نفسه، لم يكن هناك ما يكفي من قوارب النجاة للجميع.”

OpenAI مثل تيتانيك

يصف سوندرز فلسفة الشركة العامة بأنها تعطي الأولوية لتطوير المنتجات بدلاً من تنفيذ احتياطات السلامة المعقولة.

وهو يرسم صورة لمكتب حيث يتم معاقبة الموظفين الذين يثيرون مخاوف تتعلق بالسلامة، وتركز القيادة على الربح.

قال سوندرز: “بمرور الوقت، بدأنا نشعر حقًا أن القرارات التي تتخذها القيادة كانت أشبه ببناء شركة وايت ستار لاين للسفينة تيتانيك”.

الجبل الجليدي

ولم يكن سوندرز أول شخص يختلف مع الطريقة التي تدير بها شركة OpenAI أعمالها. فقد رفع إيلون ماسك، أحد المؤسسين المنفصلين للشركة، دعوى قضائية ضدها مؤخرًا بسبب مزاعم بأنها انحرفت كثيرًا عن مهمتها الأصلية. وهذا على الرغم من حقيقة أن ماسك لم يكن له أي علاقة بشركة OpenAI منذ سنوات ويدير حاليًا منافسته المباشرة، وهي شركة xAI. وقد تم سحب الدعوى لاحقًا.

تأسست شركة الذكاء الاصطناعي المنافسة Anthropic في عام 2021 من قبل موظفين سابقين ومؤسسين مشاركين في OpenAI بسبب مخاوف من أن OpenAI لم تركز بشكل كافٍ على الثقة والأمان.

ولكن على الجانب الآخر، غادر إيليا سوتسكيفر، وهو أحد المؤسسين المشاركين المنفصلين الآن ورئيس علمائها السابق، الشركة في مايو/أيار 2024 لبدء شركته الخاصة، وكتب في ذلك الوقت أنه “واثق” من أن فريق OpenAI سيكون قادرًا على تحقيق أهدافه بأمان.

مع رحيل العديد من الموظفين، واستخدام تشبيه تيتانيك من قبل موظف واحد على الأقل، فإن السؤال المطروح هو: من أو ما هو الجبل الجليدي؟

إذا كان الركاب في هذا القياس هم نحن البشر جميعًا، فإن الجبل الجليدي يمثل التهديد الوجودي الذي يشكله برنامج ChatGPT والأنظمة المشابهة له على مجتمع غير مستعد. وإذا أصبح الذكاء الاصطناعي أكثر ذكاءً وقدرة منا، ولم يكن لدينا ما يكفي من “قوارب النجاة” لحماية الجميع من إمكانية إلحاق الضرر به، فقد نتجه نحو المأساة.

ولكن إذا كان الركاب هم المساهمين وأصحاب المصلحة الذين ينتظرون من شركة OpenAI إنشاء ذكاء اصطناعي ذكي مثل البشر، وهذا لم يحدث أبدًا، فربما يمثل الجبل الجليدي انفجار فقاعة الذكاء الاصطناعي التوليدي.

متعلق ب: شركات التكنولوجيا الكبرى تواجه حسابات مالية إذا لم يتم إطلاق الذكاء الاصطناعي على المستوى البشري قريبًا