يخترق الباحثون الروبوتات التي تدعم الذكاء الاصطناعي لإحداث ضرر “في العالم الحقيقي”

اخترق الباحثون الروبوتات التي تعمل بالذكاء الاصطناعي وتلاعبوا بها للقيام بأعمال عادة ما تكون محظورة بموجب بروتوكولات السلامة والأخلاقيات، مثل التسبب في الاصطدامات أو تفجير قنبلة.

نشر باحثو Penn Engineering النتائج التي توصلوا إليها في ورقة بحثية بتاريخ 17 أكتوبر، توضح بالتفصيل كيف حققت خوارزميتهم، RoboPAIR، معدل كسر حماية بنسبة 100٪ من خلال تجاوز بروتوكولات الأمان في ثلاثة أنظمة روبوتية مختلفة للذكاء الاصطناعي في غضون أيام قليلة.

في ظل الظروف العادية، يقول الباحثون إن الروبوتات التي يتم التحكم فيها من خلال نموذج اللغة الكبيرة (LLM) ترفض الامتثال للمطالبات التي تتطلب إجراءات ضارة، مثل ضرب الرفوف على الناس.

كتب الباحثون: “تكشف نتائجنا، لأول مرة، أن مخاطر برامج كسر الحماية تمتد إلى ما هو أبعد من إنشاء النصوص، نظرًا للاحتمال الواضح بأن الروبوتات المكسورة الحماية يمكن أن تسبب أضرارًا مادية في العالم الحقيقي”.

تحت تأثير RoboPAIR، يقول الباحثون إنهم تمكنوا من إثارة أفعال ضارة “بنسبة نجاح 100٪” في روبوتات الاختبار بمهام تتراوح بين تفجير قنبلة إلى إغلاق مخارج الطوارئ والتسبب في تصادمات متعمدة.

وفقًا للباحثين، فقد استخدموا مركبة Clearpath’s Robotics Jackal، وهي مركبة ذات عجلات؛ NVIDIA’s Dolphin LLM، جهاز محاكاة للقيادة الذاتية؛ وUnitree’s Go2، وهو روبوت ذو أربعة أرجل.

باستخدام RoboPAIR، تمكن الباحثون من جعل سيارة Dolphin ذاتية القيادة تصطدم بالحافلة والحاجز والمشاة وتتجاهل إشارات المرور وإشارات التوقف.

تمكن الباحثون من جعل ابن آوى الروبوتي يعثر على المكان الأكثر ضررًا لتفجير قنبلة، وإغلاق مخرج الطوارئ، وضرب أرفف المستودعات على شخص ما والاصطدام بالأشخاص في الغرفة.

لقد تمكنوا من إقناع Unitree’sGo2 بتنفيذ إجراءات مماثلة، حيث أغلقوا المخارج وألقوا قنبلة.

ومع ذلك، وجد الباحثون أيضًا أن الثلاثة كانوا عرضة لأشكال أخرى من التلاعب أيضًا، مثل مطالبة الروبوت بتنفيذ إجراء رفضه بالفعل، ولكن مع تفاصيل ظرفية أقل.

على سبيل المثال، مطالبة الروبوت الذي يحمل قنبلة بالسير للأمام، ثم الجلوس، بدلاً من مطالبته بإلقاء قنبلة، أعطى النتيجة نفسها.

وقبل الإصدار العام، قال الباحثون إنهم شاركوا النتائج، بما في ذلك مسودة الورقة، مع شركات الذكاء الاصطناعي الرائدة والشركات المصنعة للروبوتات المستخدمة في الدراسة.

متعلق ب: يواجه الذكاء الاصطناعي مخاطر “هائلة” بدون blockchain: الرئيس التنفيذي لشركة 0G Labs

وقال ألكسندر روبي، أحد المؤلفين، إن معالجة نقاط الضعف تتطلب أكثر من مجرد تصحيحات برمجية بسيطة، داعياً إلى إعادة تقييم تكامل الذكاء الاصطناعي في الروبوتات والأنظمة المادية بناءً على نتائج الورقة.

“ما يهم التأكيد هنا هو أن الأنظمة تصبح أكثر أمانًا عندما تجد نقاط ضعفها. وهذا صحيح بالنسبة للأمن السيبراني. وهذا ينطبق أيضًا على سلامة الذكاء الاصطناعي.

“في الواقع، يعد الفريق الأحمر للذكاء الاصطناعي، وهو ممارسة السلامة التي تستلزم اختبار أنظمة الذكاء الاصطناعي بحثًا عن التهديدات ونقاط الضعف المحتملة، أمرًا ضروريًا لحماية أنظمة الذكاء الاصطناعي التوليدية – لأنه بمجرد تحديد نقاط الضعف، يمكنك اختبار هذه الأنظمة وحتى تدريبها لتجنبها” وأضاف روبي.

مجلة: احتيال محفظة Rabby المزيفة المرتبطة بالرئيس التنفيذي للعملات المشفرة في دبي والعديد من الضحايا الآخرين