حالة ضد السيارات الذكية: لماذا نحن أفضل بدونها

• إن نقص الفهم للتكنولوجيا في جميع أنحاء الصناعة والحكومة أمر صادم، ويجب أن تكون المعرفة بالسيارات المجهزة بتقنية الذكاء الاصطناعي واسعة الانتشار.
• من الصعب التنبؤ بنمط فشل الذكاء الاصطناعي، ولا يمكن لأحد أن يضمن أن مثل هذه الآلة لن ترتكب أخطاءً أبدًا.
• لدى القراصنة العديد من الطرق لتعطيلك: هجمات البرامج الضارة، هجمات الوسيط، هجمات حجب الخدمة، هجمات الفدية.
• لم يبدأ تنظيم الذكاء الاصطناعي في السيارات بعد، ولا يزال أمام السيارات التي تحمل الذكاء الاصطناعي طريق طويل.

تُستخدم تقنية الذكاء الاصطناعي الآن على نطاق واسع في السيارات ذاتية القيادة، إلى جانب أجهزة الاستشعار والكاميرات والرادار وغيرها للقيادة بين الوجهات دون تدخل بشري. تشمل الشركات التي تطور و/أو تختبر المركبات ذاتية القيادة: Audi، BMW، Ford، Google، General Motors، Tesla، Volkswagen، وVolvo. رائع! يمكن للسائق تحرير يديه والاستمتاع بالرحلة! ولكن هل هذا هو الحال؟

فكرة أن الذكاء الاصطناعي يمكن أن يكون خطرًا بالإضافة إلى كونه فائدة قد نوقشت منذ فترة طويلة. أعتقد أن هذا صحيح بشكل خاص في السيارات والمركبات.

إلى حد ما، يوفر الذكاء الاصطناعي مزايا كبيرة، حيث يزيل الخطأ البشري من معادلة القيادة. ولكن ماذا عندما يحدث خطأ؟

إليك 4 أسباب تجعلني أعتقد أن الذكاء الاصطناعي لا يستحق العناء:

• شعور زائف بالأمان يشوش على السائقين.
• سوء تقدير الذكاء الاصطناعي
• هجمات القراصنةs
• نقص اللوائح المتعلقة بالاعتراف بالحوادث

يرجى ربط حزام الأمان، السيارة بدون ذكاء اصطناعي على وشك الانطلاق!

القلق رقم 1: شعور زائف بالأمان

ماري (ميسي) إل. كامينغز، زميلة IEEE الأقدم وأستاذة في معهد ديوك لعلوم الدماغ (DIBS) بجامعة ديوك، طلبت من لجنة التجارة والعلوم والنقل في مجلس الشيوخ الأمريكي في عام 2016 تنظيم استخدام الذكاء الاصطناعي في السيارات. لكن لا توسلات ماري (ميسي) إل. كامينغز ولا وفاة براون دفعت الحكومة إلى التحرك. نقص فهم التكنولوجيا عبر الصناعة والحكومة أمر صادم.

الآن السؤال الذي يجب أن ننظر فيه هو: إذا أصبحت السيارات ذاتية القيادة واسعة الانتشار، فإن الخطأ البشري في التشغيل يُستبدل بالخطأ البشري في البرمجة. هل هذا هروب من قاتل الطرق؟

غالبًا ما يؤكد مؤيدو السيارات ذاتية القيادة أنه كلما تخلصنا من السائقين مبكرًا، كلما كنا أكثر أمانًا على الطريق. مستشهدين بإحصائيات من الإدارة الوطنية للسلامة المرورية على الطرق السريعة، يزعمون أن 94٪ من الحوادث ناتجة عن السائقين البشر. لكن هذه الإحصائية قد أُخرجت من سياقها وهي غير دقيقة. علاوة على ذلك، فإن الادعاءات بأن السيارات ذاتية القيادة ستكون أكثر أمانًا من السيارات التي يقودها البشر تتجاهل ما يعرفه أي شخص عمل في تطوير البرمجيات جيدًا: كود البرمجيات عرضة جدًا للأخطاء، وستزداد المشكلة سوءًا كلما أصبحت الأنظمة أكثر تعقيدًا.

كان هناك حادث أكتوبر 2021 لسيارةPonyذاتية القيادة تصطدم بلافتة، وحادث أبريل 2022 لشاحنةTuSimpleتصطدم بحاجز خرساني، وحادث يونيو 2022 لسيارة أجرة روبوتية منCruise توقفت فجأةأثناء الانعطاف يسارًا، وحادث مارس 2023 لسيارة أخرى من Cruise اصطدمت بحافلة من الخلف.

اقرأ أيضًا: سائقو فولكسفاجن على وشك الانضمام إلى محادثة ChatGPT

القلق رقم 2: نظام الذكاء الاصطناعي ينشط عندما لا ينبغي

أحد السيناريوهات التي يجب أن نأخذها في الاعتبار هو إذا تم تنشيط نظام الذكاء الاصطناعي عندما لا ينبغي (يتوقف فجأة عندما يكتشف "ظلًا" لعائق ما أمامه)، أو لا يستجيب عندما ينبغي. في أي موقف ستكون؟

من المسلم به، إن نمط فشل الذكاء الاصطناعي يصعب التنبؤ به، أو لا يمكن لأحد أن يضمن أن مثل هذه الآلة لن ترتكب أخطاءً أبدًا.

نموذج اللغة الكبير (LLM) يخمن الكلمات والعبارات التي ستظهر بعد ذلك بالرجوع إلى أرشيف تم جمعه من البيانات الموجودة أثناء التدريب. وحدة القيادة الذاتية تفسر المشهد بناءً على قاعدة بيانات من الصور الموسومة (هذه سيارة، هذا أحد المشاة، هذه شجرة) وتقوم بتخمينات مماثلة لتقرر كيفية التنقل حول العوائق. هذه الصور الموسومة تم توفيرها أيضًا أثناء التدريب. لكن لا يمكن نمذجة كل الاحتمالات، لذا يصعب جدًا التنبؤ بأنماط الفشل العديدة.

أحد أنماط الفشل التي لم تكن متوقعة سابقًا هو الكبح الوهمي. بدون سبب واضح، تقوم مركبة ذاتية القيادة بالفرملة فجأة، مما قد يتسبب في اصطدام خلفي بالمركبة التي خلفها والمركبات الأخرى التي خلفها. في مايو 2022، أرسلت NHTSA رسالة إلى Tesla تشير إلى أن الوكالة تلقت 758 شكوى حول الكبح الوهمي في موديل 3 و Y. في مايو، ذكرت صحيفة Handelsblatt الألمانية 1500 شكوى حول مشاكل الفرامل في سيارات Tesla و 2400 حول التسارع المفاجئ. يبدو الآن أن معدل الاصطدام الخلفي للسيارات ذاتية القيادة يبلغ ضعف معدل السيارات التي يقودها البشر تقريبًا.

كان Watson من IBM المبني على الذكاء الاصطناعي، سلف LLM اليوم، جيدًا في التخمين ولكن لم يكن لديه معرفة حقيقية، خاصة عندما يتعلق الأمر باتخاذ الأحكام في ظل عدم اليقين واتخاذ القرارات بناءً على معلومات غير كاملة. نماذج LLM الحالية ليست استثناءً: النماذج الأساسية ببساطة لا يمكنها التعامل مع نقص المعلومات، ولا تملك القدرة على تقييم ما إذا كانت تقديراتها جيدة بما فيه الكفاية في هذا السياق.

هذه المشاكل شائعة في مجال القيادة الذاتية. حادث يونيو 2022 شمل سيارة أجرة روبوتية من Cruise عندما قررت الانعطاف يسارًا كبيرًا بين مركبتين. كما هو مفصل في تقرير حادث من قبل خبير سلامة السيارات Michael Woon، قامت السيارة بشكل صحيح باتخاذ مسار قابل للتنفيذ، لكن في منتصف الانعطاف، ضغطت على الفرامل بقوة وتوقفت في منتصف التقاطع. لقد خمنت أن سيارة قادمة في المسار الأيمن ستنعطف، على الرغم من أن الانعطاف كان مستحيلًا جسديًا بالسرعة التي كانت تسير بها السيارة. هذا عدم اليقين أربك Cruise وجعلها تتخذ أسوأ القرارات الممكنة. سيارة قادمة من نوع Prius فشلت في الانعطاف واصطدمت مباشرة بسيارة Cruise، مما أصاب ركاب المركبتين.

اقرأ أيضًا: أبل توقف مشروع تطوير السيارات الكهربائية الذي استمر لعقد

اقرأ أيضًا: هواوي في محادثات مع أودي ومرسيدس للاستثمار في شركة سيارات ذكية

اختبار سريع

بالنسبة لبطاريات الليثيوم، ما هي أفضل درجة حرارة تشغيل؟

A. 30 درجة مئوية

B. 50 درجة مئوية

C. 60 درجة مئوية

D. 70 درجة مئوية

الإجابة في أسفل هذا المقال.

القلق رقم 3: هجمات القرصنة

في عصر الابتكار القائم على الذكاء الاصطناعي، لا يجلب ظهور السيارات ذاتية القيادة وعودًا بتعزيز التنقل فحسب، بل يثير أيضًا مخاوف أخلاقية حاسمة.

السيد راتان باجاج، المؤسس والرئيس التنفيذي لشركة MindWell Al

في وقت مبكر من عام 2019، تم اختراق موديلات جديدة من Tesla Model 3 في دقائق معدودة. استغل القراصنة Amat Cama و Richard Zhu نقاط الضعف في نظام "الترفيه والمعلومات" للوصول إلى أحد أجهزة كمبيوتر السيارة (العالم المادي).

بمجرد النجاح، تمكن Amat Cama و Richard Zhu من تشغيل سطور التعليمات البرمجية الخاصة بهم. يمكنك رؤيتهم يعرضون الهجومفي الفيديو.

إليك بعض الأمثلة من قبل، أنا لا أتحدث هراء.

هجوم البرامج الضارة

في عام 2011، أصبحت Chevrolet Malibu أول مركبة يتم اختراقها عن بعد وتمكن المهاجمون من التحكم بها. استغل القراصنة "نقطة ضعف في مكدس Bluetooth للتلاعب براديو السيارة وإدراج كود برمجي خبيث عن طريق مزامنة الهاتف مع الراديو" (هجمات على السيارات ذاتية القيادة وإجراءاتها المضادة: تحقيق). بمجرد إدراجه بنجاح، يمكن للكود إرسال رسالة إلى وحدة التحكم الإلكترونية (ECU) للسيارة وقفل الفرامل.

هجمات الوسيط (MiTM)

في هجوم الوسيط، يمكن للمخترق التلاعب بالاتصالات بين كيانين والتحكم في وحدة التحكم الإلكترونية أو وحدة جانب الطريق (RSU) عن طريق التنصت وإعادة الإرسال وتعديل الرسائل المرسلة بين الكيانات.

هجوم حجب الخدمة (DoS)

هجمات حجب الخدمة (DoS) هي واحدة من أخطر الهجمات التي يمكن أن تحدث على السيارات ذاتية القيادة؛ يمكن أن تؤدي إلى حوادث خطيرة أو وفاة. يمكن للمهاجمين استخدام هجمات DoS "لمنع الكاميرات و LiDAR والرادار من اكتشاف الكيانات والطرق وعلامات السلامة" (هجمات على السيارات ذاتية القيادة وإجراءاتها المضادة: تحقيق). يمكن أن تؤثر هجمات DoS أيضًا على نظام الفرامل، مما يتسبب في توقف السيارة فجأة أو عدم توقفها على الإطلاق، مما يؤدي إلى عدم عمل نظام الفرامل بشكل صحيح.

هجوم الفدية

يمكن أن يكون هذا النوع من الهجمات خطيرًا جدًا للمركبات التجارية. في عام 2017، تعرضت شركة هوندا موتور لهجوم كبير بفدية WannaCry حيث طلب المهاجمون "مبالغ كبيرة من العملات المشفرة لتوفير مفاتيح فك التشفير" (هجمات على السيارات ذاتية القيادة وإجراءاتها المضادة: تحقيق).

على الرغم من أن الهجوم لم يستهدف السيارات ذاتية القيادة، إلا أنه أثر على العديد من سيارات هوندا ذاتية القيادة التي كانت تتلقى تحديثات برمجية أثناء الهجوم. هذا الهجوم ربما يكون أكثر شيوعًا من غيره لأن القراصنة ناجحون جدًا في تنفيذ هجمات الفدية.

ما الذي يجعل السيارات ذاتية القيادة عرضة للخطر؟

السيارات ذاتية القيادة هي أهداف مغرية لمجرمي الإنترنت الذين قد "يحاولون سرقة البيانات المالية للسائق أو شن هجمات إرهابية متطورة عن طريق تحويل السيارة إلى سلاح."
بالإضافة إلى التهديدات غير المقصودة مثل الفشل المفاجئ لأنظمة الذكاء الاصطناعي، هناك هجمات متعمدة مصممة خصيصًا لتعطيل وظائف السلامة الحيوية لأنظمة الذكاء الاصطناعي. على سبيل المثال، طلاء الطرق لتضليل أنظمة الملاحة، أو وضع ملصقات على علامات التوقف لمنع التعرف عليها.
أنظمة تحديد المدى بالضوء (LiDAR) هي نظام كاميرا ونبضات ليزر يشكل "عيون" المركبة ذاتية القيادة، حيث يغذي المعلومات حول مشهد القيادة والبيئة إلى نموذج حاسوبي CNN لاتخاذ قرارات مثل تعديلات السرعة وتصحيحات التوجيه. لسوء الحظ، يمكن اختراق CNNs بسهولة عن طريق "إضافة تغييرات صغيرة على مستوى البكسل إلى صور الإدخال غير مرئية بالعين المجردة." لسوء الحظ، هذه الثغرة يمكن أن تسمح للممثلين السيئين بمهاجمة السيارات ذاتية القيادة (The Lighthouse).

تشخيص الأعطال على متن السيارة (OBD) هو أحد أكثر الأجزاء عرضة للخطر في المركبات ذاتية القيادة؛ يمكن إدراج كود البرمجيات الخبيثة في وحدة التحكم الإلكترونية (ECU) عبر OBD. يمكن للبرمجيات الخبيثة المدرجة تعديل وإعادة برمجة وحدة التحكم الإلكترونية. قد لا تتمكن وحدات التحكم الإلكترونية المصابة من الاتصال بمكونات الوحدة على متن السيارة (OBU) الأخرى، مثل lidar والكاميرات والرادار، مما قد يعرض سلامة المركبات ذاتية القيادة للخطر.

الخلاصة: طرق الحصول على التحكم في السيارة ذاتية القيادة

• الوصول عن بعد عبر الإنترنت
• الوصول عن بعد عبر Bluetooth
• إدراج باب خلفي في السيارة ذاتية القيادة عبر الشركة المصنعة (سلسلة التوريد)
• زرع أجهزة خاصة في المركبة
• إزعاج حواس المركبة

يرجى التفكير في هذا:

سيناريوهات الاختراق والعواقب غير المقصودة: ماذا لو وقعت السيارات ذاتية القيادة ضحية اختراق يتسبب في فقدان السيطرة، أو الأسوأ من ذلك، وقوع حادث؟

المعضلات الأخلاقية: من يتحمل المسؤولية؟ تبرز قضية المسؤولية بشكل كبير عندما تتعرض السيارات ذاتية القيادة للاختراق.

ضمان مستقبل القيادة الذاتية: بفحص المتطلبات الأخلاقية، نتعمق في التدابير اللازمة لحماية المركبات ذاتية القيادة من تهديدات الاختراق. ما الدور الذي يجب أن تلعبه اللوائح في فرض معايير صارمة للأمن السيبراني؟

الحياة البشرية، الخطر الأخلاقي: عندما نسلم عجلة القيادة للذكاء الاصطناعي، تكون المخاطر عالية، خاصة عندما يتعلق الأمر بقضايا الحياة والسلامة. كيف يمكن للمجتمع ضمان أن الاعتبارات الأخلاقية توجه تطوير تكنولوجيا السيارات ذاتية القيادة لمنع الحوادث المتعلقة بالاختراق؟

القلق رقم 4: نقص اللوائح

للذكاء الاصطناعي آثار على مستوى النظام لا يمكن تجاهلها.
تعتمد السيارات ذاتية القيادة على الاتصال اللاسلكي للبقاء على دراية بالطريق، ولكن ماذا يحدث عندما ينقطع هذا الاتصال؟ وجد أحد السائقين سيارته محاصرة بين 20 مركبة من Cruise فقدت الاتصال بمركز العمليات البعيد، مما تسبب في ازدحام مروري كبير.

اقرأ أيضًا: Cruise ستطلق أول سيارة يمكن الوصول إليها بواسطة الكراسي المتحركة

اتخذت المواقف تجاه السيارات ذاتية القيادة في سان فرانسيسكو الصديقة للتكنولوجيا، والتي كانت متفائلة في السابق، منعطفًا سلبيًا مع تعرض المدينة لعدد كبير من المشكلات. إذا أدت سيارة ذاتية القيادة معترضة إلى وفاة شخص لا يستطيع الوصول إلى المستشفى في الوقت المناسب، فقد يؤدي هذا الشعور في النهاية إلى رفض الجمهور للتكنولوجيا.

إذن، ماذا تعني تجربة السيارة ذاتية القيادة لتنظيم الذكاء الاصطناعي على نطاق أوسع؟ لا تحتاج الشركات فقط إلى التأكد من أنها تفهم الآثار الأوسع على مستوى النظام للذكاء الاصطناعي، بل تحتاج أيضًا إلى الرقابة – ولا ينبغي لها أن تترك نفسها تراقب نفسها.

لا يزال أمام الذكاء الاصطناعي طريق طويل في السيارات والشاحنات. أنا لا أدعو إلى حظر السيارات ذاتية القيادة. هناك مزايا واضحة لاستخدام الذكاء الاصطناعي، ومن غير المسؤول أن يدعو الناس إلى حظر أو حتى وقف استخدامه. لكننا بحاجة إلى مزيد من الرقابة الحكومية لمنع المخاطرة غير الضرورية.

ومع ذلك، لم يبدأ بعد تنظيم الذكاء الاصطناعي في السيارات. يمكن أن يُعزى ذلك جزئيًا إلى المطالب والضغوط المفرطة من الصناعة، ولكن أيضًا إلى نقص القدرة من جانب الهيئات التنظيمية. كان الاتحاد الأوروبي أكثر استباقية في تنظيم الذكاء الاصطناعي، وخاصة السيارات ذاتية القيادة.

الإجابة الصحيحة للاختبار السريع هي A. 30 درجة مئوية.