القضية ضد 'السيارات الذكية': لماذا نحن أفضل بدونها

• إن نقص فهم التكنولوجيا في الصناعة والحكومة مثير للقلق، ويجب نشر المعرفة حول السيارات المزودة بالذكاء الاصطناعي على نطاق واسع.
• من الصعب التنبؤ بطريقة فشل الذكاء الاصطناعي، ولا يمكن لأحد ضمان أن مثل هذه الآلة لن ترتكب أخطاءً أبدًا.
• للمتسللين طرق عديدة لجعلك تصطدم: هجمات البرامج الضارة، هجمات الوسيط، هجمات حجب الخدمة، هجمات الفدية.
• لم يبدأ تنظيم الذكاء الاصطناعي في السيارات بعد، ولا يزال أمام السيارات المزودة بالذكاء الاصطناعي طريق طويل لنقطعه.

تُستخدم تكنولوجيا الذكاء الاصطناعي الآن على نطاق واسع في السيارات ذاتية القيادة، إلى جانب أجهزة الاستشعار والكاميرات والرادار وغيرها للقيادة بين الوجهات دون تدخل بشري. تشمل الشركات التي تطور و/أو تختبر المركبات ذاتية القيادة: أودي، بي إم دبليو، فورد، جوجل، جنرال موتورز، تيسلا، فولكس فاجن وفولفو. رائع! يمكن للسائق تحرير يديه والسماح للسيارة بالقيادة. لكن هل الأمر كذلك حقًا؟

فكرة أن الذكاء الاصطناعي يمكن أن يكون خطرًا ومنفعة في آن واحد قد نوقشت لفترة طويلة. أعتقد أن هذا ينطبق بشكل خاص على السيارات والمركبات.

إلى حد ما، يقدم الذكاء الاصطناعي مزايا كبيرة، حيث يزيل الخطأ البشري من معادلة القيادة. لكن ماذا يحدث عندما يحدث خطأ ما؟

إليك 4 أسباب أعتقد أن الذكاء الاصطناعي لا يستحق العناء:

• شعور زائف بالأمان يشتت انتباه السائقين.
• سوء تقدير الذكاء الاصطناعي
• هجمات المتسللين
• نقص اللوائح المتعلقة بالاعتراف بالحوادث

اربطوا أحزمة الأمان، السيارة بدون ذكاء اصطناعي على وشك الانطلاق!

القلق رقم 1: شعور زائف بالأمان

ماري (ميسي) إل كامينغز، زميلة معهد IEEE والأستاذة في معهد ديوك لعلوم الدماغ (DIBS) بجامعة ديوك، دعت لجنة التجارة والعلوم والنقل في مجلس الشيوخ الأمريكي في عام 2016 إلى تنظيم استخدام الذكاء الاصطناعي في السيارات. لكن لا توسلات ماري (ميسي) إل كامينغز ولا وفاة براون دفعت الحكومة إلى التحرك. نقص فهم التكنولوجيا في الصناعة والحكومة مثير للقلق.

الآن السؤال الذي يجب أن نفكر فيه هو: إذا انتشرت السيارات ذاتية القيادة على نطاق واسع، فإن الخطأ البشري في التشغيل يُستبدل بالخطأ البشري في البرمجة. هل هذا هروب من قاتل الطريق؟

غالبًا ما يدعو مؤيدو السيارات ذاتية القيادة إلى التخلص من السائقين في أسرع وقت ممكن لجعل الطرق أكثر أمانًا. مستشهدين بإحصائيات الإدارة الوطنية لسلامة المرور على الطرق السريعة، يدّعون أن 94 بالمائة من الحوادث يسببها السائقون البشر. لكن هذه الإحصائية أُخرجت من سياقها وهي غير دقيقة. علاوة على ذلك، فإن الادعاءات بأن السيارات ذاتية القيادة ستكون أكثر أمانًا من تلك التي يقودها البشر تتجاهل ما يعرفه أي شخص عمل في تطوير البرمجيات جيدًا: كود البرمجيات معرض جدًا للأخطاء، وستزداد المشكلة سوءًا مع زيادة تعقيد الأنظمة.

كان هناك حادث تصادم في أكتوبر 2021 لسيارة ذاتية القيادة منPonyمع إشارة مرور، وحادث تصادم في أبريل 2022 لمقطورةTuSimpleمع حاجز خرساني، وحادث تصادم في يونيو 2022 لسيارة أجرة ذاتية القيادة منCruise التي توقفت فجأةأثناء الانعطاف يسارًا، وحادث تصادم في مارس 2023 لسيارة أخرى من Cruise اصطدمت من الخلف بحافلة.

اقرأ أيضًا: سائقو فولكس فاجن على وشك الانضمام إلى محادثة ChatGPT

القلق رقم 2: نظام الذكاء الاصطناعي ينشط عندما لا يجب

سيناريو يجب أن نأخذه في الاعتبار هو ما إذا كان نظام الذكاء الاصطناعي ينشط عندما لا يجب (يتوقف فجأة عند اكتشاف "ظل" عائق أمامه)، أو لا يستجيب عندما يجب. في أي موقف ستكون؟

صحيح أنه من الصعب التنبؤ بطريقة فشل الذكاء الاصطناعي، أو لا يمكن لأحد ضمان أن مثل هذه الآلة لن ترتكب أخطاءً أبدًا.

نموذج اللغة الكبير (LLM) يخمن الكلمات والعبارات التي ستظهر بعد ذلك بالاستعلام عن ملف تم جمعه من البيانات الموجودة أثناء التدريب. وحدة القيادة الذاتية تفسر المشهد بناءً على قاعدة بيانات من الصور المصنفة (هذه سيارة، هذا مشاة، هذه شجرة) وتقوم بتخمينات مماثلة لتقرر كيفية التنقل حول العوائق. هذه الصور المصنفة تم تقديمها أيضًا أثناء التدريب. لكن ليس كل الاحتمالات يمكن نمذجتها، لذلك يصعب جدًا التنبؤ بالعديد من أنماط الفشل.

نمط فشل لم يكن متوقعًا سابقًا هو الفرملة الوهمية. بدون سبب واضح، تفرمل السيارة ذاتية القيادة فجأة، مما قد يسبب تصادمًا من الخلف مع السيارة التي خلفها وغيرها. في مايو 2022، أرسلت NHTSA رسالة إلى تيسلا تشير إلى أن الوكالة تلقت 758 شكوى حول الفرملة الوهمية في طرازي Model 3 و Y. في مايو، ذكرت صحيفة هاندلسبلات الألمانية 1500 شكوى حول مشاكل فرملة في سيارات تيسلا و2400 حول تسارع مفاجئ. الآن يبدو أن معدل التصادمات من الخلف للسيارات ذاتية القيادة يبلغ ضعف معدل السيارات التي يقودها البشر تقريبًا.

واطسون من IBM، القائم على الذكاء الاصطناعي، الرائد لنماذج LLM الحالية، كان جيدًا في التخمين لكن لم يكن لديه معرفة حقيقية، خاصة عند إصدار الأحكام في ظل عدم اليقين واتخاذ القرارات بناءً على معلومات غير كاملة. نماذج LLM الحالية ليست استثناءً: النماذج الأساسية ببساطة لا تستطيع التعامل مع نقص المعلومات، كما أنها لا تملك القدرة على تقييم ما إذا كانت تقديراتها جيدة بما فيه الكفاية في هذا السياق.

هذه المشاكل شائعة في مجال القيادة الذاتية. حادث يونيو 2022 تورطت فيه سيارة أجرة ذاتية القيادة من Cruise عندما قررت القيام بانعطاف يسار كبير بين سيارتين. كما هو مفصل في تقرير الحادث من قبل خبير السلامة في السيارات مايكل وون، اتخذت السيارة مسارًا ممكنًا بشكل صحيح، ولكن في منتصف الانعطاف، فرملت بشدة وتوقفت في منتصف التقاطع. لقد خمنت أن سيارة قادمة في المسرب الأيمن ستنعطف، على الرغم من أن الانعطاف كان مستحيلًا فيزيائيًا بالسرعة التي كانت تسير بها السيارة. هذا عدم اليقين حيّر Cruise وأدى إلى أسوأ القرارات الممكنة. سيارة Prius قادمة لم تنعطف واصطدمت مباشرة بـ Cruise، مما أدى إلى إصابة ركاب المركبتين.

اقرأ أيضًا: أبل تتخلى عن مشروع تطوير السيارات الكهربائية الذي استمر عقدًا

اقرأ أيضًا: هواوي في محادثات مع أودي ومرسيدس للاستثمار في شركة سيارات ذكية

اختبار سريع

بالنسبة لبطاريات الليثيوم، ما هي أفضل درجة حرارة تشغيل؟

A. 30 درجة مئوية

B. 50 درجة مئوية

C. 60 درجة مئوية

D. 70 درجة مئوية

الإجابة في نهاية هذا المقال.

القلق رقم 3: هجمات المتسللين

في عصر الابتكار المدفوع بالذكاء الاصطناعي، لا يقتصر ظهور السيارات ذاتية القيادة على تقديم وعود بتنقل محسّن فحسب، بل يثير أيضًا مخاوف أخلاقية حاسمة.

السيد راتان باجاج، مؤسس ورئيس تنفيذي لشركة MindWell AI

في وقت مبكر من عام 2019، تم اختراق طرازات Tesla Model 3 الجديدة في دقائق معدودة. استغل القراصنة أماك كاما وريتشارد تشو نقاط ضعف في نظام "الترفيه والمعلومات" للوصول إلى أحد أجهزة الكمبيوتر في السيارة (العالم المادي).

بمجرد النجاح، تمكن أماك كاما وريتشارد تشو من تنفيذ سطور الأكواد الخاصة بهما. يمكنك رؤيتهما يعرضان الهجومفي الفيديو.

إليك بعض الأمثلة السابقة، أنا لا أتحدث كلامًا فارغًا.

هجوم البرامج الضارة

في عام 2011، أصبحت شيفروليه ماليبو أول مركبة يتم اختراقها عن بُعد وتمكن المهاجمون من السيطرة عليها. استغل القراصنة "نقطة ضعف في مكدس بلوتوث للتلاعب بمذياع السيارة وإدخال كود ضار عن طريق مزامنة الهاتف مع المذياع" (هجمات على السيارات ذاتية القيادة وإجراءاتها المضادة: بحث). بمجرد إدخاله بنجاح، يمكن للكود إرسال رسالة إلى وحدة التحكم الإلكترونية في السيارة وقفل المكابح.

هجوم الوسيط (MiTM)

في هجوم الوسيط، يمكن للمتسلل التلاعب بالاتصالات بين كيانين والحصول على التحكم في وحدة التحكم الإلكترونية أو وحدة الطريق التحتية (RSU) من خلال التنصت والإعادة وتعديل الرسائل المرسلة بين الكيانات.

هجوم حجب الخدمة (DoS)

DoS هو أحد أخطر الهجمات التي يمكن أن تحدث في السيارات ذاتية القيادة؛ يمكن أن تؤدي إلى حوادث خطيرة أو وفيات. يمكن للمهاجمين استخدام هجمات DoS "لمنع الكاميرات وLiDAR والرادار من اكتشاف الأشياء والطرق وإشارات السلامة" (هجمات على السيارات ذاتية القيادة وإجراءاتها المضادة: بحث). يمكن لهجوم DoS أيضًا التأثير على نظام المكابح، مما يجعل السيارة تتوقف فجأة أو لا تتوقف على الإطلاق، مما يتسبب في عدم عمل نظام المكابح بشكل صحيح.

هجوم الفدية

يمكن أن يكون هذا النوع من الهجمات خطيرًا جدًا على المركبات التجارية. في عام 2017، تعرضت شركة هوندا موتور لهجوم كبير بفدية WannaCry حيث طالب المهاجمون "بكميات كبيرة من العملات المشفرة لتوفير مفاتيح فك التشفير" ("هجمات على السيارات ذاتية القيادة وإجراءاتها المضادة: بحث").

على الرغم من أن الهجوم لم يكن موجهًا للسيارات ذاتية القيادة، إلا أنه أثر على العديد من سيارات هوندا ذاتية القيادة التي كانت بحاجة إلى تحديثات برمجية أثناء الهجوم. من المحتمل أن يكون هذا الهجوم أكثر شيوعًا من غيره لأن القراصنة ينجحون كثيرًا في تنفيذ هجمات الفدية.

ما الذي يجعل السيارات ذاتية القيادة عرضة للخطر؟

السيارات ذاتية القيادة هي أهداف مغرية لمجرمي الإنترنت الذين يمكنهم "محاولة سرقة البيانات المالية للسائق أو شن هجمات إرهابية متقدمة عن طريق تحويل المركبة إلى سلاح".
بالإضافة إلى التهديدات غير المقصودة، مثل الفشل المفاجئ لأنظمة الذكاء الاصطناعي، هناك هجمات متعمدة مصممة خصيصًا لاختراق الوظائف الحيوية للسلامة في أنظمة الذكاء الاصطناعي. على سبيل المثال، طلاء الطرق لخداع أنظمة الملاحة، أو وضع ملصقات على علامات التوقف لمنع التعرف عليها.
LiDAR (كشف الضوء والمدى) هو نظام من الكاميرات ونبضات الليزر يشكل "عيون" المركبة ذاتية القيادة، ويغذي المعلومات حول مشهد القيادة والبيئة لنموذج كمبيوتر CNN لاتخاذ قرارات مثل تعديلات السرعة وتصحيحات التوجيه. لسوء الحظ، يمكن اختراق شبكات CNN بسهولة "عن طريق إضافة تغييرات صغيرة على مستوى البكسل في الصور المدخلة غير مرئية للعين المجردة". لسوء الحظ، يمكن أن تسمح هذه الثغرة لأطراف خبيثة بمهاجمة السيارات ذاتية القيادة (The Lighthouse).

التشخيص على متن المركبة (OBD) هو واحد من أكثر الأجزاء عرضة للخطر في المركبات ذاتية القيادة؛ يمكن إدخال كود ضار في وحدة التحكم الإلكترونية (ECU) عبر OBD. يمكن للبرمجيات الضارة المدخلة تعديل وإعادة برمجة وحدة التحكم الإلكترونية. قد لا تتمكن وحدات التحكم الإلكترونية المصابة من التواصل مع المكونات الأخرى لوحدة المركبة على متنها (OBU)، مثل LiDAR والكاميرات والرادار، مما قد يعرض سلامة المركبات ذاتية القيادة للخطر.

الخلاصة: عدة طرق للحصول على السيطرة التلقائية على السيارة

• الوصول عن بُعد عبر الإنترنت
• الوصول عن بُعد عبر بلوتوث
• إدخال باب خلفي في السيارة ذاتية القيادة عبر الشركة المصنعة (سلسلة التوريد)
• أجهزة خاصة مزروعة في المركبة
• إزعاج حواس المركبة

من فضلك فكر في هذا:

سيناريوهات الاختراق والعواقب غير المقصودة: ماذا لو تعرضت السيارات ذاتية القيادة للاختراق مما يجعلها تفقد السيطرة، أو الأسوأ، تتعرض لحادث؟

المعضلات الأخلاقية: من يتحمل المسؤولية؟ مسألة المسؤولية ضخمة عندما تُخترق السيارات ذاتية القيادة.

تأمين مستقبل القيادة الذاتية: بفحص المتطلبات الأخلاقية، نتعمق في التدابير اللازمة لحماية المركبات ذاتية القيادة من تهديدات الاختراق. ما الدور الذي يجب أن تلعبه اللوائح في فرض معايير صارمة للأمن السيبراني؟

حياة البشر، المخاطر الأخلاقية: عندما نسلم عجلة القيادة للذكاء الاصطناعي، تكون المخاطر كبيرة، خاصة فيما يتعلق بقضايا الحياة والسلامة. كيف يمكن للمجتمع ضمان أن الاعتبارات الأخلاقية توجه تطوير تكنولوجيا السيارات ذاتية القيادة لمنع الحوادث المتعلقة بالاختراق؟

القلق رقم 4: نقص اللوائح

للذكاء الاصطناعي آثار على مستوى النظام لا يمكن تجاهلها.
تعتمد السيارات ذاتية القيادة على الاتصال اللاسلكي لمواكبة الطريق، لكن ماذا يحدث عندما يُفقد هذا الاتصال؟ وجد سائق سيارته محاصرة بين 20 مركبة من Cruise فقدت الاتصال بمركز العمليات عن بُعد، مما تسبب في ازدحام مروري كبير.

اقرأ أيضًا: Cruise ستطلق أول سيارة يمكن الوصول إليها بالكراسي المتحركة

تغيرت المواقف تجاه السيارات ذاتية القيادة في سان فرانسيسكو، الصديقة للتكنولوجيا، والتي كانت متفائلة في السابق، نحو السلبية حيث تشهد المدينة العديد من المشاكل. إذا أدى اعتراض سيارة ذاتية القيادة إلى وفاة شخص لا يمكنه الوصول إلى المستشفى في الوقت المناسب، فقد يؤدي هذا الشعور في النهاية إلى رفض الجمهور للتكنولوجيا.

إذن، ماذا تعني تجربة السيارات ذاتية القيادة لتنظيم الذكاء الاصطناعي على نطاق أوسع؟ لا يجب على الشركات فقط التأكد من فهمها للآثار الأوسع على مستوى النظام للذكاء الاصطناعي، بل إنها تحتاج أيضًا إلى إشراف، ولا ينبغي السماح لها بالتنظيم الذاتي.

لا يزال أمام الذكاء الاصطناعي طريق طويل ليقطعه في السيارات والشاحنات. أنا لا أطالب بحظر السيارات ذاتية القيادة. هناك مزايا واضحة لاستخدام الذكاء الاصطناعي، ومن غير المسؤول طلب حظر أو حتى وقف استخدامه. لكننا بحاجة إلى مزيد من الإشراف الحكومي لتجنب المخاطرة غير الضرورية.

ومع ذلك، لم يبدأ تنظيم الذكاء الاصطناعي في السيارات بعد. يمكن أن يُعزى ذلك جزئيًا إلى الطلبات المفرطة والضغوط من الصناعة، ولكن أيضًا إلى نقص القدرة من جانب الجهات التنظيمية. كان الاتحاد الأوروبي أكثر استباقية في تنظيم الذكاء الاصطناعي، خاصة في السيارات ذاتية القيادة.

الإجابة الصحيحة للاختبار السريع هي A. 30 درجة مئوية.