AI Act الأوروبي: كيف سيغير مشهد الذكاء الاصطناعي؟

• في 13 مايو، وافق البرلمان الأوروبي على أول مجموعة رئيسية من القواعد التنظيمية في العالم لتنظيم الذكاء الاصطناعي الوسيط، في قلب الاستثمارات التكنولوجية، مع تنظيم قائم على المخاطر.
• التشريع دائمًا متأخر، ولهذا فإن تنظيمات استقلالية الشركات وإجماع الصناعة أمران حاسمان في مرحلة تطور سريعة كهذه. يقدم عمالقة التكنولوجيا حكمتهم، لكن حادثة OpenAI أثارت تساؤلات حول الانضباط الذاتي للشركات.
• الإجماع العالمي، والجمع بين التنظيم الأفقي والعمودي، والإشراف الديناميكي - النظر في هذه النقاط الثلاث قد يوفر أفكارًا للتنظيم المستقبلي والتنظيم الذاتي لصناعة الذكاء الاصطناعي.

في 13 مايو، وافق البرلمان الأوروبي على أول مجموعة رئيسية من القواعد التنظيمية في العالم لتنظيم الذكاء الاصطناعي الوسيط في قلب الاستثمارات التكنولوجية، مما يضخ قوة تنظيمية قوية في المشهد العالمي لحوكمة الذكاء الاصطناعي.

ومع ذلك، فإن إنشاء نموذج عالمي لحوكمة الذكاء الاصطناعي يجب أن يعتمد أيضًا على فهم أعمق لتقنية الذكاء الاصطناعي، وتفاعلات أكثر تعاونًا مع عمالقة التكنولوجيا، والتقدم في وعي الجهات التنظيمية.

التصنيف القائم على المخاطر لـ AIA

«أود أن أقول إن هذه هي الاستراتيجية المثلى للهيئات التنظيمية عند وضع المتطلبات، لأن محاولة توسيع اللوائح لتشمل جوانب أخرى ستفرض عبئًا زائدًا على مزودي النماذج الذين لا يشكلون في النهاية مخاطر كافية لتبرير ذلك.»

Ortal Shimon، المدير التنفيذي للحسابات في Hi-Touch PR

يؤثر قانون الذكاء الاصطناعي (AIA) للاتحاد الأوروبي على الشركات في جميع القطاعات التي تطور أو توزع الذكاء الاصطناعي في الاتحاد الأوروبي، وكذلك تلك التي تستخدم أنظمة الذكاء الاصطناعي التي تنتج نتائج تؤثر على المقيمين في الاتحاد الأوروبي.

تتأثر عدة جهات فاعلة في سلاسل قيمة الذكاء الاصطناعي في الاتحاد الأوروبي، بما في ذلك تعريف "نظام الذكاء الاصطناعي". تم توسيع تعريف نظام الذكاء الاصطناعي ليشمل أي نظام مستقل قائم على آلة "يستنتج، من المدخلات التي يتلقاها، كيفية توليد المخرجات". مع ظهور الذكاء الاصطناعي التوليدي، ينطبق القانون أيضًا على "نماذج الذكاء الاصطناعي للأغراض العامة" (GPAI)، وهي اللبنات الأساسية لأنظمة الذكاء الاصطناعي ذات التطبيقات الواسعة، مثل DALL-E وGPT-4 من OpenAI.

اقرأ أيضًا:قانون الذكاء الاصطناعي: أول قانون عالمي للذكاء الاصطناعي يُعتمد في الاتحاد الأوروبي

على هذا الأساس، اختار الاتحاد الأوروبي بحكمة تصنيف وإدارة نماذج الذكاء الاصطناعي وفقًا للمخاطر المحتملة، مما يتيح إدارة مخاطر أكثر دقة وفعالية، مع تركيز الموارد والاهتمام حيثما تكون الحاجة ماسة. وبشكل أكثر تحديدًا، يتبنى نهجًا قائمًا على المخاطر، من خلال تعيين فئة مخاطر لأنظمة الذكاء الاصطناعي واشتراط أن تفي الأنظمة عالية المخاطر بمتطلبات أكثر صرامة من أنظمة الذكاء الاصطناعي في فئة المخاطر المنخفضة.

يحدد AIA أربعة مستويات للمخاطر لأنظمة الذكاء الاصطناعي: غير مقبول، مرتفع، محدود، وأدنى (أو معدوم) وتتوافق تصنيفاته الواضحة لأنظمة الذكاء الاصطناعي مع أطر إدارة المخاطر العالمية مثل NIST AI RMF وISO 420001.

يتوافق هذا التصنيف الواضح لأنظمة الذكاء الاصطناعي مع أطر إدارة المخاطر العالمية مثلNIST AI RMFوISO 420001ويزيد من الشفافية والمساءلة.

السؤال الأبدي: الابتكار مقابل التنظيم

«أتذكر التحدث مع رئيس تنفيذي آخر في برلين قال مازحًا نصف مازح إنهم يكرسون وقتًا لاتباع اللوائح بقدر ما يكرسونه لإنشاء الأشياء.»

Erik Severinghaus، المؤسس والرئيس التنفيذي لشركة Bloomfilter

إن التوفيق بين الابتكار والتنظيم هو مسألة تم ملاحظتها ومناقشتها والجدال حولها منذ أن أصبح تشريع الذكاء الاصطناعي على جدول الأعمال. وقد تلقى التصنيف الرائد للمخاطر من قبل AIA إلى أربعة مستويات بناءً على معايير حقوق الإنسان والسلامة أيضًا آراء من النقاد والممارسين في صناعة الذكاء الاصطناعي وخبراء السياسة والقانون.

من الجانب الإيجابي، يوفر نظام التصنيف هذا المرونة ويسمح للمطورين المبتكرين بتطوير تقنيات ذكاء اصطناعي أقل خطورة دون فرض قيود تنظيمية غير ضرورية. وهذا يعزز الإبداع ويشجع على تقدم تطبيقات الذكاء الاصطناعي في مجالات متنوعة.

يركز AIA على أنظمة الذكاء الاصطناعي عالية المخاطر، مما يخلق بعض الأعباء والعقبات أمام تطوير وابتكار الذكاء الاصطناعي. بالنسبة للشركات الكبيرة، قد تعيق متطلبات الامتثال الواسعة التطور التكنولوجي والتوسع في السوق. ومع ذلك، قد تمنع عتبات الامتثال العالية المزيد من الشركات من دخول مجال الذكاء الاصطناعي وتساهم في تشكيل احتكار. ويؤدي ذلك أيضًا إلى صعوبات لبعض شركات الذكاء الاصطناعي الصغيرة والمتوسطة أو المنظمات البحثية في تحمل تكاليف ومخاطر الامتثال المقابلة.

لكن الحقيقة هي أن الابتكار والتنظيم ليسا تناقضين غير متوافقين، لأن هناك عنصرًا مهمًا آخر متضمنًا: المستخدم. يتطلب التنظيم الفعال أن تكون التطبيقات شفافة، مما يساعد على تعزيز ثقة الجمهور في الذكاء الاصطناعي والشركات التي تنتجه، وهذا أمر ضروري لقبول واسع للتكنولوجيا ودمجها في الحياة اليومية. من خلال التركيز على الشفافية، يعالج نظام التصنيف المخاوف بشأن غموض أنظمة الذكاء الاصطناعي ويعزز قدرًا أكبر من المساءلة. وهذا يفيد أكثر مما يضر بالتطور طويل المدى لتقنية الذكاء الاصطناعي.

ربما لهذا السبب يميل النقاد أكثر إلى النظر إلى AIA في ضوء إيجابي نسبيًا، معتبرين أنه شامل للغاية، ويعطي الأولوية لحماية المستهلك والشفافية والمساءلة، وهو أمر ضروري لتعزيز الثقة في تقنية الذكاء الاصطناعي. ولكن فيما يتعلق بالتنفيذ والمراجعة اللاحقة، لا يزال الطريق طويلاً.

محاولات حوكمة الذكاء الاصطناعي في دول أخرى

بالإضافة إلى تصنيف مخاطر الذكاء الاصطناعي إلى أربعة مستويات بناءً على حقوق الإنسان والسلامة، لدى AIA ابتكار آخر مهم نسبيًا، وهو أنه أطلق عملية التنظيم الأفقي للذكاء الاصطناعي، بينما كان تنظيم الذكاء الاصطناعي سابقًا عموديًا بشكل عام. يتكون التنظيم الأفقي من قواعد قانونية تنطبق على جميع القطاعات والتطبيقات، وتغطي جميع المجالات وجميع الأشخاص. ولهذا يركز مشروع القانون على تنظيم صارم مع التركيز أيضًا على الابتكار التنظيمي، مثل تشجيع البلدان على إجراء "اختبارات الحماية الرملية" وتوفير المزيد من الراحة والدعم للشركات الصغيرة والمتوسطة.

في المملكة المتحدة، التي تأثرت بالانسحاب من الاتحاد الأوروبي، يهدف التشريع إلى تعزيز الابتكار مع ضمان استخدام الذكاء الاصطناعي بشكل أخلاقي ومسؤول، وتعزيز الشفافية والمساءلة والإنصاف وفقًا لمعايير الاتحاد الأوروبي.

نشر معهد السلامة في المملكة المتحدة، الهيئة البريطانية المنشأة حديثًا لسلامة الذكاء الاصطناعي، هذا الشهر مجموعة من الأدوات تسمى Inspect لاختبار سلامة نماذج الذكاء الاصطناعي، بهدف تعزيز سلامة الذكاء الاصطناعي من خلال تسهيل تطوير تقييمات الذكاء الاصطناعي من قبل الصناعة والهيئات البحثية والأوساط الأكاديمية. يتوافق هذا السلوك أيضًا مع متطلبات تصنيف المخاطر الخاصة بـ AIA لنماذج الذكاء الاصطناعي.

اعتمدت الصين نهجًا أكثر من أعلى إلى أسفل، حيث فرضت رقابة أكثر صرامة على تطوير ونشر الذكاء الاصطناعي، لا سيما في مجال المراقبة وخصوصية البيانات. أطلقت الحكومة الصينية "خطة تطوير الذكاء الاصطناعي من الجيل الجديد"، والتي تلعب دورًا مهمًا في توحيد وتوجيه تطور الذكاء الاصطناعي وفقًا للأولويات الوطنية.

تهيمن الولايات المتحدة على مجال الذكاء الاصطناعي، حيث أطلقت OpenAI منصة Sora الجديدة القوية لتحويل النص إلى فيديو، وأطلقت Google نموذج Gemini 1.5، نموذج الذكاء الاصطناعي من الجيل التالي القادر على استيعاب استفسارات أكبر بـ 30 مرة من سابقه. تتبع الولايات المتحدة نهجًا ليبراليًا نسبيًا في تنظيم الذكاء الاصطناعي، مع التركيز أكثر على تعزيز الابتكار والحفاظ على الريادة التكنولوجية، مع التركيز على الأطر الأخلاقية والمبادئ التوجيهية بدلاً من القوانين الملزمة.

أصدر الرئيس الأمريكي جو بايدن في أكتوبر 2023 أمرًا تنفيذيًا يحد من مطوري "أنظمة الذكاء الاصطناعي الأكثر قوة" في مشاركة نتائج اختبارات السلامة وغيرها من المعلومات الهامة مع الحكومة، مستشهدًا بمخاطر الأمن القومي. كما قدمت الولايات المتحدة مؤخرًا إطار NIST AI RMF، المصمم لإدارة المخاطر المرتبطة بأنظمة الذكاء الاصطناعي، مما يعكس الاعتراف المتزايد في البيئة التنظيمية الأمريكية بأهمية إدارة المخاطر والحوكمة والاستخدام الأخلاقي لتقنية الذكاء الاصطناعي.

اقرأ أيضًا:الحكومة البريطانية تتعاقد مع خبراء تقنيين ودبلوماسيين لقمة سلامة الذكاء الاصطناعي التاريخية

ما يشترك فيه البلدان هو أنهما سيبدآن بتنظيم عمودي لتقنيات الذكاء الاصطناعي الأكثر عرضة لتعريض حقوق الأشخاص أو الاستقرار الاجتماعي للخطر، مثل تقنية التزييف العميق. ويستهدف ذلك أيضًا الحوكمة في اتجاه ينطوي على عامل خطر محتمل أعلى.

اختبار

في اللائحة الأخيرة للاتحاد الأوروبي بشأن الذكاء الاصطناعي، تم تقسيم أنظمة الذكاء الاصطناعي إلى أربع فئات حسب المخاطر المحتملة. ما هي؟

A. مخاطر غير مقبولة

B. مخاطر عالية

C. مخاطر محدودة

D. مخاطر متوسطة

E. مخاطر دنيا (أو معدومة)

الإجابة الصحيحة موجودة في أسفل المقال.

التنظيم الذاتي القوي نجح بالفعل

التشريع متأخر، ولهذا فإن تنظيمات استقلالية الشركات والإجماع المكتوب للصناعة أمران حاسمان في مرحلة تطور سريعة كهذه.

وضعت Google مبادئها الخاصة للذكاء الاصطناعي، والتي تؤكد على أهمية إنشاء ذكاء اصطناعي مفيد اجتماعيًا يحترم معايير عالية من السلامة والإنصاف. شاركت Meta أيضًا في مناقشات حول حوكمة أنظمة الذكاء الاصطناعي، لا سيما فيما يتعلق بالتوازن بين الابتكار والخصوصية والإنصاف في توزيع المحتوى.

دافعت Microsoft عن الذكاء الاصطناعي المسؤول، حيث طورت أدوات لاكتشاف ومواجهة التحيزات في خوارزميات الذكاء الاصطناعي وتعزيز الشفافية في أنظمة الذكاء الاصطناعي. تطور IBM سياسة أخلاقيات الذكاء الاصطناعي على مستوى الشركة من خلالمجلس أخلاقيات الذكاء الاصطناعي، مع التركيز على الثقة والشفافية لمواءمة تطوير الذكاء الاصطناعي مع المبادئ التي تركز على الإنسان.

ومع ذلك، أثار تغيير في الموظفين في OpenAI في أواخر عام 2023 تساؤلات إضافية حول فعالية التنظيم الذاتي. تم طرد الرئيس التنفيذي للشركة،Sam Altman، من قبل مجلس إدارة OpenAI غير الربحي، الذي كان قلقًا من افتقار Altman إلى الحذر في أفعاله والمخاطر التي قد يشكلها الذكاء الاصطناعي على المجتمع.

وفقًا للملف الذي قدمته OpenAI إلىIRS، بحلول عام 2018، لن تروّج الشركة بعد ذلك التزامها بـ "مشاركة خططنا وقدراتنا بشكل مفتوح"؛ وبحلول عام 2021، أصبح هدف الشركة هو "بناء ذكاء اصطناعي للأغراض العامة" يتردد مع مصالح تسويق المنتجات، بدلاً من مهمة بحث مفتوحة تهدف إلى "تطوير الذكاء الرقمي".

أراد المؤيدون، بقيادة Sam Altman نفسه، طرح تقنيات جديدة قوية للجمهور بسرعة مع الاستمرار في التقدم نحو ذكاء اصطناعي حقيقي للأغراض العامة. على الرغم من أن Altman حصل على غصن زيتون من Microsoft بعد فترة وجيزة من فصله وتمت إعادة تعيينه في النهاية من قبل OpenAI، إلا أن العديد من الأعضاء الذين فصلوه في البداية استقالوا. لكن هذا يقدم درسًا مهمًا لمنظمي الذكاء الاصطناعي في المستقبل: إمكانية التنظيم الذاتي الجاد، خاصة من خلال أشكال الشركات الذكية، هو خيال.

اقرأ أيضًا:استكشاف الشراكة بين OpenAI وMicrosoft

صراع السلطة داخل الشركة والفشل النهائي لمجلس إدارة المنظمة غير الربحية في الحفاظ على السيطرة على شركة تزداد تسويقًا يذكرنا بأنه إذا أراد المجتمع إبطاء نشر هذه التكنولوجيا التي قد تكون تاريخية، فقد يضطر إلى القيام بذلك بالطريقة القديمة: من خلال التنظيم الحكومي من أعلى إلى أسفل.

وجهات النظر: كيف نعالج الفجوة بين التقدم التكنولوجي والحوكمة اللاحقة؟

«استكشاف التشريع العالمي للذكاء الاصطناعي يشبه تذوق نبيذ معقد؛ كل دولة تضيف نكهتها الفريدة، وأحيانًا يكون من الصعب التنبؤ بما إذا كان سيروق للذوق أم سيترك مذاقًا مرًا.»

Erik Severinghaus، المؤسس والرئيس التنفيذي لشركة Bloomfilter

الإجماع العالمي

سيستغرق الوصول إلى إجماع عالمي بشأن تنظيم الذكاء الاصطناعي وقتًا طويلاً، لنتخذ AIA كمثال. نشر القانون هو خطوة أولى، والتنفيذ الذي يليه لا يزال أمامه طريق طويل. كيفية بناء تنظيم عالمي للذكاء الاصطناعي تتطلب جهدًا مشتركًا من الأفراد والشركات والمنظمات والدول.

من ناحية، إذا كانت القواعد الأوروبية أكثر صرامة بكثير من أي مكان آخر حيث يكون التنظيم أقل صرامة، فقد يجعل ذلك الشركات الأوروبية أقل قدرة على المنافسة عالميًا. من ناحية أخرى، إذا خلقت الصناعة التنظيمية الأوروبية الكثير من الصراعات مع التنظيم الذاتي، فسيصبح تطبيقها أكثر صعوبة.

يمكن أن يؤدي عدم وجود معايير تصنيف متفق عليها عالميًا أيضًا إلى خلق خطر المراجحة التنظيمية. لنأخذ AIA كمثال، أنشأ الاتحاد الأوروبي مجموعة كاملة من أنظمة الإنفاذ وآليات الإشراف والتنفيذ متعددة المستويات بالتزامن مع اعتماد القانون، بما في ذلك الهيئات التنظيمية الوطنية للدول الأعضاء في الاتحاد الأوروبي، وما إلى ذلك، وهي ميزة يمكن للاتحاد الأوروبي استغلالها مقارنة بالدول الفردية.

الجمع بين التنظيم الأفقي والعمودي

مع استمرار تطور تقنيات الذكاء الاصطناعي، من المحتمل أن يكون التشريع المستقبلي أكثر ديناميكية وقابلية للتكيف، وربما يدمج تقييمات المخاطر في الوقت الفعلي وآليات تنظيمية أكثر مرونة. المشهد العالمي لتنظيم الذكاء الاصطناعي ديناميكي ومعقد، وقانون الذكاء الاصطناعي للاتحاد الأوروبي هو خطوة مهمة قد تؤثر على المعايير العالمية.

إلى جانب التنظيم الأفقي الشامل والعالمي نسبيًا الذي ستسعى الدول والمنظمات إلى تقديمه، ستكون هناك أيضًا لوائح أكثر تحديدًا لقطاعات معينة، خاصة في علوم الحياة والخدمات المالية.

الإشراف الديناميكي

في مواجهة التطور السريع لتقنية الذكاء الاصطناعي، فإن التحديات التي نواجهها هائلة بلا شك. على سبيل المثال، من حيث كيفية تصنيف AIA، قد تتطور بعض أنظمة الذكاء الاصطناعي بطريقة تزيد من مستوى المخاطر بعد التقييم الأولي، مما يتطلب مراقبة وإعادة تقييم مستمرة لضمان بقاء نماذج الذكاء الاصطناعي مصنفة بشكل صحيح.

علاوة على ذلك، من المحتمل أن يتجاوز التطور المستقبلي لتقنية الذكاء الاصطناعي توقعات أي تنظيم حكومي وتوجيهات الشركات، الأمر الذي لا يتطلب رؤية تقنية عالية من المشرعين فحسب، بل يتطلب أيضًا تعديلًا وتكميلًا ومراجعة فورية للوائح ذات الصلة.

الإجابة الصحيحة هي أ، ب، ج، هـ.