نموذج طبقات لحوكمة الذكاء الاصطناعي

يتم تسليط الضوء على نموذج طبقات لحوكمة الذكاء الاصطناعي من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو رؤية السوق.

• الذكاء الاصطناعي (AI) هو قدرة حاسوب رقمي أو روبوت يتحكم به حاسوب على أداء مهام ترتبط عادة بالكائنات الذكية.
• حوكمة الذكاء الاصطناعي (AI) هي الإطار القانوني الذي يضمن أن يتم بحث وتطوير تقنيات الذكاء الاصطناعي والتعلم الآلي لمساعدة البشرية على تبني واستخدام هذه الأنظمة بطريقة أخلاقية ومسؤولة.
• حجم وتنوع وتعقيد ومستوى الاستقلال التكنولوجي لأنظمة الذكاء الاصطناعي تستلزم إعادة تقييم القوانين واللوائح والسياسات. نحن نستخدم نموذجاً تحليلياً مكوناً من 3 طبقات لتمثيل تعقيد حوكمة الذكاء الاصطناعي.

الذكاء الاصطناعي، أو AI، هي تقنية تمكن أجهزة الكمبيوتر والآلات من محاكاة الذكاء البشري وقدرات حل المشكلات. من الناحية التقنية، الذكاء الاصطناعي ليس تقنية واحدة، بل مجموعة من التقنيات والتخصصات الفرعية التي تتراوح من مجالات مثل التعرف على الكلام ورؤية الكمبيوتر إلى الانتباه والذاكرة، على سبيل المثال لا الحصر.

من وجهة نظر ظاهراتية، غالباً ما يُستخدم مصطلح AI كمصطلح عام للإشارة إلى درجة معينة من الاستقلالية التي تظهرها أنظمة التشخيص الطبي المتقدمة، والمدرسين الرقميين من الجيل الجديد، والسيارات ذاتية القيادة، وتطبيقات أخرى قائمة على الذكاء الاصطناعي. غالباً ما تؤثر هذه التطبيقات بدورها على السلوك البشري وتتطور بشكل ديناميكي، وأحياناً بشكل غير متوقع من قبل مصممي الأنظمة.

ما هي حوكمة الذكاء الاصطناعي؟

حوكمة الذكاء الاصطناعي (AI)تشير إلى الضمانات التي تضمن أن أدوات وأنظمة الذكاء الاصطناعي تظل آمنة وأخلاقية. وهي تضع الأطر والقواعد والمعايير التي توجه بحث وتطوير وتطبيق الذكاء الاصطناعي لضمان السلامة والعدالة واحترام حقوق الإنسان.

تشمل حوكمة الذكاء الاصطناعي آليات الرقابة التي تعالج مخاطر مثل التحيز وانتهاكات الخصوصية وإساءة الاستخدام، مع تعزيز الابتكار والثقة. يتطلب نهج حوكمة الذكاء الاصطناعي القائم على الأخلاقيات مشاركة مجموعة واسعة من أصحاب المصلحة، بما في ذلك مطوري الذكاء الاصطناعي والمستخدمين وصناع السياسات وعلماء الأخلاقيات، لضمان تطوير واستخدام الأنظمة المتعلقة بالذكاء الاصطناعي بما يتماشى مع قيم المجتمع.

تهدف الحوكمة إلى إنشاء الرقابة اللازمة لمواءمة سلوكيات الذكاء الاصطناعي مع المعايير الأخلاقية والتوقعات المجتمعية والحماية من الآثار السلبية المحتملة.

حوكمة الذكاء الاصطناعي ضرورية لتحقيق حالة من الامتثال والثقة والفعالية في تطوير وتطبيق تقنيات الذكاء الاصطناعي. مع تزايد دمج الذكاء الاصطناعي في العمليات التنظيمية والحكومية، أصبحت احتمالية تأثيره السلبي أكثر وضوحاً. أظهرت أخطاء بارزة مثل حادثة روبوت الدردشة Tay (رابط خارج ibm.com)، حيث تعلم روبوت دردشة ذكاء اصطناعي من Microsoft سلوكاً ضاراً من التفاعلات العامة على وسائل التواصل الاجتماعي، وقرارات الإدانة المتحيزة لبرنامج COMPAS (رابط خارج ibm.com)، الحاجة إلى حوكمة قوية لمنع الضرر والحفاظ على ثقة الجمهور.

النموذج الطبقي

أحد الأدوات الرئيسية لإدارة الأنظمة المعقدة هو التعديلية. من خلال التمييز بين المهام التي تتطلب ترابطاً واسعاً وتلك التي لا تحتاج إليه، تسعى التعديلية إلى تقليل عدد الترابطات التي يجب تحليلها. يتميز نوع محدد من التعديلية، يُعرف بالتراصف (layering)، بترتيب مكونات النظام المختلفة في هيكليات متوازية.

يوجد نموذج من أربع طبقات لتوضيح طبيعة الفضاء الإلكتروني: أولاً، الكيانات ذات التجربة السيبرانية؛ ثانياً، المعلومات التي تنتقل وتخزن وتتحول في الفضاء الإلكتروني. ثالثاً، الخدمات المكونة من لبنات بناء منطقية، ورابعاً، الأسس المادية التي تدعم العناصر المنطقية.

نحن نحاول فهم الطبيعة المعقدة لحوكمة الذكاء الاصطناعي باستخدام نموذج تحليلي من 3 طبقات.

اقرأ أيضاً:AI: الفرص والتهديدات

1. الطبقة التقنية

الخوارزميات والبيانات التي تشكل أساس النظام البيئي لحوكمة الذكاء الاصطناعي تقع في الطبقة التقنية. سواء كانت برمجية (مثل أنظمة العدالة الجنائية أو التشخيص الطبي، أو المساعدين الشخصيين الأذكياء) أو مادية (مثل الروبوتات التجارية والسيارات ذاتية القيادة)، تعتمد أنظمة الذكاء الاصطناعي والأنظمة المستقلة على البيانات والخوارزميات. تم إنشاء مجموعة من المبادئ التوجيهية للخوارزميات المسؤولة في إطار ندوة داجستول حول "DataResponsibly"، مصحوبة بمقترح إعلان الأثر الاجتماعي. المبادئ التوجيهية المقترحة للخوارزميات المسؤولة اجتماعياً هي: المساءلة، وقابلية التفسير، والدقة، والملاءمة، والعدالة.

يجب أن تلتزم حوكمة البيانات، أي عملية جمع واستخدام وإدارة البيانات بواسطة خوارزميات الذكاء الاصطناعي، بالمبادئ التي تدعم العدالة وتمنع التمييز على أساس العرق أو اللون أو الأصل القومي أو الدين أو الجنس أو التوجه الجنسي أو الإعاقة.

اقرأ أيضاً:ما هو Perplexity AI؟

2. الطبقة الأخلاقية

فوق المستوى التقني، يمكننا مناقشة قضايا أخلاقية واسعة تتعلق بجميع أنواع أنظمة وتطبيقات الذكاء الاصطناعي. تشكل مبادئ حقوق الإنسان مصدراً مهماً لوضع هذه المبادئ الأخلاقية. المبادئ العامة لـ IEEE للذكاء الاصطناعي والأنظمة المستقلة هي مثال آخر على كيفية بدء تشكل المعايير الأخلاقية للذكاء الاصطناعي. يمكن تقييم الإجراءات التي تقودها الخوارزميات باستخدام المعايير والوصايا الأخلاقية. على سبيل المثال، سيتم انتهاك المبدأ الأخلاقي للمساواة في المعاملة أو العدالة إذا قام تطبيق ذكاء اصطناعي بدراسة بيانات شركة تأمين وفرض أقساط أعلى على مجموعة معينة من الأشخاص بسبب عوامل مثل الجنس أو العمر.

3. الطبقة الاجتماعية والقانونية

يمكن أن تغطي الطبقة الاجتماعية والقانونية عملية إنشاء المؤسسات وتخصيص الأدوار لتنظيم الذكاء الاصطناعي والأنظمة المستقلة. بمعنى آخر، سيكون لهيئة صنع القرار سلطة تعريف الذكاء الاصطناعي، وإجراء استثناءات تسمح للباحثين بإجراء أبحاث حول الذكاء الاصطناعي في سياقات محددة دون أن يكونوا مسؤولين بشكل صارم عن أفعالهم، وإنشاء إجراءات التصديق للذكاء الاصطناعي. يمكن للمبادئ والمعايير المستمدة من الطبقات التقنية والأخلاقية، بالإضافة إلى الأطر القانونية الوطنية والدولية الأوسع، مثل تلك المتعلقة بحقوق الإنسان، أن تكون أساساً لمعايير محددة لتنظيم الذكاء الاصطناعي.

لتحديد السلوك المناسب للذكاء الاصطناعي والأنظمة المستقلة، يقدم النموذج الطبقي إطاراً للتفكير في حوكمة الذكاء الاصطناعي.

يمكن لأنظمة اتخاذ القرار الخوارزمية والذكاء الاصطناعي تنفيذ هياكل الحوكمة الخاصة بها باستخدام مزيج من المناهج متعددة الطبقات ومتعددة المستويات. نحن هنا نصف بعضاً من هذه الطبقات، مع الأخذ في الاعتبار أن بعضها لن يؤخذ في الاعتبار إلا إذا كان الخطر المرتبط بتطبيقات محددة للذكاء الاصطناعي كبيراً وقابلاً للتحقق. يمكن استخدام إجراءات الحوكمة على المستوى الوطني أو الدولي ويمكن أن تتراوح من الهياكل الحكومية إلى الحلول الموجهة نحو السوق.