- الذكاء الاصطناعي (AI) هو قدرة حاسوب رقمي أو روبوت يتحكم به حاسوب على أداء المهام التي ترتبط عادة بالكائنات الذكية.
- حوكمة الذكاء الاصطناعي هي الإطار القانوني الذي يضمن أن يتم بحث وتطوير تقنيات الذكاء الاصطناعي والتعلم الآلي لمساعدة البشرية على تبني واستخدام هذه الأنظمة بطريقة أخلاقية ومسؤولة.
- إن حجم وتنوع وتعقيد ومستوى الاستقلال التكنولوجي لأنظمة الذكاء الاصطناعي يستلزم إعادة تقييم القوانين واللوائح والسياسات. نحن نستخدم نموذجًا تحليليًا يتكون من 3 طبقات لتمثيل تعقيد حوكمة الذكاء الاصطناعي.
الذكاء الاصطناعي، أو AI، هو تقنية تمكن أجهزة الكمبيوتر والآلات من محاكاة الذكاء البشري وقدرات حل المشكلات. من الناحية الفنية، الذكاء الاصطناعي ليس تقنية واحدة، بل مجموعة من التقنيات والتخصصات الفرعية التي تتراوح من مجالات مثل التعرف على الصوت والرؤية الحاسوبية إلى الانتباه والذاكرة، على سبيل المثال لا الحصر.
من الناحية الظواهرية، ومع ذلك، غالبًا ما يستخدم مصطلح AI كمصطلح عام للإشارة إلى درجة معينة من الاستقلالية التي تظهرها أنظمة التشخيص الطبي المتقدمة، والمعلمين الرقميين من الجيل الجديد، والسيارات ذاتية القيادة، وغيرها من التطبيقات القائمة على الذكاء الاصطناعي. وغالبًا ما تؤثر هذه التطبيقات بدورها على السلوك البشري وتتطور بشكل ديناميكي، وأحيانًا بشكل غير متوقع من قبل مصممي الأنظمة.
ما هي حوكمة الذكاء الاصطناعي؟
حوكمة الذكاء الاصطناعي (AI)تشير إلى الضمانات التي تضمن أن أدوات وأنظمة الذكاء الاصطناعي آمنة وأخلاقية وتبقى كذلك. وهي تضع الأطر والقواعد والمعايير التي توجه بحث وتطوير وتطبيق الذكاء الاصطناعي لضمان السلامة والإنصاف واحترام حقوق الإنسان.
تتضمن حوكمة الذكاء الاصطناعي آليات رقابية تعالج مخاطر مثل التحيز وانتهاكات الخصوصية وإساءة الاستخدام، مع تعزيز الابتكار والثقة. يتطلب النهج الأخلاقي المرتكز على الذكاء الاصطناعي لحوكمة الذكاء الاصطناعي إشراك مجموعة واسعة من أصحاب المصلحة، بما في ذلك مطوري الذكاء الاصطناعي والمستخدمين وصانعي السياسات وعلماء الأخلاق، مما يضمن تطوير واستخدام الأنظمة المتعلقة بالذكاء الاصطناعي لتتوافق مع قيم المجتمع.
تهدف الحوكمة إلى إنشاء الرقابة اللازمة لمواءمة سلوكيات الذكاء الاصطناعي مع المعايير الأخلاقية والتوقعات المجتمعية والحماية من الآثار السلبية المحتملة.
حوكمة الذكاء الاصطناعي ضرورية لتحقيق حالة من الامتثال والثقة والكفاءة في تطوير وتطبيق تقنيات الذكاء الاصطناعي. مع تزايد دمج الذكاء الاصطناعي في العمليات التنظيمية والحكومية، أصبحت إمكانية تأثيره السلبي أكثر وضوحًا. أبرزت الأخطاء البارزة مثل حادثة chatbot Tay (رابط خارج ibm.com)، حيث تعلم chatbot ذكاء اصطناعي من Microsoft سلوكًا سامًا من التفاعلات العامة على وسائل التواصل الاجتماعي، وقرارات الإدانة المتحيزة لبرنامج COMPAS (رابط خارج ibm.com) الحاجة إلى حوكمة قوية لمنع الضرر والحفاظ على ثقة الجمهور.
نموذج الطبقات
أحد الأدوات الرئيسية لإدارة الأنظمة المعقدة هو النمطية. من خلال التمييز بين المهام التي تتطلب ترابطًا واسعًا وتلك التي لا تحتاج إليه، تسعى النمطية إلى تقليل عدد التبعيات المتبادلة التي يجب تحليلها. نوع معين من النمطية، يُعرف باسم التقسيم الطبقي (layering)، يتميز بترتيب مكونات النظام المختلفة في تسلسلات هرمية متوازية.
يوجد نموذج بأربع طبقات لتوضيح طبيعة الفضاء الإلكتروني: أولاً، الكيانات التي تمر بالتجربة السيبرانية؛ ثانيًا، المعلومات التي يتم نقلها وتخزينها وتحويلها في الفضاء الإلكتروني. ثالثًا، الخدمات تتكون من كتل بناء منطقية، ورابعًا، الأسس المادية تدعم العناصر المنطقية.
نحاول فهم الطبيعة المعقدة لحوكمة الذكاء الاصطناعي باستخدام نموذج تحليلي مكون من 3 طبقات.
اقرأ أيضًا:الذكاء الاصطناعي: الفرص والتهديدات
1. الطبقة التقنية
الخوارزميات والبيانات التي تشكل أساس النظام البيئي لحوكمة الذكاء الاصطناعي توجد في الطبقة التقنية. سواء كانت برمجية (مثل أنظمة العدالة الجنائية أو التشخيص الطبي، أو المساعدين الشخصيين الأذكياء) أو مادية (مثل الروبوتات التجارية والسيارات ذاتية القيادة)، تعتمد أنظمة الذكاء الاصطناعي والأنظمة الذاتية على البيانات والخوارزميات. تم إنشاء مجموعة من الإرشادات للخوارزميات المسؤولة في إطار ندوة Dagstuhl حول «DataResponsibly»، مصحوبة بمقترح لإعلان الأثر الاجتماعي. المبادئ التوجيهية المقترحة للخوارزميات المسؤولة اجتماعيًا هي: المساءلة، وقابلية التفسير، والدقة، والملاءمة، والإنصاف.
حوكمة البيانات، أي عملية جمع واستخدام وإدارة البيانات بواسطة خوارزميات الذكاء الاصطناعي، يجب أن تلتزم بمبادئ تدعم الإنصاف وتمنع التمييز على أساس العرق أو اللون أو الأصل القومي أو الدين أو الجنس أو النوع الاجتماعي أو التوجه الجنسي أو الإعاقة.
اقرأ أيضًا:ما هو Perplexity AI؟
2. الطبقة الأخلاقية
فوق المستوى التقني، يمكننا مناقشة قضايا أخلاقية واسعة تتعلق بجميع أنواع أنظمة وتطبيقات الذكاء الاصطناعي. تشكل مبادئ حقوق الإنسان مصدرًا مهمًا لهذه المبادئ الأخلاقية. المبادئ العامة لـ IEEE للذكاء الاصطناعي والأنظمة الذاتية هي مثال آخر على كيفية بدء المعايير الأخلاقية للذكاء الاصطناعي في التبلور. يمكن تقييم الإجراءات المدفوعة بالخوارزميات باستخدام المعايير والوصايا الأخلاقية. المبدأ الأخلاقي للمساواة في المعاملة أو الإنصاف سينتهك، على سبيل المثال، إذا قام تطبيق ذكاء اصطناعي بدراسة بيانات شركة تأمين وفرض على مجموعة معينة من الأشخاص أقساطًا أعلى بسبب عوامل مثل الجنس أو العمر.
3. الطبقة الاجتماعية والقانونية
يمكن تغطية عملية إنشاء المؤسسات وتخصيص الأدوار لتنظيم الذكاء الاصطناعي والأنظمة الذاتية بواسطة الطبقة الاجتماعية والقانونية. بعبارة أخرى، سيكون لهيئة اتخاذ القرار سلطة تعريف الذكاء الاصطناعي، وإجراء استثناءات من شأنها أن تسمح للباحثين بإجراء أبحاث حول الذكاء الاصطناعي في سياقات محددة دون أن يكونوا مسؤولين بشكل صارم عن أفعالهم، ووضع إجراءات اعتماد للذكاء الاصطناعي. المبادئ والمعايير الناشئة عن الطبقات التقنية والأخلاقية، بالإضافة إلى الأطر القانونية الوطنية والدولية الأكثر عمومية، مثل تلك المتعلقة بحقوق الإنسان، يمكن أن تكون أساسًا لمعايير معينة تهدف إلى تنظيم الذكاء الاصطناعي.
لتحديد السلوك المناسب للذكاء الاصطناعي والأنظمة الذاتية، يقدم نموذج الطبقات إطارًا للتفكير في حوكمة الذكاء الاصطناعي.
يمكن لأنظمة اتخاذ القرار الخوارزمية والذكاء الاصطناعي تنفيذ هياكل الحوكمة الخاصة بها باستخدام مزيج من الأساليب متعددة الطبقات ومتعددة المستويات. نصف هنا بعضًا من هذه الطبقات، مع الأخذ في الاعتبار أن بعضها لن يؤخذ في الاعتبار إلا إذا كان الخطر المرتبط بتطبيقات معينة للذكاء الاصطناعي كبيرًا وقابلاً للتحقق. يمكن استخدام إجراءات الحوكمة على المستوى الوطني أو الدولي ويمكن أن تتراوح من الهياكل الحكومية إلى الحلول الموجهة نحو السوق.