التمييز الجنسي في ChatGPT: كيف تؤثر تحيزات الذكاء الاصطناعي الخفية علينا

• تشكل التحيزات الجنسية في نماذج الذكاء الاصطناعي مثل ChatGPT مدعاة للقلق: قد تنقل بعض الإجابات قوالب نمطية جنسانية عن غير قصد.
• على الرغم من جهود المطورين لتقليل التحيزات، إلا أن التشوهات في البيانات والاختلافات الثقافية تعيق تحقيق المساواة بين الجنسين.
• المزيد من الشفافية وآليات تعليقات المستخدمين هي طريق التحسين، ويجب أن يحقق الذكاء الاصطناعي توازنًا بين تقليل التحيز والتجارب المخصصة.

أمازونطورت في عام 2014 أداة ذكاء اصطناعي لاختيار المرشحين مسبقًا بهدف تبسيط عملية التوظيف باستخدام الذكاء الاصطناعي. لكن سرعان ما اكتشفت الشركة أن نظام التوظيف القائم على الذكاء الاصطناعي كان يميل إلى تقييم المتقدمات من النساء بشكل أكثر سلبية، خاصة بالنسبة للمناصب التقنية.

أظهرت اختبارات أمازون أن الذكاء الاصطناعي كان متحيزًا بشكل غير عادل تجاه المرشحات من النساء. هذا الاكتشاف صدم صناعة التكنولوجيا. على الرغم من استثمار أمازون الكبير في تطوير هذه الأداة، تخلت عنها الشركة في النهاية بسبب تحيزها الضمني ضد النساء. سلطت هذه الحالة الضوء على أن أنظمة الذكاء الاصطناعي يمكن أن تحتوي على تمييز جنسي غير مقصود حتى عندما تكون نوايا المطورين محايدة.

يغير الذكاء الاصطناعي بسرعة الطريقة التي نتفاعل بها مع العالم، لكن مشكلة التحيزات الجنسية منتشرة. لا يمكننا تجاهل هذه الظاهرة لأنها تتجاوز التفاعلات الفردية وتشكل تصوراتنا المجتمعية بشكل خفي.

هذا يثير سؤالًا مهمًا: هل تعكس نماذج اللغة مثلChatGPTأيضًا عن غير قصدالتحيزات الجنسيةالموجودة في المجتمع؟ كيف يمكن لهذه التحيزات أن تؤثر على معتقداتنا وقراراتنا في تفاعلاتنا اليومية مع الذكاء الاصطناعي؟

اقرأ أيضًا:التمييز الجنسي المزدوج في صوت "Her" المغرية من ChatGPT

التحيزات اللاواعية لـ ChatGPT (الذكاء الاصطناعي)

تم تصميم ChatGPT لتقديم إجابات محايدة وموضوعية، لكن هل إجاباته خالية حقًا من التحيزات الجنسية؟ تعتمد نماذج الذكاء الاصطناعي بشكل أساسي على مجموعات بيانات ضخمة للتدريب، والتي غالبًا ما تحتوي على نصوص من وسائل التواصل الاجتماعي والمواقع الإلكترونية ومصادر عامة أخرى. عندما يعكس هذا النص التحيزات الجنسية للمجتمع، يمكن لنماذج الذكاء الاصطناعي إعادة إنتاج هذه "التحيزات اللاواعية" عن غير قصد في إجاباتها.

في بعض الاختبارات، وجدنا أن ChatGPT يميل إلى استخدام جنس معين لتمثيل بعض المهن أو الأدوار. على سبيل المثال، عندما يسأل المستخدمون ChatGPT عن الشخص الأكثر ملاءمة لوظيفة ممرض أو مدير تنفيذي، قد يميل ChatGPT بشكل خفي إلى إجابات تتأثر بالقوالب النمطية الجنسانية. هذه التحيزات الدقيقة، رغم أنها أقل وضوحًا من اللغة التمييزية التقليدية، يمكنها مع ذلك التأثير على تصورات المستخدمين وصنع قراراتهم.

كيف يمكن فهم التحيزات الجنسية في ChatGPT؟ قد لا يلاحظ بعض المستخدمين هذه الاختلافات الدقيقة فورًا لأن إجابات ChatGPT تبدو غالبًا موضوعية. لكن المشكلة تكمن في "تحيزه اللاواعي". على الرغم من أن الذكاء الاصطناعي ليس لديه منظور جنسي حقيقي، إلا أنه يعكس دون وعي القوالب النمطية العميقة الجذور الموجودة في بيانات تدريبه. هذا لا يؤثر فقط على تصورات المستخدمين، بل قد يخلق أيضًا "حلقة تغذية مرتدة" جديدة من التحيز. أي أن المستخدمين يستوعبون المعلومات المتحيزة من الذكاء الاصطناعي، ويعززون هذه الآراء في الحياة الواقعية، مما يزيد من عمق التشوهات في البيانات. "بعد أن يتعلم النموذج من البيانات المتحيزة ويتم إعادة استخدامه، يمكن أن يتضخم تحيز النموذج عند توليد بيانات جديدة، مما يؤدي إلى ما يسمى 'تأثير تضخيم التحيز'،" كما يقولروهان تاوري، طالب دكتوراه في علوم الكمبيوتر بجامعةستانفورد.

فيما يتعلق بحلقات التغذية المرتدة والتحيز في الذكاء الاصطناعي، يؤكد علماء الكمبيوتر أن حلقات التغذية المرتدة للبيانات يمكن أن تضخم التشوهات الموجودة بالفعل في مجموعات البيانات.

بعد أن يتعلم النموذج من البيانات المتحيزة ويتم إعادة استخدامه، يمكن أن يتضخم تحيز النموذج عند توليد بيانات جديدة، مما يؤدي إلى ما يسمى 'تأثير تضخيم التحيز'.

روهان تاوري، طالب دكتوراه في علوم الكمبيوتر، جامعة ستانفورد

اقرأ أيضًا:دراسة جديدة تظهر أن ChatGPT متحيز جنسيًا إلى حد كبير

لماذا يصعب تحقيق المساواة بين الجنسين في ChatGPT؟

يصمم المطورون نماذج لغوية كبيرة مثل ChatGPT لتلبية احتياجات المحادثة المختلفة وتوفير مجموعة واسعة من المعلومات والدعم.

ومع ذلك، تجدر الإشارة إلى أن بيانات تدريب ChatGPT تغطي كمية كبيرة من محتوى الويب والنصوص العامة، وغالبًا ما تعكس هذه المحتويات التحيزات الجنسية في المجتمع. على الرغم من أنOpenAIتحاول تصفية بيانات أكثر توازنًا وتنوعًا، إلا أن العديد من التحيزات تظل مخفية في اللغة الدقيقة. على سبيل المثال، تنقل إجابات النموذج بصمت قوالب نمطية معينة حول المهن والمهارات والشخصيات. أكدتروهي خان، باحثة ESRC فيLSE، أن الضمائر المذكرة كانت أقل ارتباطًا بالمهن الأنثوية تقليديًا، بينما كانت الضمائر المؤنثة غالبًا مرتبطة بأدوار رعاية أو أدوار أقل تقنية.

في الوقت نفسه، يأتي مستخدمو ChatGPT من جميع أنحاء العالم، ولكل منهم وجهات نظر جنسانية وخلفيات ثقافية وأعراف اجتماعية مختلفة. يواجه ChatGPT صعوبة في الموازنة بين هذه الاختلافات الثقافية بدقة لضمان تجربة محادثة مناسبة وخالية من التحيز لكل مستخدم.

للحد من التحيزات الجنسية، قد يدمج فريق تطوير ChatGPT المزيد من استراتيجيات إزالة التحيز في النص الذي يولده النموذج. لكن هناك تحديات. يمكن للمحادثات المحايدة جدًا أن تبدو "باردة" أو "نمطية" وتفتقر إلى الشخصية والطبيعية في التفاعل.

هذا يثير أيضًا سؤالًا مركزيًا آخر: هل يجب أن نزيل التحيزات تمامًا أم أن نوازن بين الخصائص الجنسانية المختلفة مع احترام التنوع؟ لم تحل تكنولوجيا الذكاء الاصطناعي الحالية هذه المشكلة بشكل مثالي بعد، لكن يمكننا جعل الذكاء الاصطناعي أكثر حيادية من خلال تعزيز المبادئ التوجيهية الأخلاقية وزيادة الشفافية التكنولوجية.

اقرأ أيضًا:دراسة شاملة حول ChatGPT: التقدم، القيود، والاعتبارات الأخلاقية في معالجة اللغة الطبيعية والأمن السيبراني

اختبار

ما هو السبب الرئيسي وراء تحيز نماذج اللغة مثل ChatGPT في القضايا الجنسانية؟

أ. قام المصممون بتضمين خوارزميات جنسية عن قصد

ب. يتم تدريب معظم نماذج الذكاء الاصطناعي على بيانات تحتوي على تحيزات جنسية

ج. تولد نماذج الذكاء الاصطناعي تحيزات جنسية تلقائيًا دون أي بيانات

د. تم تصميم ChatGPT خصيصًا لجنس معين وبالتالي فهو متحيز

(الإجابة الصحيحة في نهاية المقال)

"الوعي الجنساني" في ChatGPT: مساواة ضرورية أم تحدي جديد؟

يمكن اعتبار إدخال "الوعي الجنساني" في ChatGPT سيفًا ذو حدين. من ناحية، يسمح للنموذج بالاستجابة بشكل أفضل لاحتياجات المستخدمين في سيناريوهات محددة معينة من خلال تقديم خدمات مفصلة ومخصصة. من ناحية أخرى، قد يثير التنفيذ غير المتقن للتعرف على الجنس والتكيف من قبل الذكاء الاصطناعي مشكلات أخلاقية وقد يزيد عن غير قصد من التحيزات الجنسية. كما أكدت باحثة الذكاء الاصطناعيكيت كروفورد: "أنظمة الذكاء الاصطناعي ليست محايدة. غالبًا ما تكون متجذرة بعمق في الأعراف المجتمعية، وإذا لم يتم تصميمها بعناية، يمكنها أن تؤدي إلى تفاقم عدم المساواة القائمة." يؤكد هذا الاقتباس من كيت كروفورد أن الذكاء الاصطناعي ليس محايدًا، خاصة في المجالات الحساسة مثل الجنس. إذا لم يتم تصميمه بشكل صحيح، يمكنه أن يزيد من عدم المساواة في المجتمع.

يؤكد باحثون مثل الدكتورمعتصم العويدةعلى أن إزالة التحيزات دون التضحية بأصالة المحادثة تظل تحديًا معقدًا ومستمرًا في تطوير الذكاء الاصطناعي. وأكد: "إزالة التحيزات دون التضحية بواقعية المحادثة تظل تحديًا معقدًا ومستمرًا في تطوير الذكاء الاصطناعي."

إزالة التحيزات دون التضحية بواقعية المحادثة تظل تحديًا معقدًا ومستمرًا في تطوير الذكاء الاصطناعي.

الدكتور معتصم العويدة، أستاذ مساعد في الأمن السيبراني، جامعة أبوظبي

فيما يلي، نلقي نظرة عن قرب على ضرورة ومخاطر "الوعي الجنساني" في الذكاء الاصطناعي.

كيف يحسن الوعي الجنساني التجارب المخصصة؟

يشير منظور جديد إلى أن الذكاء الاصطناعي لا ينبغي أن يتجاهل الجنس تمامًا، بل يجب أن يتبنى "وعيًا جنسانيًا" أكثر دقة. يمكن لهذا الوعي ألا يساعد فقط في تجنب التحيزات، بل أيضًا تقديم إجابات أكثر تخصيصًا وتفصيلاً في سياقات معينة. عند مناقشة الذكاء الاصطناعي والجنس، يجادل بعض الخبراء بأن الذكاء الاصطناعي لا ينبغي أن يتجاهل الجنس تمامًا، بل يجب أن يتبع نهجًا "مراعيًا للجنس". تؤكد هذه الرؤية على أهمية التعرف على تأثير التحيزات الجنسانية في أنظمة الذكاء الاصطناعي واتخاذ إجراءات لمعالجة هذه المشكلات بوعي. وفقًا لتقارير من منظمات مثلOECDوIBM، على الرغم من أن الذكاء الاصطناعي قد يكون لديه القدرة على تقليل الفجوات الجنسانية، إلا أنه يمكنه أيضًا تعزيز القوالب النمطية إذا تم التعامل معه بشكل سيئ. أكدت OECD أن الذكاء الاصطناعي لا ينبغي أن يتجاهل الجنس، بل يجب أن يتبع نهجًا "مراعيًا للجنس".

بالإضافة إلى ذلك، أوضحتسارة ستيرلي، باحثة في جامعة الدنمارك التقنية (DTU): "توقعنا وجود بعض التحيز الجنسي لأن ChatGPT يُدرّب على مواد من الإنترنت تعكس إلى حد ما القوالب النمطية الجنسانية التي نعرفها منذ سنوات عديدة."

لا ينبغي للذكاء الاصطناعي أن يتجاهل الجنس، بل يجب أن يتبع نهجًا "مراعيًا للجنس".

منظمة التعاون الاقتصادي والتنمية

في مواقف معينة، يمكن أن يؤدي مراعاة الاختلافات الجنسانية إلى تحسين جودة خدمات الذكاء الاصطناعي. على سبيل المثال، في مجالات مثلالصحة النفسية،التعليم، والإرشاد المهني، قد يكون للمستخدمين من جنسين مختلفين احتياجات مختلفة.

لنفترض أن طالبًا يستخدم ChatGPT للحصول على نصائح دراسية؛ من خلال فهم جنس المستخدم، يمكن للذكاء الاصطناعي أن يوصي بموارد تعليمية أكثر توافقًا مع خلفية المستخدم واهتماماته، أو تقديم اقتراحات تتوافق مع احتياجاته الاجتماعية.

كريستين إكسلليوزملاؤها من جامعة هارفارد أجروا دراسة. درسوا كيف تميل النساء إلى التقليل من إنجازاتهن والتسويق لأنفسهن بشكل أقل من الرجال. في سياق الذكاء الاصطناعي وChatGPT، يمكن لهذه الديناميكيات الجنسانية أن تؤثر على كيفية تلقي المستخدمين للإجابات وتفسير المعلومات المقدمة، حيث أن نماذج الذكاء الاصطناعي غالبًا ما تعكس التحيزات الموجودة في بيانات تدريبها. كما تؤكد إكسللي، فإن حل هذه المشكلة يتطلب أكثر من تشجيع النساء على أن يكن "أكثر ثقة". إنه يتعلق بتغيير المؤسسات والأطر التي تشكل التوقعات الجنسانية، وتحدي الأعراف الاجتماعية الأساسية التي تغذي هذه الاختلافات.

تميل النساء إلى التقليل من إنجازاتهن والتسويق لأنفسهن بشكل أقل من الرجال، حتى عندما تكون إنجازاتهن متساوية بشكل موضوعي.

كريستين إكسللي، أستاذة في جامعة هارفارد

التحديات الأخلاقية للوعي الجنساني: هل يمكن أن تعزز القوالب النمطية؟

على الرغم من الفوائد المحتملة لـ "الوعي الجنساني"، إلا أنه يمكن أن يعزز القوالب النمطية عن غير قصد. وفقًا لتقارير من منظمات مثلOECDوIBM، على الرغم من أن الذكاء الاصطناعي قد يكون لديه القدرة على تخفيف الفجوات الجنسانية، إلا أنه يمكنه أيضًا تعزيز القوالب النمطية إذا تمت إدارته بشكل سيئ. كما ذكرنا سابقًا، عندما يحاول ChatGPT التعرف على جنس المستخدم والتكيف معه، قد يصدر أحكامًا بناءً على الأعراف الاجتماعية الموجودة في بيانات التدريب. على سبيل المثال، إذا اقترح النموذج توصيات مهنية مختلفة حسب الجنس، فقد ينقل عن غير قصد تحيزات جنسانية من المفاهيم التقليدية، مثل افتراض أن قطاع التكنولوجيا أكثر ملاءمة للرجال، بينما التعليم أو العلوم الإنسانية أكثر ملاءمة للنساء.

هذه المشكلة مثيرة للقلق بشكل خاص في سياقات المهنة والتعليم. من ناحية، يمكن للوعي الجنساني المخصص أن يوفر تجربة مخصصة بشكل أفضل تلبي احتياجات المستخدمين؛ من ناحية أخرى، يمكن لهذا التعرف والتكيف أن يعزز القوالب النمطية الجنسانية، خاصة عندما يقدم الذكاء الاصطناعي اقتراحات جنسانية بناءً على المعتقدات السائدة.

لذلك، يطرح إدخال الوعي الجنساني أيضًا تحديات جديدة: كيف يمكن تحقيق التوازن بين العدالة والتنوع في ChatGPT؟

اقرأ أيضًا:مولدات الصور بالذكاء الاصطناعي غالبًا ما تنتج نتائج عنصرية وجنسية: هل يمكن إصلاح ذلك؟

تأملات في المستقبل

نظرًا لأن تكنولوجيا الذكاء الاصطناعي تتطور باستمرار، يمكننا أن نفترض بشكل معقول أن الجهود ستعالج تدريجيًا مشكلة تحيزات الذكاء الاصطناعي. لكن السؤال الرئيسي يظل: كيف يمكن تصميم ذكاء اصطناعي يحافظ على الموضوعية والحياد بينما يكون حساسًا وقابلاً للتكيف مع التنوع الجنساني؟ قد يحتاج ذكاء اصطناعي المستقبل إلى إيجاد توازن جديد بين المساواة والتخصيص.

قضية التحيزات الجنسية في ChatGPT تذكرنا بأن الذكاء الاصطناعي ليس أداة محايدة تمامًا، بل هو منتج يتأثر ببياناته والمجتمع. على الرغم من أنه قد يكون من المستحيل إزالة التحيزات الجنسية تمامًا، إلا أن الإصدارات المستقبلية من ChatGPT يمكنها تحقيق المزيد من العدالة من خلال تضمين بيانات متنوعة، واستخدام مطالبات شفافة، وتنفيذ آليات تعليقات المستخدمين.

في الوقت نفسه، من المهم لكل مستخدم لـ ChatGPT وأدوات الذكاء الاصطناعي الأخرى أن يفهم حدود الذكاء الاصطناعي وأن يحافظ على عقل نقدي لمعالجة هذه المشكلة. بعبارة أخرى، يجب أن نظل يقظين، وألا نعتمد بشكل أعمى على إجابات الذكاء الاصطناعي، بل أن نكون واعين بالتحيزات المحتملة الكامنة وراءها.

بينما نعتمد بشكل متزايد على الذكاء الاصطناعي، فإن المساواة بين الجنسين ليست مجرد مسألة تقنية، بل هي أيضًا قضية أخلاقية تتطلب نقاشًا جماعيًا في المجتمع. كيف سيصبح الذكاء الاصطناعي في المستقبل تكنولوجيا أكثر شمولاً وتنوعًا، سيكون له تأثيرات عميقة على تفاعلاتنا اليومية، وقيمنا، وفهمنا لـ "المساواة بين الجنسين".

إجابة الاختبار

ب. معظم نماذج الذكاء الاصطناعي تُدرّب على بيانات تحتوي على تحيزات جنسية