الخلاصة

  • اختبرت Ofcom ثماني واجهات برمجية للبحث التوليدي وثلاثاً للبحث التقليدي. قيّمت النص الذي أنتجته الأولى، ثم فحصت عناوين المواقع التي استرجعتها الواجهات الإحدى عشرة بتحليل مستقل.
  • في الاستفسارات التي سعت عمداً إلى صور العنف الدموي، استرجعت 29.76% من الاستجابات الصالحة نطاقاً واحداً على الأقل ضمن أعلى مستوى خطر في قائمة Ofcom المرجعية. هذا قياس لعملية الاسترجاع.

يبدو صندوق البحث كأنه يؤدي عملاً واحداً. دراسة Ofcom الأصلية المنشورة في 22 أكتوبر تكشف وظيفتين تحتاجان دفترين: صياغة الرد، وجلب عناوين المواقع. فحص الباحثون النصوص التي خرجت من واجهات البحث التوليدي، ثم فحصوا الروابط التي التقطتها واجهات البحث التوليدي والتقليدي. اختلاف المجتمع المقاس في الدفترين يمنع عرض النسبتين وكأنهما نتيجتا السباق نفسه.

أعد الفريق مئة استفسار لكل نوع من الأذى. نصفها طلب مواد ضارة بوضوح، والنصف الآخر استخدم مفردات متصلة بها من غير طلبها. أُرسلت الأسئلة في ثلاث جولات بين 3 و5 أغسطس 2026 إلى ثماني واجهات توليدية وثلاث تقليدية، مع إخفاء أسماء مقدميها. عند تقييم نصوص الردود التوليدية، اشترطت Ofcom اتفاق ثلاثة نماذج مراجعة بالإجماع للحكم بوجود محتوى ضار. في مجموع الأسئلة من الفئتين، صُنفت 3.78% من الردود المتعلقة بالعنف و3.07% من الردود المتعلقة بوصم الجسد ضارة. وعجزت النماذج عن الاتفاق في 16.67% و10.21% من الردود على الترتيب. خانة «غير محسوم» ليست هامشاً صغيراً يمكن محوه لتحسين المظهر.

أما دفتر العناوين فيضم الواجهات الإحدى عشرة. طابقت Ofcom ما استرجعته مع قوائمها المرجعية لنطاقات مرتبطة بالإباحية أو بمشاهد العنف الدموي. في الاستفسارات التي بحثت عمداً عن النوع الثاني، استرجعت 29.76% من الاستجابات نطاقاً مصنفاً في أعلى مستوى للخطر على الأقل مرة واحدة. بلغت النسبة 7.27% عندما تناول السؤال الموضوع من غير طلب المادة الضارة. وفي موضوع الإباحية ظهرت نسبتا 20.28% و0.59% للنوعين نفسيهما من الأسئلة. يُمنح الرد تصنيف أعلى نطاق مطابق فيه؛ المقام هو عدد الاستجابات، وليس عدد صفحات الشبكة.

قد تسترجع الواجهة التوليدية رابطاً ثم لا تستخدمه في الرد النهائي ولا تعرضه ضمن المراجع. اختبرت الدراسة واجهات المطورين، بينما تقع شاشة المنتج الذي يستخدمه الطفل في مرحلة تالية. أدرجت Ofcom هذه التجربة بين أدلة تقريرها الرئيسي الصادر بموجب المادة 63، التي تتناول تعرض الأطفال للمحتوى الضار. سجل الاسترجاع يحدد أين ينبغي التفتيش في المرحلة التالية؛ تعرض طفل بعينه يحتاج دليلاً من واجهة المنتج. ولم يكن تمرير عمر اثني عشر عاماً ممكناً لكل واجهة، كما تعذر التحقق من معالجة جميع الطلبات بوصفها صادرة من بريطانيا.

هناك أيضاً تاريخ مستقل لقائمة المخاطر. ربما صُنّف نطاق قبل تجربة أغسطس، ثم غيّر موقعه وسائل التحقق من السن أو الحجب البريطاني. لذلك ينبغي قراءة تاريخ التصنيف إلى جانب تاريخ الاسترجاع وتاريخ ظهور الرابط للمستخدم، إذا ظهر. هذا يضع مسؤولية واضحة لكل دفتر بدلاً من منح عبارة «الذكاء الاصطناعي آمن» ختم خروج واحداً.

المصادر الرسمية