Google Play يشدّد القواعد على تطبيقات الذكاء الاصطناعي في ظل فضيحة الصور المزيفة العارية

يتم تسليط الضوء على Google Play يشدّد القواعد على تطبيقات الذكاء الاصطناعي في ظل فضيحة الصور المزيفة العارية من قبل BTW Media لأن الأدلة المنشورة تربطه بالبنية التحتية للإنترنت أو الحوكمة أو التبعيات التشغيلية أو ظهور السوق.

• تحدث Google إرشاداتها لتطبيقات الذكاء الاصطناعي على Google Play لمنع المحتوى غير اللائق والضار.
• يجب ألا تولد تطبيقات الذكاء الاصطناعي محتوى جنسيًا أو عنفًا أو مواد مقيدة أخرى، ويجب أن توفر ميزات للإبلاغ من المستخدمين.
• يجب على المطورين اختبار أدوات الذكاء الاصطناعي بدقة لسلامة المستخدم والالتزام بإرشادات ترويجية جديدة لتجنب الادعاءات المضللة.

رأينا
تعد سياسات Google الجديدة الصارمة بشأن تطبيقات الذكاء الاصطناعي استجابة حيوية لسوء استخدام الذكاء الاصطناعي في إنشاء صور عارية مزيفة. هذه الإجراءات ضرورية للحد من ممارسات التطبيقات غير الأخلاقية وحماية خصوصية المستخدم وسلامته على Google Play.
—ليديا لوه، مراسلة BTW

تشدّ Google اللوائح على تطبيقات الذكاء الاصطناعي المتاحة على Google Play. أعلنت الشركة يوم الخميس عن إجراءات جديدة تهدف إلى الحد من توزيع المحتوى غير اللائق الناتج عن تطبيقات الذكاء الاصطناعي. يجب على المطورين الآن الامتثال لقواعد أكثر صرامة تضمن بقاء المواد المولدة بالذكاء الاصطناعي مناسبة، مع أحكام جديدة لملاحظات المستخدمين وتعديل المحتوى.

منع المحتوى غير اللائق

تنص إرشادات Google المنقحة على أن تطبيقات الذكاء الاصطناعي يجب أن تصمم لمنع توليد المحتوى المقيد، بما في ذلك المواد الجنسية والعنف والمخرجات المحظورة الأخرى. يُطلب من المطورين الآن تنفيذ مرشحات محتوى قوية وتوفير آليات للمستخدمين للإبلاغ عن أي مواد مسيئة. هذه المبادرة جزء من استراتيجية Google الأوسع للحفاظ على بيئة رقمية آمنة ودعم خصوصية المستخدم على منصتها. بالإضافة إلى ذلك، يجب اختبار التطبيقات بدقة لضمان امتثالها لمعايير المحتوى هذه قبل توزيعها على Google Play.

اقرأ أيضًا:كشف أوهام التزييف العميق والحماية من الخداع

التشديد على التسويق المضلل

تتعامل Google أيضًا مع مشكلات الممارسات التسويقية المضللة في تطبيقات الذكاء الاصطناعي. تم الترويج لبعض التطبيقات بادعاءات توليدصور عارية مزيفةدون موافقة أو الانخراط في أنشطة غير أخلاقية أخرى. على سبيل المثال، ظهرت إعلانات لمثل هذه التطبيقات على وسائل التواصل الاجتماعي، مما يشير زورًا إلى أنها يمكن أن تنشئ صورًا عارية لأشخاص عامين أو أفراد دون موافقتهم. تحظر سياسات Google الجديدة الترويج لتطبيقات الذكاء الاصطناعي مع مثل هذه الحالات الاستخدامية المضللة، وأي تطبيق يخالف هذهالإرشاداتالتسويقية يخاطر بالإزالة من متجر Google Play، بغض النظر عن قدراته الفعلية.

اقرأ أيضًا:لماذا غالبًا ما تخطئ نظرات Google العامة للذكاء الاصطناعي

مساءلة المطورين وأفضل الممارسات

بموجب اللوائح المحدثة، يُحمّل المطورون مسؤولية ضمان عدم إمكانية التلاعب بتطبيقات الذكاء الاصطناعي الخاصة بهم لتوليد محتوى ضار أو مسيء. يشمل ذلك عمليات اختبار وملاحظات صارمة، حيث يمكن للمطورين استخدامميزة الاختبار المغلقةمن Google لجمع مدخلات المستخدمين حول الإصدارات المبكرة من تطبيقاتهم. توصي Google المطورين بتوثيق هذه الاختبارات بدقة، حيث قد تطلب الشركة مراجعتها. لدعم المطورين بشكل أكبر، توفر Google موارد مثل دليل People + AI Guidebook، الذي يقدم أفضل الممارسات لإنشاء تطبيقات ذكاء اصطناعي مسؤولة تتوافق مع هذه الإرشادات الجديدة.