Google Play تشدد قواعدها على تطبيقات الذكاء الاصطناعي في أعقاب فضيحة الصور العارية المزيفة

يتم تناول Google Play تشدد القواعد على تطبيقات الذكاء الاصطناعي بعد فضيحة الصور العارية المزيفة من قبل BTW Media لأن الأدلة المنشورة تربطها بالبنية التحتية للإنترنت والحوكمة والتبعيات التشغيلية أو رؤية السوق.

• Google يحدث إرشاداته لتطبيقات الذكاء الاصطناعي على Google Play لمنع المحتويات غير اللائقة والضارة.
• يجب ألا تولد تطبيقات الذكاء الاصطناعي محتوى جنسيًا أو عنفًا أو مواد محظورة أخرى، ويجب أن تقدم ميزات إبلاغ للمستخدمين.
• يجب على المطورين اختبار أدوات الذكاء الاصطناعي بدقة لأمن المستخدمين والامتثال للإرشادات الترويجية الجديدة لتجنب الادعاءات المضللة.

رأينا
تشكل سياسات Google الصارمة الجديدة بشأن تطبيقات الذكاء الاصطناعي استجابة حيوية لإساءة استخدام الذكاء الاصطناعي لإنشاء صور عارية مزيفة. هذه التدابير حاسمة لكبح الممارسات غير الأخلاقية للتطبيقات وحماية خصوصية وأمان المستخدمين على Google Play.
—ليديا لوه، مراسلة BTW

Google تشدد اللوائح لتطبيقات الذكاء الاصطناعي المتاحة على Google Play. أعلنت الشركة الخميس عن إجراءات جديدة تهدف إلى الحد من توزيع المحتويات غير اللائقة الناتجة عن تطبيقات الذكاء الاصطناعي. يجب على المطورين الآن الامتثال لقواعد أكثر صرامة تضمن بقاء المواد الناتجة عن الذكاء الاصطناعي مناسبة، مع أحكام جديدة لتعليقات المستخدمين والإشراف على المحتوى.

منع المحتويات غير اللائقة

تتطلب إرشادات Google المنقحة أن تكون تطبيقات الذكاء الاصطناعي مصممة لمنع توليد المحتويات المحظورة، بما في ذلك المواد الجنسية والعنف والنتائج المحظورة الأخرى. يجب على المطورين الآن تنفيذ مرشحات محتوى قوية وتوفير آليات للمستخدمين للإبلاغ عن أي مواد مسيئة. هذه المبادرة جزء من استراتيجية Google الأوسع للحفاظ على بيئة رقمية آمنة وحماية خصوصية المستخدمين على منصتها. بالإضافة إلى ذلك، يجب اختبار التطبيقات بدقة للتأكد من امتثالها لمعايير المحتوى هذه قبل توزيعها على Google Play.

اقرأ أيضًا:كشف أوهام الديب فيك والحماية من الخداع

قمع التسويق المضلل

تتعامل Google أيضًا مع مشكلات ممارسات التسويق المضللة في تطبيقات الذكاء الاصطناعي. تم الترويج لبعض التطبيقات بدعوى أنها تولد صورًا عارية مزيفة غير رضائية أو تشارك في أنشطة أخرى غير أخلاقية. على سبيل المثال، ظهرت إعلانات لمثل هذه التطبيقات على وسائل التواصل الاجتماعي، مما يشير زورًا إلى قدرتها على إنشاء صور عارية لشخصيات عامة أو أفراد دون موافقتهم. تحظر سياسات Google الجديدة الترويج لتطبيقات الذكاء الاصطناعي مع حالات الاستخدام المضللة هذه، وأي تطبيق يُدان بانتهاك إرشادات التسويق هذه قد يُزال من متجر Google Play، بغض النظر عن قدراته الفعلية.

اقرأ أيضًا:لماذا تتعطل ميزات المعاينة بالذكاء الاصطناعي من Google غالبًا

مسؤولية المطورين وأفضل الممارسات

بموجب اللوائح المحدثة، يجب على المطورين ضمان عدم إمكانية التلاعب بتطبيقات الذكاء الاصطناعي الخاصة بهم لتوليد محتوى ضار أو مسيء. يتضمن ذلك عمليات اختبار وملاحظات صارمة، حيث يمكن للمطورين استخدام ميزة الاختبار المغلق من Google لجمع تعليقات المستخدمين على الإصدارات المبكرة من تطبيقاتهم. توصي Google المطورين بتوثيق هذه الاختبارات بدقة، حيث قد تطلب الشركة فحصها. لمزيد من مساعدة المطورين، توفر Google موارد مثل دليل People + AI Guidebook، الذي يقدم أفضل الممارسات لإنشاء تطبيقات ذكاء اصطناعي مسؤولة، بما يتماشى مع هذه الإرشادات الجديدة.