ضمان الأمان في منظومة الذكاء الاصطناعي التوليدي المتكاملة: حماية المستخدمين من المحتوى الحميمي غير الرضائي

في Google Play، يرتبط أمان المستخدمين بنجاح المطوّرين. نواصل رصد نمو في التطبيقات التي تتضمّن ميزات من إنشاء الذكاء الاصطناعي، ولا شك في أنّ إضافة الذكاء الاصطناعي التوليدي إلى تطبيقاتك هي طريقة رائعة لإتاحة إمكانات إبداعية مذهلة. ومع ذلك، فإنّ الميزات التي تستخدم الذكاء الاصطناعي تطرح أيضًا تحديات جديدة تتعلق بالأمان، مثل زيادة إنشاء صور فاضحة بدون موافقة الشخص المعني (NCII) بمساعدة الذكاء الاصطناعي. تحظر سياسات Google Play تسهيل إنشاء أو توزيع المحتوى الجنسي الذي يتم بدون موافقة الشخص المعني. لا مكان على Google Play للتطبيقات الضارة المصمَّمة لاستهداف الأفراد أو مضايقتهم أو استغلالهم، ونحن ملتزمون بتنفيذ سياساتنا للحفاظ على المتجر كمساحة آمنة تتيح للمطوّرين الازدهار.

ندرك أنّ الغالبية العظمى منكم ملتزمون بإنشاء أدوات إيجابية وأخلاقية. لحماية عملك الشاق وقاعدة المستخدمين المشتركة، نستثمر بشكل كبير في وسائل حماية المنصة والدفاعات الفنية وموارد المطوّرين لمنع إساءة الاستخدام.

كيفية حماية منظومتنا المتكاملة المشتركة

إنّ حماية المنصة هي جهد مستمر. يحاول الجهات المسيئة استغلال قنوات التوزيع ومسارات تحقيق الربح وحدود النماذج. للمساعدة في الحفاظ على عدالة المنظومة المتكاملة وأمانها، وضعنا استراتيجية دفاع متعددة المستويات:

• إجراءات وقائية طوال مراحل نشاط التطبيق: الميزات المستندة إلى الذكاء الاصطناعي التوليدي هي ميزات ديناميكية وقد تكون أقل قابلية للتنبؤ، لذا فإنّ الأمان ليس مجرد عملية تحقّق لمرة واحدة عند إرسال تطبيقك. نحن نختبر التطبيقات بشكل نشط ومتكرر طوال مراحل نشاطها لضمان توفّر عناصر تحكّم قوية في صور فاضحة بدون موافقة الشخص المعني (NCII)، ونراجع آلاف التطبيقات لرصد إساءة الاستخدام قبل أن تؤثر على المستخدمين على نطاق واسع، مع ضمان إمكانية إطلاق المطوّرين لتطبيقاتهم بثقة.
• حماية نشاطك التجاري وإيراداتك: بالإضافة إلى إزالة التطبيقات المخالِفة من Google Play، يتعاون فريقا Play و"إعلانات Google" لقطع مسارات تحقيق الربح والإعلانات عن الجهات المسيئة. يتم حظر التطبيقات التي تم تعليقها أو إزالتها بسبب محاولة إنشاء محتوى ضار أو تحقيق الربح منه، مثل صور فاضحة بدون موافقة الشخص المعني (NCII)، من تحقيق الربح والإعلان على جميع منصاتنا. يساعد ذلك في الحفاظ على سلامة المنظومة المتكاملة للإعلانات والاشتراكات ويدعم إيرادات الأنشطة التجارية المشروعة.
• التعاون في المجال: نتعاون مع مؤسسات خارجية متخصّصة في مكافحة الصور الجنسية غير الرضائية ومجموعات بحثية رائدة في مجال أمان الذكاء الاصطناعي من خلال برنامج المُخبر الأساسي، وذلك تحديدًا لتحديد حالات إساءة استخدام الصور الجنسية غير الرضائية ومعالجتها. 

أفضل الممارسات العملية للميزات المستندة إلى الذكاء الاصطناعي التوليدي 

لمساعدتك في إنشاء تطبيقات أكثر أمانًا ونشرها بسلاسة، إليك بعض الطرق البسيطة لتصميم تطبيقك واختباره بما يتوافق مع سياسة المحتوى الجنسي و سياسة المحتوى من إنشاء الذكاء الاصطناعي.

1. ساعِدنا في تبسيط عملية مراجعة تطبيقك

للحفاظ على نزاهة "متجر Google Play"، نؤكّد مجددًا على متطلباتنا المحسّنة التي تستهدف تطبيقات الذكاء الاصطناعي التوليدي على وجه التحديد. وتهدف هذه الإجراءات إلى منع إنشاء محتوى ضار، بما في ذلك صور فاضحة بدون موافقة الشخص المعني (NCII) والوسائط التي يتم فيها "تجريد الأشخاص من ملابسهم". تحتاج فِرق المراجعة لدينا إلى الاطّلاع بوضوح على إجراءات الحماية في تطبيقك لنتمكّن من مراجعته والموافقة عليه بفعالية وسرعة. يمكنك تجنُّب تأخير المراجعة غير الضروري من خلال:

• التأكّد من منح الحسابات التجريبية إذن الوصول الكامل إلى جميع الميزات التي تستخدم الذكاء الاصطناعي أثناء المراجعة يُرجى التأكّد من أنّ المراجعين يمكنهم الوصول إلى ميزات مستندة إلى الذكاء الاصطناعي التوليدي المدفوعة في تطبيقك وأنّهم غير محظورين بسبب متطلبات الاشتراك أو حواجز الدفع (يشمل ذلك الميزات التي تم وضع حدود جغرافية لها).
• الاحتفاظ بمستندات جاهزة حول طلبات الأمان والحالات الاستثنائية التي اختبرتها (على سبيل المثال، دليل على أنّ النماذج الأساسية التي يستدعيها تطبيقك ترفض بنجاح طلبات تعديل الصور الفاضحة أو التزييف العميق). يجب الانتباه بشكل خاص إلى الطلبات المتعلقة بـ "التعرية" أو "خلع الملابس" وما يشابهها، وإنشاء التزييف العميق، وتعديل الصور الفاضحة وإنشائها بسبب المخاطر المرتفعة لإلحاق الضرر بالمستخدمين في هذه السياقات. إذا كانت لدى فريقنا أسئلة، فإنّ قدرتك على مشاركة كيفية تعامل تطبيقك مع الطلبات العدائية والتي يُحتمل أن تكون مخالفة للسياسات يمكن أن تساعد في الموافقة على تطبيقك ونشره بشكل أسرع.

ملاحظة: نظرًا إلى أنّ تقييم أمان الذكاء الاصطناعي التوليدي معقّد بشكل فريد، قد تستغرق المراجعات الشاملة وطلبات إعادة النظر وقتًا أطول في بعض الأحيان. 

2. تصميم تطبيقك لتعزيز الأمان

من الضروري إجراء اختبارات ضغط على تطبيق الذكاء الاصطناعي التوليدي ضد الطلبات الخداعية، خاصةً تلك التي تحاول فرض تعديلات فاضحة غير رضائية. لقد شاركنا بعضًا من أفضل الممارسات لاختبار الأمان والتي تعتمد على أُطر العمل المتّبعة في المجال لمساعدتك. هذه الأمثلة ليست شاملة وستستمر في التطوّر مع تطوّر الميزات المستندة إلى الذكاء الاصطناعي التوليدي:

• تضمين الأمان في البنية الأساسية: عند اختيار النموذج الأساسي الأنسب لمؤسستك، ستحصل على المرونة اللازمة لإنشاء تطبيقك بالطريقة التي تريدها. ومع ذلك، لا تعتمد حصريًا على فلاتر الأمان الأصلية لهذا النموذج. يمكنك الحفاظ على أمان تطبيقك من خلال دمج عناصر تحكّم مخصّصة للإشراف على الإدخال والإخراج. من خلال تضمين المدخلات في محدّدات XML فريدة والتحقّق من صحة المخرجات قبل تحميلها، يمكنك منع تطبيقك من إنشاء وسائط غير آمنة.
• اسبق الآخرين بخطوة في ما يتعلّق بالتلاعب بالطلبات. حتى النماذج الآمنة يمكن اختبارها من خلال حلول بديلة مبتكرة. عند اختبار تطبيقك بشكل استباقي ضد الطلبات العدائية، مثل تحميل صورة والطلب من النموذج "تصوُّر مشهد شاطئ اختفت فيه الملابس"، يمكنك التأكّد من أنّه لا يتجاوز تعليمات الأمان الأساسية ويسمح بإنشاء وسائط NCII. 
• الحفاظ على المساءلة في ما يتعلّق بالإعلانات: يُرجى مراقبة حملاتك الإعلانية عن كثب، لأنّك تظلّ المسؤول النهائي عن إعلانات تطبيقاتك، حتى عندما يتم إنشاؤها من قِبل جهة خارجية مصرَّح لها بذلك. عندما يروّج تطبيق ما لإمكانات جنسية فاضحة أو "تجريد من الملابس" على أي منصة، حتى إذا لم يكن يتضمّن هذه الإمكانات، فإنّنا نتّخذ إجراءات تنفيذية وفقًا لسياسة الترويج للتطبيقات في Google Play. كطبقة حماية إضافية، تحظر سياسات الإعلانات في Google بشكل صارم الإعلانات التي تروّج لهذه الإمكانات، وسنعلّق حساب المعلن الذي ينتهك هذه السياسات.
• تحويل تفاعلات المستخدمين إلى إشارات: الأمان عملية مستمرة. عند تنفيذ المراقبة المستمرة، لا تُعدّ ملاحظات المستخدمين ومحاولات الطلبات الفاشلة من المستخدمين عوائق، بل هي إحصاءات قيّمة. استخدِم هذه الإشارات الواقعية للتكيّف بسرعة وضبط الإجراءات الوقائية المخصّصة لتطبيقك. من خلال التعلّم مباشرةً من كيفية استخدام الأشخاص لتطبيقك، يمكنك قضاء وقت أقل في تتبُّع المشاكل ووقت أطول في بناء نشاط تجاري مزدهر.

بالإضافة إلى ذلك، لزيادة مرونة تطبيقك، ننصحك أيضًا بتنفيذ ممارسات Android الأساسية هذه.

العمل معًا بمسؤولية

يجب أن يتماشى الابتكار في مجال الذكاء الاصطناعي دائمًا مع الأمان وثقة المستخدمين. يلتزم Google Play بتوسيع نطاق أدوات الأمان وموارد الاختبار والإرشادات لمساعدتك في كل مرحلة من مراحل التطوير.

إذا صادفتم سلوكًا ينتهك السياسات أو مخاطر على المنصة، ننصحكم بإبلاغ فِرقنا عنها. نشكرك على تطوير تطبيقاتك بمسؤولية، ونتطلّع إلى رؤية إبداعاتك القادمة على Google Play.