أظهرت الاختبارات الأولية لنظام إنتاج الملصقات الجديد في شركة “ميتا” المالكة لموقع “فيسبوك” وجود ملصقات مريبة ومضحكة في بعض الأحيان. وقد ذكر موقع “ذا فيرج” التقني حالة أحد المستخدمين الذي أنتج ملصقات غير مناسبة مثل أطفال جنود وأخرى تظهر أجساداً عارية، على الرغم من القيود التي فرضتها الشركة. وتحظر “ميتا” بعض الكلمات البذيئة وتحذر المستخدمين من استخدامها، إلا أن بعضهم يحاول التفادي عن طريق كتابة الكلمات بأخطاء مطبعية.
أعلنت “ميتا” أخيراً عن نظام إنتاج الملصقات الجديد الذي يستخدم الذكاء الاصطناعي، وكذلك نظام تعديل الصور على منصة “إنستغرام”. ويقول الموقع إن النظام الخاص بـ “فيسبوك” قادر على إنتاج ملصقات عالية الجودة في ثوانٍ قليلة، وذلك باستخدام النصوص التي يكتبها المستخدمون. يعتمد هذا النظام على روبوت الذكاء الاصطناعي الخاص بـ “فيسبوك” والذي ينافس نظام “ChatGPT” المشهور. ويتم تشغيل نظام إنتاج الملصقات الحالي على مجموعة محددة من المستخدمين الذين يتحدثون باللغة الإنجليزية.
على الرغم من التكنولوجيا المتقدمة التي تستخدمها “ميتا” في نظام إنتاج الملصقات، إلا أنه لا يمنع ظهور الملصقات غير المناسبة. فقد كشفت التجارب التي قام بها المستخدمون أنهم قادرون على تخطي القيود من خلال استخدام الكلمات بأخطاء مطبعية. ويثير هذا الأمر التساؤل حول قدرة “ميتا” على تنظيم المحتوى غير الملائم على موقعها، وهو أمر يتطلب تطوير آليات جديدة لمراقبة المحتوى.
بحسب الموقع التقني، يجب على شركة “ميتا” أن تعمل على تطوير أنظمة قوية وفعالة لضمان عدم ظهور الملصقات غير المناسبة على منصتها. قد يكون هناك حاجة لتكثيف العمل على استخدام تقنيات الذكاء الاصطناعي للتعرف على المحتوى ومراقبته بشكل فعال، وذلك لضمان سلامة المستخدمين والحفاظ على سمعة الشركة. علاوة على ذلك، يجب أن يضع المستخدمون أيضًا بعض المسؤولية في استخدام تلك الأدوات بشكل مسؤول وأخلاقي، وعدم استغلالها في إنتاج محتوى غير لائق أو مسيء.
