إنستغرام تزيد الضوابط على حسابات المراهقين والذكاء الاصطناعي

وتعتزم المجموعة أيضا تنظيم المحادثات التي يُمكن للمستخدمين الشباب إجراؤها مع مساعديها الرقميين، بدءا من العام المقبل.

يأتي هذا التحديث بعد أكثر من عام من إطلاق حسابات المراهقين على إنستغرام في شتنبر 2024، والتي تُخصّص افتراضيا لجميع المستخدمين الذين تتراوح أعمارهم بين 13 عاما (السن الدنيا المسموح بها على المنصة) و18.

كانت القيود الأولى المفروضة على حسابات المراهقين تحظر أي محتوى جنسي أو صور فاضحة أو صادمة.

ستُخفي النسخة المُحدّثة أيضا أو تُلغي التوصية بـ "أي منشور يحتوي على لغة قاسية أو بعض التحديات التي تُعتبر محفوفة بالمخاطر"، أو بشكل عام المحتوى الذي يُحتمل أن يُحرّض على "سلوك ضار محتمل"، وفق بيان نشرته ميتا المالكة لإنستغرام.

وقالت مديرة الشؤون العامة لحماية الطفل في ميتا كابوسين توفييه "نضيف حاجزا افتراضيا إضافيا للمراهقين، لا سيما عندما يتعلق الأمر بالمحتوى الحساس وغير اللائق".

وسيُطبَّق الإطار المُعدّل لحسابات المراهقين فورا في الولايات المتحدة وكندا والمملكة المتحدة وأستراليا، قبل توسيع نطاقه ليشمل دولا أخرى في الأشهر المقبلة.

لتحديد العناصر التي يتعين إخفاؤها عن المراهقين، اعتمدت ميتا على تصنيف "PG-13" المُستخدم في دور السينما الأمريكية والذي يُحذّر الأهل من أن بعض مقاطع الأفلام غير مُوصى بها للأطفال دون سن 13 عاما.

ولا توجد قائمة شاملة بالمواضيع أو الصور التي قد تُؤدي إلى هذا التصنيف، والذي يخضع لتقدير لجنة مُختصة (CARA)، مُكوّنة من أهل مُستقلين.

قالت كابوسين توفييه، ردا على سؤال حول قرار اعتماد معايير مُخصصة في الأصل لمن هم دون سن 13 عاما للمراهقين الذين تتراوح أعمارهم بين 13 و18 عاما "نريد اعتماد المعايير الأكثر تقييدا وحماية للمراهقين".

وأعطت مثالا على ذلك المحتوى الذي يُروّج "للأنظمة الغذائية القاسية" أو "الذي يُمجّد أو يُروّج للكحول أو التبغ". يتم تصنيف الرسائل أو الصور أو مقاطع الفيديو المنشورة من خلال مزيج من الذكاء الاصطناعي وتقديرات المُشغّلين البشريين.

دور للذكاء الاصطناعي

أوضحت ميتا أن أنظمتها ستضع المستخدمين الذين تقل أعمارهم عن 18 عاما "تلقائيا في وضع 13+، ولن يتمكن هؤلاء من الخروج من هذا الوضع بدون إذن الوالدين".

لا تعتمد المجموعة فقط على ما يصرّح به المستخدمون عبر منصاتها، بل أيضا على أنظمة التحكم في العمر الحالية والتي تحدد "الإشارات" المحتملة بناءً على استخدام المنصة.

في حالة الشك، تشترط ميتا التحقق من العمر إما بإظهار بطاقة هوية أو من خلال فيديو مصوّر ذاتيا بطريقة "سيلفي".

كما أطلقت المجموعة العملاقة في مجال التواصل الاجتماعي الثلاثاء إمكان فرض الأهل قيودا إضافية على المحتوى الذي يمكن لأبنائهم المراهقين رؤيته.

وستمنع ميزة "المحتوى المحدود" هذه المستخدمين اليافعين بدرجة كبيرة من مشاهدة تعليقات أو كتابتها أو تلقيها على المنشورات.

وأفادت ميتا أنه "اعتبارا من العام المقبل، سيقيّد هذا الخيار أيضا المحادثات التي يمكن للمراهقين أن يجروها باستخدام الذكاء الاصطناعي".

تأتي هذه التطورات في ظل انتقادات واسعة مرتبطة بالآثار السلبية لوسائل التواصل الاجتماعي وبرامج المساعدة القائمة على الذكاء الاصطناعي التوليدي، لا سيما بعد حالات انتحار لعدد من المراهقين في الأشهر الأخيرة.

في أوائل شتنبر، أعلنت هيئة حماية المستهلك الأمريكية (اف تي سي) أنها فتحت تحقيقا في برامج الدردشة الآلية (chatbots) المستخدمة كأدوات مساعدة قائمة على الذكاء الاصطناعي، مثل تشات جي بي تي أو غروك، وذلك عقب شكوى حديثة ضد أوبن إيه آي المطورة لبرنامج تشات جي بي تي.

وقبل ذلك بأيام، أعلنت الشركة التي تتخذ مقرا في كاليفورنيا إطلاق نظام يتيح للوالدين مراقبة نشاط أبنائهم المراهقين عبر تشات جي بي تي، بعد أن اتهم عدد من الأهل التطبيق في أواخر غشت بتشجيع أبنائهم على الانتحار.

ووقّع حاكم كاليفورنيا غافن نيوسوم الاثنين قانونا يُلزم مشغلي برامج المساعدة الآلية بالتحقق من أعمار المستخدمين وتذكير القاصرين كل ثلاث ساعات بأن الجهة التي يتحدثون إليها هي مجرد آلة.