"العفو الدولية" تنتقد فشل "تيك توك" في حماية نفسية المستخدمين

انتقدت منظمة العفو الدولية استمرار فشل تطبيق المقاطع القصيرة تيك توك في معالجة المخاطر التي تهدّد الصحة النفسية للمستخدمين الشباب، التي وصفتها المنظمة بـ"الجسيمة"، وكان بحث سابق للمنظمة، أُجري عام 2023، قد كشف أن المستخدمين الأطفال معرضون لخطر الانجراف إلى الاكتئاب والانتحار بسبب المحتوى الذي يقترحه التطبيق عليهم في قسم For You (من أجلك). 

وفي تحقيق أُجري باستخدام حسابات تحاكي أطفالاً في الثالثة عشرة من عمرهم، وجدت منظمة العفو الدولية أنه في غضون 20 دقيقة من إنشاء حساب جديد والتعبير عن الاهتمام بالصحة النفسية، كان أكثر من نصف مقاطع الفيديو في موجز "من أجلك" على "تيك توك" تتعلق بمشاكل الصحة النفسية. وقد أدت أضعاف هذه المقاطع المُوصى بها في ساعة واحدة إلى إضفاء طابع رومانسي أو تطبيع أو تشجيع على الانتحار. وكانت هذه إحدى النتائج الرئيسية التي توصّلت إليها منظمة العفو الدولية في مشروع بحثي واسع النطاق نُشر في نوفمبر/تشرين الثاني 2023 حول المخاطر التي تُشكلها المنصة واسعة الاستخدام.

وكشفت المنظمة في بيان نشرته، اليوم الثلاثاء، أنها قبيل أسبوع التوعية بالصحة النفسية لعام 2025، سألت "تيك توك" عن التغييرات التي طبقتها الشركة منذ صدور نتائج تجربتها. وبحسبها، ردّت "تيك توك" بتدابير مألوفة معظمها مُطبّق بالفعل عند إجراء البحث، ولم تُشِر إلى مشكلة الانجرار نحو المحتوى المؤذي نفسياً في التطبيق، كما لم تقدّم بحسبها أي دليل على أي تدابير جديدة خاصة لمعالجة المشكلة.

"تيك توك" تعترف بأضرارها

وقال تقييم للمخاطر أجرته تيك توك عام 2024 إن "بعض أنواع المحتوى المُركّز، وإن لم تُخالف قواعد تيك توك، قد تُسبّب ضرراً من خلال تعزيز تجربة شخصية سلبية لبعض المُشاهدين عن غير قصد. على سبيل المثال، قد يكون هناك تأثير على الصحة النفسية، لا سيّما للمستخدمين الأصغر سناً، مرتبط بالمحتوى المُركّز المُتعلّق بالحميات الغذائية القاسية والمحتوى المُتعلّق بصورة الجسم".

وفي القسم نفسه من تقييم المخاطر، تُدرج "تيك توك" تدابير تخفيفية مثل التطبيق الاستباقي لقواعدها، والحفاظ على معايير أهلية المحتوى، وتطبيق "تقنيات التشتيت" على موجز "من أجلك"، بالإضافة إلى خيارات التصفية ووظيفة التحديث لإعادة ضبط الموجز. وكانت جميع هذه التدابير مُطبّقة بالفعل في عام 2023، عندما أجرت منظمة العفو الدولية بحثها، لكنها لاحظت أن المستخدمين الشباب مُعرّضون لمخاطر على المنصة على الرغم من هذه التدابير.

هل تعلم خوارزمية "تيك توك" كل شيء؟

أبرز بحث منظمة العفو الدولية أيضاً أن نموذج أعمال "تيك توك" المُتطفّل على الخصوصية يتتبّع كل ما يفعله المستخدم على المنصة للتنبؤ باهتماماته وحالته العاطفية. وموجز "من أجلك" يلتقط بوضوح الحالة النفسية للشخص عندما يُضخّم كميات هائلة من المحتوى المتعلق بالاكتئاب وحتى بالانتحار، ثم يستخدم قابليته لهذا المحتوى للتوصية بالمزيد منه، بغض النظر عن الضّرر المحتمل.

وردت الشركة بالقول إن "تلميح منظمة العفو الدولية إلى أن تيك توك على دراية بحالة المستخدم العاطفية بطريقة ما، وتستخدمها للتوصية بمحتوى ما هو وصفٌ خاطئ لكيفية عمل منصتنا"، وكرّرت الشركة تقريرها لتقييم المخاطر، وذكرت أيضاً أنها "تستخدم نماذج التعلّم الآلي لتجنب التوصية بسلسلة من مقاطع الفيديو المتشابهة حول مواضيع لا تنتهك قواعد تيك توك، لكنها قد تُشكّل مشكلةً شوهدت على نحوٍ متكرّر"، وبالإضافة إلى إجراءات التخفيف المذكورة أعلاه، صرّحت "تيك توك" بأنها "طوّرت لوحة معلومات لوقت استخدام الشاشة تُتيح للمستخدم رؤيةً واضحةً لكيفية ووقت استخدام المنصة".