لطالما كان يوتيوب مصدراً غنياً ومتنوعاً للمحتوى، ويمكن أن يكون كنزاً للآباء الباحثين عن مواد تعليمية أو ترفيهية لأطفالهم. لكنه في الوقت نفسه، يمثل ساحة معركة مستمرة بين المنصة ومحاولاتها للحفاظ على بيئة آمنة، وبين صانعي المحتوى الضار الذي قد يعرض عقول الأطفال الضعيفة لمواد غير مناسبة على الإطلاق.
وفي أحدث فصول هذه المعركة، يواجه يوتيوب تحدياً مقلقاً وجديداً يتعلق بظهور موجة متزايدة من مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي (AI)، والتي تجمع بشكل صادم بين شخصيات جذابة وودودة المظهر (وغالباً ما تكون مصممة خصيصاً لجذب انتباه الأطفال) وبين سيناريوهات مروعة، كابوسية، ومضامين غير مناسبة تماماً.
هذه الظاهرة الجديدة تثير قلقاً عميقاً، وتضع يوتيوب أمام تحدٍ صعب للغاية في فرض سياساته المتعلقة بالمحتوى المخصص للأطفال.
شخصيات AI بريئة في سيناريوهات صادمة: ما طبيعة هذا المحتوى؟
في تقرير جديد نشرته مجلة Wired مؤخراً يسلط الضوء على هذا الاتجاه المقلق، تم استعراض بعض الأمثلة على هذا النوع من الفيديوهات. تشير التقارير إلى قنوات تستخدم شخصيات AI (مثل قطط مبتسمة ذات مظهر بريء وجذاب)، والتي يتم إنشاؤها بسهولة باستخدام أدوات توليد الفيديو المتاحة بالذكاء الاصطناعي اليوم.
تبدأ هذه القنوات أحياناً بالإعلان عن نفسها كـ “قنوات ممتعة ومثيرة للأطفال”، ولكنها سرعان ما تنحرف لتعرض ما وصفه التقرير بأنه “محتوى يثير رفع الحواجب” و”مضمون كابوسي”. الأمثلة الصادمة التي تم ذكرها تتضمن:
-
شخصيات قطط مبتسمة يتم إطلاق النار عليها.
-
شخصيات أخرى (مثل شخصيات Fingers من ألعاب شهيرة) تذوب بسبب نفايات نووية وتتحول إلى وحوش تشبه الديدان تعيش في المجاري.
هذا المحتوى ليس مجرد “مخيف” للأطفال، بل هو مروّع، غير مناسب، ويمكن أن يسبب صدمة وقلقاً نفسياً للمشاهدين الصغار.
لماذا يصعب على يوتيوب مكافحة هذه الظاهرة؟
رغم أن يوتيوب لديه إرشادات مجتمعية واضحة وصارمة تمنع المحتوى غير المناسب، خاصة ذلك الذي يستهدف الأطفال، فإن فرض هذه السياسات على أرض الواقع ضد هذا النوع الجديد من المحتوى يمثل صراعاً مستمراً وصعباً للغاية، وذلك لعدة أسباب:
-
سهولة وسرعة الإنشاء: أدوات توليد الفيديو بالذكاء الاصطناعي أصبحت قوية جداً ومتاحة بسهولة. هذا يعني أن أي شخص يمكنه إنشاء كميات كبيرة جداً من هذا المحتوى بشكل سريع وبتكلفة منخفضة جداً.
-
تجاوز الآليات التلقائية: بينما يعتمد يوتيوب على الآليات التلقائية لاكتشاف المحتوى الضار، فإن الطبيعة الجديدة والمبتكرة لهذا المحتوى (شخصيات ودودة في سياق صادم) قد تجعل من الصعب على هذه الآليات التعرف عليه كـ “ضار” فوراً مقارنة بالمحتوى الصارخ والمباشر.
-
إنشاء قنوات جديدة بسرعة: حتى إذا تمكن يوتيوب من اكتشاف قناة معينة تحتوي على هذا المحتوى وإسقاطها أو تقييدها، فإن صانعي هذا المحتوى يمكنهم ببساطة البدء في إنشاء قناة جديدة ورفع محتوى مماثل أو معدل بسرعة تافهة، مما يجعل عملية المكافحة أشبه بلعبة “مطاردة الفأر”.
-
غموض حجم المشاهدات الحقيقي: رغم أن بعض هذه الفيديوهات تظهر بعدد مشاهدات كبير، إلا أن هناك شكوكاً حول ما إذا كانت هذه الأرقام حقيقية تماماً أم أنها ناتجة عن مصادر زيارات غير عضوية (مثل الروبوتات أو خدمات شراء المشاهدات). ولكن حتى لو كانت المشاهدات قليلة نسبياً، فإن وصول هذا المحتوى إلى طفل واحد هو مشكلة خطيرة.
ما الذي يمكن للآباء فعله لحماية أطفالهم؟
في ظل هذا التحدي المستمر الذي يواجهه يوتيوب، يصبح دور الآباء أكثر أهمية وحيوية من أي وقت مضى في حماية أطفالهم أثناء استخدامهم للمنصة. إليك بعض الخطوات العملية التي يمكن اتخاذها:
-
كن أكثر انخراطاً: اقضِ وقتاً مع أطفالك أثناء مشاهدتهم ليوتيوب. شاهدوا المحتوى معاً وناقشوه. هذا لا يعزز علاقتك بطفلك فحسب، بل يمنحك أيضاً فرصة لفهم ما يشاهدونه والتأكد من أنه مناسب.
-
استخدم تطبيق YouTube Kids: هذا التطبيق مصمم خصيصاً للأطفال ويحتوي على محتوى مفلتر ومراجع بشكل أكبر من تطبيق يوتيوب الرئيسي. على الرغم من أنه ليس خالياً تماماً من المحتوى المشكوك فيه أحياناً، إلا أنه أكثر أماناً بكثير من السماح للأطفال بالتصفح العشوائي على يوتيوب الرئيسي.
-
استخدم أدوات الرقابة الأبوية: يوفر يوتيوب وأجهزة الهواتف الذكية نفسها أدوات للرقابة الأبوية تسمح لك بتقييد المحتوى، تحديد وقت المشاهدة، ومراقبة نشاط الطفل.
-
علم أطفالك: تحدث مع أطفالك عن أهمية مشاهدة المحتوى المناسب، وكيفية التعامل مع المحتوى الذي يجعلهم يشعرون بالانزعاج أو الخوف (مثل إبلاغك فوراً).
-
استفد من أدوات الإبلاغ: عندما تصادف مقطع فيديو تراه غير مناسب أو ضاراً بالأطفال، لا تتردد في استخدام ميزة “الإبلاغ” (Report) في يوتيوب. الإبلاغات تُنبّه يوتيوب للمحتوى المشكوك فيه وتضمن مراجعته من قبل فريق متخصص لديهم القدرة على اتخاذ إجراء ضده (مثل حذفه أو تقييد الوصول إليه). كل بلاغ مهم ويساهم في جعل المنصة أكثر أماناً.
في الختام: معركة مستمرة تتطلب يقظة مشتركة
ظهور موجة فيديوهات الذكاء الاصطناعي المروعة التي تستهدف الأطفال على يوتيوب هو تذكير صارخ بأن التحديات في عالم المحتوى الرقمي تتطور باستمرار مع تطور التقنيات. بينما يعمل يوتيوب على مكافحة هذه المشكلة بآلياته وفرقه، فإن المعركة مع صانعي المحتوى الضار هي معركة مستمرة وتتطلب يقظة مستمرة.
دور الآباء في المراقبة، التعليم، واستخدام أدوات الإبلاغ هو خط دفاع أساسي وحيوي في حماية أطفالهم من هذا النوع الجديد والمقلق من المحتوى. معاً، يمكننا المساهمة في جعل الفضاء الرقمي أكثر أماناً لأجيالنا القادمة.
