يلاحظ Tiktok أنه يستخدم كل من التكنولوجيا والمشرفين البشريين لتحديد محتوى كسر القواعد. ومع ذلك ، فإن حجم التحميلات يجعل الاعتدال في الوقت المناسب صعبًا. بينما قامت مقاطع الفيديو العنصرية برفع الكثير من المشاهدات ، يخبر متحدث باسم Tiktok ARS أن أكثر من نصف الحسابات المذكورة في تقرير MediaMatters قد تم حظرها بسبب انتهاكات السياسة قبل نشر التقرير ، وتمت إزالة الباقي الآن.

بالنسبة إلى Google ، لديها شاملة سياسة الاستخدام المحظورة هذا يحظر استخدام خدماتها لتعزيز خطاب الكراهية والتحرش والبلطجة والترهيب وسوء المعاملة. يبدو أن مقاطع الفيديو التي كشفت عنها MediaMatters تندرج تحت واحدة أو أكثر من هذه الفئات. في عالم مثالي ، يرفض Veo 3 إنشاء مقاطع الفيديو هذه ، ولكن الغموض في المطالبة وعدم قدرة الذكاء الاصطناعى على فهم التفاصيل الدقيقة للتجويف العنصري (أي استخدام القرود بدلاً من البشر في بعض مقاطع الفيديو) يجعل من السهل تجنب القواعد.

يعد Tiktok ، كونه عملاق الفيديو الاجتماعي الرائد في العالم ، مكانًا طبيعيًا لانتشار مقاطع الفيديو هذه. إنه ليس حصريًا لـ Tiktok. اكتسب X (سابقًا Twitter) سمعة الاعتدال محدود جدا، مما يؤدي إلى انفجار محتوى الذكاء الاصطناعي البغيض. هذه المشكلة يمكن أن تتفاقم أيضًا في وقت قريب جدًا. لدى Google خطط ل دمج VEO 3 في شورت YouTube، مما قد يجعل من السهل على محتوى مماثل الانتشار على YouTube.

لدى Tiktok و Google حظر واضح على هذا المحتوى ، والذي كان ينبغي أن يمنعه من رؤية ملايين المرات على وسائل التواصل الاجتماعي. إنفاذ هذه السياسات ، مع ذلك ، غير موجود. يبدو أن Tiktok غير قادر على مواكبة طوفان تحميلات الفيديو ، ويبدو أن درابزين من Google غير كافية لحظر إنشاء هذا المحتوى. لقد تواصلنا مع Google للاستفسار عن ميزات السلامة في VEO 3 ، لكننا لم نسمع بعد.

لطالما كان هناك AI التوليدي ، استخدمها الناس إنشاء محتوى الالتهابات والعنصرية. يتحدث Google وآخرون دائمًا عن الدرابزين لمنع سوء الاستخدام ، لكنهم لا يستطيعون التقاط كل شيء. ال واقعية VEO 3 يجعلها جذابة بشكل خاص لأولئك الذين يريدون نشر الصور النمطية البغيضة. ربما جميع الدرابزين في العالم لن تتوقف عن ذلك.