قامت مجموعة من الباحثين بسرية بتجربة “غير مصرح بها” لمدة أشهر في واحدة من أكثر المجتمعات شعبية في Reddit باستخدام التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعى لاختبار نماذج اللغة الكبيرة. التجربة التي تم الكشف خلال عطلة نهاية الأسبوع من قبل المشرفين على R/changemyView ، وصفها Reddit Mods بأنها “التلاعب النفسي” للمستخدمين المطمئنين.
“يحتاج فريق CMV MOD إلى إبلاغ مجتمع CMV بتجربة غير مصرح بها أجراها باحثون من جامعة زيورخ على مستخدمي CMV” ، كتب المشرفون في Subreddit في منشور مطول يخطرون Redditors بالبحث. “نشرت هذه التجربة تعليقات تم إنشاؤها من الذكاء الاصطناعى لدراسة كيفية استخدام الذكاء الاصطناعي لتغيير وجهات النظر.”
استخدم الباحثون LLMS لإنشاء تعليقات استجابةً للوظائف على R/ChangemyView ، وهي SubredDit حيث يقوم مستخدمو Reddit بالآراء (غالبًا ما تكون مثيرة للجدل أو استفزازية) وطلب نقاش من المستخدمين الآخرين. يضم المجتمع 3.8 مليون عضو وغالبًا ما ينتهي به المطاف على الصفحة الأولى من Reddit. وفقًا لمشرفي Subreddit ، تولى الذكاء الاصطناعى العديد من الهويات المختلفة في التعليقات خلال التجربة ، بما في ذلك أحد الناجين من الاعتداء الجنسي ، ومستشار الصدمات “متخصص في الإساءة” ، و “رجل أسود يعارض حياة السود”. منذ ذلك الحين تم حذف العديد من التعليقات الأصلية ، ولكن لا يزال من الممكن عرض بعضها أرشيف تم إنشاؤها بواسطة 404 وسائل الإعلام.
في مسودة من بين ورقتهم ، يصف الباحثون الذين لم يكشفوا عنهم كيف لا يستخدمون الذكاء الاصطناعى فقط لإنشاء ردود ، ولكن حاولوا تخصيص ردوده بناءً على المعلومات التي تم جمعها من تاريخ Reddit السابق للملصق الأصلي. “بالإضافة إلى محتوى المنشور ، تم تزويد LLMs بسمات شخصية لل OP (الجنس والعمر والعرق والموقع والتوجه السياسي) ، كما تم استنتاجها من تاريخ نشرها باستخدام LLM آخر ،” يكتبون.
يلاحظ مشرفو R/ChnagemyView أن الباحثين انتهكوا قواعد متعددة SubredDit ، بما في ذلك السياسة التي تتطلب الكشف عند استخدام الذكاء الاصطناعى لتوليد التعليق وقاعدة تحظر الروبوتات. يقولون إنهم قدموا شكوى رسمية إلى جامعة زيوريخ وطلبوا من الباحثين حجب نشر ورقتهم.
يبدو أن Reddit يفكر أيضًا في نوع من الإجراءات القانونية. كبير المسؤولين القانونيين بن لي استجاب إلى الجدل يوم الاثنين ، كتبت أن تصرفات الباحثين “خاطئة للغاية على كل من المستوى الأخلاقي والقانوني” وانتهاك قواعد Reddit على مستوى الموقع.
لقد حظرنا جميع الحسابات المرتبطة بجهود البحث بجامعة زيوريخ. بالإضافة إلى ذلك ، بينما تمكنا من اكتشاف العديد من هذه الحسابات المزيفة ، سنواصل تعزيز قدراتنا غير الموثوقة للكشف عن المحتوى ، وقد كنا على اتصال مع فريق الاعتدال لضمان إزالة أي محتوى تم إنشاؤه من الذكاء الاصطناعى المرتبط بهذا البحث.
نحن بصدد التواصل مع جامعة زيوريخ وفريق الأبحاث المعين هذا مع مطالب قانونية رسمية. نريد أن نفعل كل ما في وسعنا لدعم المجتمع والتأكد من أن الباحثين محاسبون على أفعالهم الخاطئة هنا.
في رسالة بريد إلكتروني ، وجه باحثو جامعة زيوريخ Engadget إلى قسم العلاقات الإعلامية بالجامعة ، والذي لم يرد على الفور على الأسئلة. في المشاركات الموجودة على Reddit وفي مسودة من ورقتهم ، قال الباحثون إن أبحاثهم تمت الموافقة عليها من قبل لجنة أخلاقيات الجامعة وأن عملهم يمكن أن يساعد المجتمعات عبر الإنترنت مثل Reddit Protects من الاستخدامات “الخبيثة” من الذكاء الاصطناعي.
وكتب الباحثون في أن بعضًا منكم قد يشعر بعدم الارتياح لأن هذه التجربة “نقر بموقف المشرفين على أن هذه الدراسة كانت بمثابة اقتحام غير مرحب به في مجتمعك تعليق الاستجابة ل R/ChangemyView Mods. “نعتقد أن الفوائد المحتملة لهذا البحث تفوق مخاطره بشكل كبير. وفرت دراستنا الخاضعة للرقابة المنخفضة الخطورة نظرة ثاقبة على القدرات المقنعة في العالم الحقيقي لـ LLMs-القدرات التي يمكن الوصول إليها بالفعل بسهولة لأي شخص ، ويمكن أن تستغلها الممثلون الخبيثون بالفعل على نطاق واسع لأسباب أكثر خطورة (EG ، تدوير الانتخابات أو تحريضها على الكراهية).
تعارض تعديل R/ChangemyView بأن البحث كان ضروريًا أو رواية ، مشيرًا إلى أن الباحثين Openai أجروا تجارب باستخدام بيانات من R/changemyView “دون تجربة الأشخاص البشريين غير المتفق عليهم”.
وكتب المشرفون: “لا يأت الناس إلى هنا لمناقشة وجهات نظرهم مع الذكاء الاصطناعي أو لتجربة”. “الأشخاص الذين يزورون فرعنا يستحقون مساحة خالية من هذا النوع من التسلل.”
تحديث ، 28 أبريل ، 2025 ، 3:45 مساءً حزب العمال: تم تحديث هذا المنشور لإضافة تفاصيل من بيان من قبل كبير المسؤولين القانونيين في Reddit.
اترك تعليقاً