بدأ أحدث نموذج من “شات جي بي تي” بالاستشهاد بموسوعة غروكيبيديا التابعة لإيلون ماسك كمصدر في مجموعة واسعة من الاستفسارات، بما في ذلك أسئلة عن تكتلات إيرانية ومنكري الهولوكوست، مما أثار مخاوف بشأن انتشار المعلومات المضللة على المنصة.
وفي اختبارات أجرتها صحيفة ذا غارديان، استشهد نموذج “GPT-5.2” بغروكيبيديا تسع مرات ردًا على أكثر من اثني عشر سؤالًا مختلفًا.
وشملت هذه الأسئلة استفسارات عن الهياكل السياسية في إيران، مثل رواتب قوات الباسيج شبه العسكرية، إضافة إلى أسئلة عن السيرة الذاتية للسير ريتشارد إيفانز، المؤرخ البريطاني والشاهد الخبير ضد منكر الهولوكوست ديفيد إيرفينغ في قضية التشهير التي رُفعت ضده، بحسب تقرير لصحيفة ذا غارديان، اطلعت عليه “العربية Business”.
تُعدّ “غروكيبيديا”، التي أُطلقت في أكتوبر، موسوعة إلكترونية مُولّدة بواسطة الذكاء الاصطناعي، تهدف إلى منافسة ويكيبيديا، وقد وُجهت إليها انتقادات لنشرها روايات يمينية متطرفة حول موضوعات مثل أحداث اقتحام الكابيتول في 6 يناير في الولايات المتحدة.
وعلى عكس ويكيبيديا، لا يسمح “شات جي بي تي” بالتعديل البشري المباشر، بل يقوم نموذج ذكاء اصطناعي بكتابة المحتوى والاستجابة لطلبات التعديل.
ولم يستشهد شات جي بي تي بغروكيبيديا عندما طُلب منه مباشرة تكرار معلومات مضللة عن أحداث الاقتحام، أو عن تحيّز وسائل الإعلام ضد دونالد ترامب، أو عن وباء فيروس نقص المناعة البشرية/الإيدز، وهي مجالات أُبلغ على نطاق واسع أن “غروكيبيديا” تروّج فيها لمغالطات.
وبدلًا من ذلك، تسرّبت معلومات “غروكيبيديا” إلى ردود النموذج عندما طُرح عليه أسئلة عن موضوعات أكثر التباسًا.
كما استشهد شات جي بي تي بـ “غروكيبيديا” عند تكرار معلومات فندتها صحيفة ذا غارديان، وتحديدًا تفاصيل حول عمل السير ريتشارد إيفانز كشاهد خبير في محاكمة ديفيد إيرفينغ.
لا يُعدّ GPT-5.2 النموذج اللغوي الكبير الوحيد الذي يبدو أنه يستشهد بموسوعة غروكيبيديا؛ فبحسب بعض التقارير، أشار كلود من شركة أنثروبيك أيضًا إلى موسوعة ماسك كمصدر في موضوعات تتراوح بين إنتاج البترول وأنواع البيرة الاسكتلندية.
قال متحدث باسم شركة أوبن إيه آي، مطورة شات جي بي تي، إن بحث الويب في النموذج “يهدف إلى الاستفادة من نطاق واسع من المصادر ووجهات النظر المتاحة للعامة”.
وأضاف: “نطبّق فلاتر أمان لتقليل مخاطر إظهار روابط مرتبطة بأضرار عالية الخطورة، ويُظهر شات جي بي تي بوضوح أيّ المصادر التي استندت إليها الإجابة من خلال الاستشهادات”، مشيرًا إلى أن لديهم برامج مستمرة لتصفية المعلومات منخفضة المصداقية وحملات التأثير.
لكنّ حقيقة تسرب معلومات “غروكيبيديا”- أحيانًا بشكل خفيّ جدًا – إلى إجابات النماذج اللغوية الكبيرة تُثير قلق الباحثين في مجال مكافحة المعلومات المضللة.
في ربيع العام الماضي، أعرب خبراء الأمن عن مخاوفهم من قيام جهات خبيثة بنشر كميات هائلة من المعلومات المضللة في محاولة لزرع الأكاذيب في نماذج الذكاء الاصطناعي، وهي عملية تُعرف باسم “تضليل نماذج الذكاء الاصطناعي”.
وفي يونيو، أُثيرت مخاوف في الكونغرس الأميركي من أن نموذج جيميني التابع لشركة غوغل كرّر موقف الحكومة الصينية بشأن انتهاكات حقوق الإنسان في شينجيانغ وسياسات الصين المتعلقة بكوفيد-19.
وقالت نينا يانكوفيتش، الباحثة في مجال المعلومات المضللة والتي عملت على تدريب LLM على المعلومات المضللة، إن استشهاد شات جي بي تي بـ”غروكيبيديا” أثار مخاوف مماثلة.
وأضافت أن ماسك ربما لم يكن ينوي التأثير على النماذج اللغوية الكبيرة، إلا أن إدخالات “غروكيبيديا” التي راجعتها هي وزملاؤها “كانت تعتمد على مصادر غير موثوقة على أفضل تقدير، وسيئة التوثيق، ومعلومات مضللة متعمدة في أسوأ الحالات”.
وقد تحسن حقيقة أن النماذج اللغوية الكبيرة تستشهد بمصادر مثل “غروكيبيديا” بدورها من مصداقية هذه المصادر في نظر القراء. وقالت يانكوفيتش: “قد يقولون: ’آه، شات جي بي تي يستشهد بها، وهذه النماذج تستشهد بها، لابد أنها مصدر موثوق، بالتأكيد قد تم التحقق منه‘”.
وبمجرد تسرب المعلومات المغلوطة إلى روبوت دردشة معتمد على الذكاء الاصطناعي يصعب إزالتها.
التعليقات