هل الذكاء الاصطناعي يسبب فعلا انهيار المعرفة
الإجابة المختصرة نعم هناك مؤشرات علمية حقيقية على أن الاعتماد المتزايد على روبوتات الدردشة يضيق نطاق المعلومات التي يراها الناس. دراسة حديثة قادها باحثون من جامعة كوبنهاغن قارنت بين إجابات 27 نموذج ذكاء اصطناعي ونتائج البحث التقليدي على جوجل ووجدت أن حتى أفضل نموذج اختبروه كان أقل تنوعا من نتائج جوجل بنسبة لا تقل عن 18.7 بالمئة.
لكن الباحثين أنفسهم يوضحون أن انهيار المعرفة بمعناه الكامل لم يحدث بعد. ما هو مؤكد هو أن الآلية التي قد تؤدي إليه موجودة بالفعل داخل طريقة عمل هذه النماذج.
في السطور القادمة سنشرح ماذا يعني مصطلح انهيار المعرفة بالضبط وما الذي وجدته الدراسة الجديدة تحديدا وما الفرق بين هذا المفهوم ومفاهيم مشابهة مثل انهيار النموذج. كما سنعرض ما تقوله أبحاث أخرى حول نفس القضية وما يمكن لأي شخص فعله لتقليل الخطر على نفسه.
ما هو انهيار المعرفة بالضبط
انهيار المعرفة مصطلح يصف ظاهرة تضيق تدريجي في تنوع المعلومات التي يتعرض لها الناس بسبب الاعتماد الواسع على أنظمة الذكاء الاصطناعي. الفكرة الأساسية أن هذه النماذج لا تعرض كل الأفكار والزوايا الموجودة في العالم بتساو بل تميل إلى تفضيل الأفكار الأكثر شيوعا وتجاهل الأفكار النادرة أو الأقل انتشارا.
أول من صاغ المصطلح بشكل أكاديمي رسمي هو الباحث أندرو بيترسون في ورقة بحثية نشرها عام 2024 بعنوان الذكاء الاصطناعي ومشكلة انهيار المعرفة. قدم فيها إطارا نظريا لتعريف انهيار المعرفة باعتباره حالة قد يؤدي فيها الاعتماد على الذكاء الاصطناعي التوليدي مثل النماذج اللغوية الكبيرة إلى انخفاض في الأطراف البعيدة من المعرفة. بمعنى آخر المعلومات النادرة والمتخصصة والمختلف عليها هي أول ما يختفي من الصورة العامة التي يحصل عليها المستخدم.
السبب التقني لهذا التضيق مرتبط بطريقة بناء النماذج اللغوية نفسها. هذه النماذج مدربة على كميات هائلة من البيانات المتنوعة لكنها تولد مخرجاتها بشكل طبيعي باتجاه مركز التوزيع الإحصائي للبيانات. بمعنى أبسط عندما تسأل النموذج عن موضوع ما فهو يميل لإعطائك الإجابة الأكثر شيوعا في بياناته التدريبية وليس بالضرورة الإجابة الأكثر دقة أو تنوعا.
الفرق بين انهيار النموذج وانهيار المعرفة
كثيرا ما يخلط الناس بين مصطلحين متشابهين لكنهما مختلفان من حيث الزاوية التي ينظران منها للمشكلة.
| المفهوم | ما يركز عليه | المتأثر الأساسي |
|---|---|---|
| انهيار النموذج | تدهور أداء النموذج نفسه عندما يتدرب بشكل متكرر على بيانات أنتجها نموذج آخر | جودة النموذج التقنية |
| انهيار المعرفة | تضيق المعلومات والأفكار التي يتعرض لها المجتمع البشري بسبب اعتماده على نماذج تفضل المركزي على النادر | تنوع المعرفة في المجتمع |
بحث سابق مشهور في هذا المجال وثق ظاهرة انهيار النموذج. اكتشف الباحثون أن التعلم العشوائي من بيانات أنتجتها نماذج أخرى يسبب انهيار النموذج وهي عملية تراجعية ينسى فيها النموذج تدريجيا التوزيع الحقيقي للبيانات بحيث تبدأ الأطراف النادرة بالاختفاء أولا ثم تتقارب السلوكيات المتعلمة عبر الأجيال نحو تقدير محدود بتباين ضئيل جدا. انهيار المعرفة هو الأثر المقابل لهذه الظاهرة لكن على مستوى المجتمع البشري وليس على مستوى النموذج فقط.
الدراسة الجديدة من جامعة كوبنهاغن ماذا وجدت بالضبط
الدراسة التي أثارت هذا النقاش من جديد أجراها فريق بحثي من جامعة كوبنهاغن بالتعاون مع جامعة آلبورغ وجامعة ستانفورد وجامعة كولورادو بولدر وجامعة تكساس في أوستن. وثقتها دراسة جديدة قادتها جامعة كوبنهاغن تحذر من أنه مع تزايد اعتماد الناس على روبوتات الدردشة للحصول على المعلومات يزداد خطر ما يسمى انهيار المعرفة.
منهجية الدراسة
حجم الدراسة كبير نسبيا مقارنة بأبحاث مشابهة في هذا المجال. حلل الباحثون 27 نموذج لغوي كبير من شركات أوبن أيه آي وميتا وجوجل وعلي بابا واختبرت النماذج على 155 موضوعا متعلقا بـ12 دولة مختلفة وغطى التحليل نحو 1.7 مليون إجابة ولدها الذكاء الاصطناعي وحوالي 70 مليون جملة فردية مستخلصة منها.
المواضيع التي اختبرها الفريق لم تكن عشوائية بل اختيرت لتغطي قضايا حساسة ومثيرة للجدل من أنواع مختلفة. تراوحت المواضيع المختبرة بين الأسلحة النووية والزواج والمواد الإباحية والعنصرية والإبادة الجماعية وصولا إلى مواضيع خاصة ببلدان معينة مثل مارين لوبان وحرب الفوكلاند والبوب الكوري. هذا التنوع في المواضيع يجعل النتائج أكثر مصداقية لأنها لا تقتصر على مجال واحد.
لقياس التنوع استخدم الباحثون طريقة مستعارة من علم البيئة تستخدم عادة لحساب تنوع الأنواع داخل بيئة معينة ومدى توزعها بالتساوي. كلما غطت إجابات النموذج عددا أكبر من النقاط المختلفة بدلا من تكرار نفس الأفكار كانت درجة التنوع أعلى.
النتائج الرئيسية للدراسة
| الملاحظة | التفاصيل |
|---|---|
| الفجوة مع البحث التقليدي | حتى أفضل نموذج اختباره وهو GPT-5 كان أقل تنوعا من نتائج جوجل بنسبة لا تقل عن 18.7 بالمئة |
| حجم النموذج | النماذج الأصغر تنتج محتوى أكثر تنوعا من النماذج الأكبر حجما |
| عمر النموذج | النماذج الأحدث أكثر تنوعا من النماذج الأقدم من نفس العائلة |
| الاسترجاع المعزز RAG | النماذج التي تعتمد على البحث واسترجاع المعلومات الخارجية أثناء الإجابة تكون أكثر تنوعا من النماذج التي تعتمد فقط على ذاكرتها الداخلية |
النتائج أظهرت أن حتى النموذج الذي أنتج أكثر الإجابات تنوعا وهو GPT-5 التابع لأوبن أيه آي يقدم معلومات أقل تنوعا بنسبة 18.7 بالمئة على الأقل مقارنة بجوجل. وهذا رقم مهم لأنه يعني أن الفجوة موجودة حتى مع أكثر النماذج تطورا وقت إجراء الدراسة وليست مشكلة خاصة بنماذج قديمة فقط.
نتيجة لافتة أخرى تتعلق بحجم النموذج. النتائج أظهرت أن النماذج الأصغر تولد محتوى أكثر تنوعا من النماذج الأكبر وأن النماذج الأحدث أكثر تنوعا من النماذج الأقدم ومع ذلك فإن جميع النماذج كانت أقل تنوعا بشكل ملحوظ من محركات البحث التقليدية. هذه النتيجة قد تبدو مفاجئة لأن الافتراض الشائع أن النماذج الأكبر تكون دائما أفضل من كل النواحي.
نقطة إيجابية واحدة ظهرت في الدراسة تتعلق بتقنية تسمى الاسترجاع المعزز أو RAG وهي الطريقة التي يبحث فيها النموذج عن معلومات خارجية حديثة قبل صياغة الإجابة بدلا من الاعتماد فقط على ما حفظه أثناء التدريب. وجد الباحثون أن حجم النموذج له أثر سلبي على التنوع المعرفي بينما الاسترجاع المعزز له أثر إيجابي رغم أن مقدار التحسن الذي يحققه يختلف باختلاف السياق الثقافي للموضوع.
لماذا يحدث هذا التضيق أصلا
السبب الجذري لهذه الظاهرة لا علاقة له بنوايا الشركات المطورة بل بالطريقة الرياضية التي تتعلم بها النماذج اللغوية من بياناتها.
وفقا للباحثين فإن المستوى المنخفض من التنوع في النماذج اللغوية ناتج جزئيا عن طريقة عمل هذه النماذج الأساسية فهي تضغط الكم الهائل من النصوص التي تدربت عليها وتتعلم الأنماط الأكثر تكرارا وفي هذه العملية يتم تصفية المعلومات التي تخرج عن هذه الأنماط الشائعة.
بعبارة أبسط النموذج لا يخزن كل شيء قرأه بنفس القدر من الأهمية. المعلومات التي تكررت كثيرا في بيانات التدريب تترسخ بقوة بينما المعلومات النادرة أو المتخصصة أو المثيرة للجدل تضعف أو تختفي تماما من الإجابات النهائية. هذا يشبه إلى حد بعيد ما يحدث عندما تلخص كتابا طويلا في صفحة واحدة فالتفاصيل الدقيقة تضيع أولا بينما تبقى الخلاصة العامة فقط.
نحن نخاطر بتعريض الناس لعدد أقل من وجهات النظر ونطاق أضيق من المعرفة. هذا يمكن أن يخلق حلقة مفرغة يصبح فيها المحتوى الأكثر شهرة أكثر هيمنة بينما يتم تجاهل محتوى آخر بشكل متزايد.
هذا ما حذرت منه إيزابيل أوجنشتاين الأستاذة في قسم علوم الحاسوب بجامعة كوبنهاغن والمشرفة الرئيسية على الدراسة. وأضافت أن حقيقة أن الناس يستخدمون نماذج الذكاء الاصطناعي بشكل متزايد كبوابتهم الأساسية للمعلومات قد تترتب عليها عواقب مهمة.
آلية التغذية الراجعة التي قد تفاقم المشكلة
الخطر الأكبر ليس في الوضع الحالي فقط بل فيما قد يحدث لاحقا إذا استمر الاتجاه الحالي. فكثير من المحتوى المنشور على الإنترنت اليوم بدأ يتولد بمساعدة الذكاء الاصطناعي. إذا تدربت النماذج المستقبلية على نصوص أنتجتها نماذج سابقة فإن التضيق الذي بدأ صغيرا قد يتراكم عبر الأجيال.
هذا بالضبط ما أشارت إليه أوجنشتاين في تعليقها على نتائج الدراسة. فالآلية التي تجعل كل جيل من النماذج أقل تنوعا من سابقه موجودة بالفعل حتى لو لم تتحول بعد إلى أزمة فعلية في المعرفة الجماعية.
توضح أوجنشتاين أنه يمكن ملاحظة أن النماذج الأحدث تنتج إجابات أكثر تنوعا قليلا من النماذج الأقدم ولذلك فإن انهيار المعرفة لم يحدث بعد لكن الآلية التي يمكن أن تحفزه على المدى الطويل موجودة بالفعل وهذا أمر ينبغي أن نكون واعين به.
ماذا تقول الأبحاث الأخرى حول نفس القضية
دراسة جامعة كوبنهاغن ليست الوحيدة التي تناولت هذا الموضوع. هناك مجموعة من الأبحاث السابقة واللاحقة تقترب من المشكلة من زوايا مختلفة وتكمل بعضها البعض.
النموذج الرياضي لبيترسون
ورقة أندرو بيترسون التي سبق ذكرها لم تكتف بالتعريف النظري بل بنت نموذجا رياضيا بسيطا لمحاكاة ما يحدث عندما يفضل الناس الاعتماد على مصدر معلومات أرخص وأسهل حتى لو كان أقل دقة. في النموذج الافتراضي الذي وضعه الباحث فإن خصما بنسبة 20 بالمئة على تكلفة الوصول للمحتوى المولد بالذكاء الاصطناعي يؤدي إلى معتقدات عامة تبتعد عن الحقيقة بمقدار 2.3 ضعف مقارنة بحالة عدم وجود هذا الخصم.
هذا الرقم نتيجة نموذج نظري افتراضي وليس قياسا ميدانيا لواقع حالي لكنه يوضح فكرة مهمة. حتى تحسن بسيط في سهولة الوصول لمعلومة أقل تنوعا قد يحرك سلوك مجتمع كامل بعيدا عن الحقيقة بشكل متضخم إذا تراكم هذا الأثر مع الوقت.
كما وصف بيترسون آلية تعزيز محتملة لهذه الظاهرة. أشار إلى أن هذه العملية قد تتعزز بفعل تأثير غرفة الصدى أو ما يسمى انهيار المعلومات حيث يؤدي التعرض المتكرر لمجموعة محدودة من المعلومات إلى اعتقاد الأفراد بأن الأطراف المهملة وغير المرصودة من المعرفة قليلة القيمة. هذا يعني أن المشكلة لا تقتصر على كون المعلومة غائبة بل تمتد إلى اعتقاد الناس بأن غيابها لا يهم أصلا.
بحث جامعة إم آي تي حول الذكاء الاصطناعي الوكيل
باحثون من معهد ماساتشوستس للتقنية من بينهم دارون عجم أوغلو قدموا منظورا اقتصاديا مختلفا للمشكلة ركز على الذكاء الاصطناعي الوكيل الذي يقدم توصيات وقرارات جاهزة للبشر بدلا من المعلومات الخام فقط. الوعد الذي تقدمه نماذج الذكاء الاصطناعي الوكيل هو تزويد صناع القرار البشريين بمعلومات وتوصيات مخصصة للسياق ورغم أن هذا قد يفيد الأفراد على المدى القصير إلا أنه يثبط تكوين المعرفة الجماعية عبر تقليل الحافز على التعلم.
الفكرة هنا مختلفة قليلا عن دراسة كوبنهاغن. المشكلة ليست فقط أن النماذج تعطي إجابات أقل تنوعا بل أن سهولة الحصول على إجابة جاهزة وفورية تقلل من حافز الإنسان نفسه ليتعلم ويبحث ويستكشف. الخلاصة التي توصل إليها الباحثون أن نماذج الذكاء الاصطناعي القوية رغم قدرتها على تحسين كفاءة وجودة القرارات اليوم فإنها تحل محل الجهد البشري بطريقة تهدد بتآكل المعرفة المجتمعية على المدى الطويل.
أبحاث التخفيف من انهيار المعرفة
ليست كل الأبحاث متشائمة بشكل كامل. بعض الدراسات الحديثة بحثت في حلول ممكنة للمشكلة بدلا من الاكتفاء بتوثيقها. أحد هذه الأبحاث فحص فكرة بسيطة هل يمكن أن يساعد تنوع النماذج نفسها في تخفيف المشكلة بدلا من الاعتماد على نموذج واحد مهيمن.
مستلهمين من علم البيئة تساءل الباحثون عما إذا كان تنوع النظام البيئي للذكاء الاصطناعي أي التنوع بين النماذج المختلفة يمكن أن يخفف من هذا الانهيار وبنوا على الأسلوب المعتمد على النموذج الواحد لكن مع التركيز على أنظمة بيئية من نماذج تتدرب على ناتجها الجماعي.
النتيجة التي توصلوا إليها مشجعة جزئيا. أظهرت النتائج أن التنوع يحسن الأداء طويل المدى للنماذج بينما الأحادية تسرع الانهيار وتحديدا لاحظوا أن مستوى التنوع الأمثل أي المستوى الذي يعظم الأداء يزداد باطراد مع عدد دورات إعادة التدريب الذاتي. بمعنى آخر كلما طال أمد اعتماد النماذج على بيانات مولدة سابقا كلما أصبح الحفاظ على تنوع مصادر التدريب أكثر أهمية وليس أقل.
لكن هذا الحل ليس سحريا. أوضح الباحثون أن زيادة التنوع تخفف من انهيار النموذج لكنها لا تمنعه بشكل كامل. بمعنى أن تنويع مصادر ونماذج الذكاء الاصطناعي يقلل الضرر لكنه لا يلغي المشكلة من جذورها.
هل انهيار المعرفة يحدث فعلا الآن
السؤال العملي الذي يشغل أغلب القراء هو هل نحن في منتصف هذه الأزمة الآن أم أن الأمر لا يزال احتمالا مستقبليا. الإجابة الدقيقة حسب الأدلة المتوفرة حاليا هي أن المشكلة ليست أزمة مكتملة بعد لكنها ليست وهما أيضا.
هذا العمل البحثي يقيس مدى تنوع الادعاءات التي تولدها نماذج الذكاء الاصطناعي مقارنة بالبحث التقليدي على الويب ولا يثبت أن انهيار المعرفة يحدث بالفعل في المجتمع حتى الآن. الدراسة توثق فجوة قائمة في التنوع وليس كارثة معرفية مكتملة.
الفرق بين الحالتين مهم من الناحية العملية. وجود فجوة في التنوع يعني أن من يعتمد كليا على روبوت محادثة واحد يحصل فعلا على صورة أضيق من العالم مقارنة بمن يبحث بنفسه عبر مصادر متعددة. لكن هذا لا يعني أن المعرفة البشرية جمعيا قد تقلصت بالفعل لأن الناس ما زالوا يستخدمون محركات البحث والكتب والصحف ومصادر أخرى جنبا إلى جنب مع الذكاء الاصطناعي.
الخطر الحقيقي يكمن في الاتجاه العام أكثر من الوضع اللحظي. فكلما ازداد اعتماد الناس على الذكاء الاصطناعي كمصدر وحيد للمعلومات وكلما ازداد المحتوى المولد بالذكاء الاصطناعي على الإنترنت الذي يستخدم لاحقا لتدريب نماذج جديدة كلما اقتربنا أكثر من السيناريو الذي حذر منه الباحثون.
ماذا يعني هذا عمليا لأي شخص يستخدم الذكاء الاصطناعي
هذه النتائج ليست مجرد نقاش أكاديمي بعيد عن الواقع اليومي. لها انعكاسات مباشرة على طريقة استخدام أي شخص لأدوات مثل شات جي بي تي أو جيميني أو غيرها من المساعدات الذكية.
- الاعتماد الكلي على إجابة واحدة من روبوت محادثة واحد يزيد احتمال الحصول على نسخة مبسطة ومكررة من المعلومة بدلا من الصورة الكاملة.
- المواضيع الحساسة أو المثيرة للجدل أو المتخصصة هي الأكثر عرضة لفقدان التفاصيل والفروقات الدقيقة عند الاعتماد فقط على الذكاء الاصطناعي.
- النماذج التي تستخدم البحث الفعلي عن معلومات حديثة قبل الإجابة تعطي عادة تنوعا أكبر من النماذج التي تعتمد فقط على ذاكرتها الداخلية المحفوظة أثناء التدريب.
- الطلاب والباحثون والصحفيون معرضون بشكل خاص لهذا الخطر لأن عملهم يعتمد أصلا على تنوع المصادر ودقة التفاصيل.
كيف تقلل من مخاطر انهيار المعرفة على مستواك الشخصي
لا يحتاج القارئ العادي إلى التوقف عن استخدام الذكاء الاصطناعي بل إلى استخدامه بوعي أكبر. هناك بضع عادات بسيطة تقلل من أثر هذه المشكلة على أي شخص.
- اعتبر إجابة الذكاء الاصطناعي نقطة بداية وليست نقطة نهاية خصوصا في المواضيع المهمة أو المثيرة للجدل.
- قارن إجابة النموذج بنتيجة بحث عادية من وقت لآخر خصوصا عندما يتعلق الأمر بموضوع له أبعاد متعددة أو وجهات نظر متضاربة.
- اسأل النموذج بشكل صريح عن وجهات النظر المخالفة أو الآراء الأقل شيوعا حول الموضوع فهذا قد يدفعه لعرض معلومات لم يكن سيذكرها تلقائيا.
- لا تعتمد على نموذج واحد فقط إذا كان الموضوع حساسا بل جرب أكثر من أداة ذكاء اصطناعي ثم قارن النتائج.
- حافظ على عادة القراءة من مصادر بشرية متنوعة كالكتب والمقالات المتخصصة والنقاشات المباشرة فهذه تبقى مصدرا للتفاصيل النادرة التي قد تختفي من إجابات الذكاء الاصطناعي.
هذا بالضبط ما نصحت به أوجنشتاين في ختام حديثها عن نتائج الدراسة. شددت على أهمية ألا نصبح معتمدين على هذه التقنية لدرجة التوقف عن الفهم والتفكير بأنفسنا.
ماذا يفعل الباحثون والشركات لمواجهة المشكلة
المشكلة ليست مسؤولية المستخدم العادي وحده. هناك اتجاهات بحثية وتقنية تحاول معالجة جذور المشكلة من جانب تصميم النماذج نفسها.
تحسين تقنية الاسترجاع المعزز
أظهرت الدراسة أن ربط النموذج بمصادر بحث حقيقية وحديثة يحسن تنوع إجاباته بشكل ملموس. هذا يفسر لماذا تتجه شركات كثيرة لدمج ميزات البحث المباشر داخل روبوتات المحادثة بدلا من الاعتماد الكامل على الذاكرة الداخلية للنموذج.
تنويع مصادر ونماذج التدريب
الأبحاث التي تناولت التخفيف من الانهيار أظهرت فائدة حقيقية من تنويع النماذج والبيانات بدلا من الاعتماد على مصدر واحد مهيمن. هذا يشبه فكرة التنوع البيولوجي في الطبيعة حيث يكون النظام أكثر مقاومة للانهيار كلما كان أكثر تنوعا.
قياس التنوع كمعيار جودة إضافي
من أهم مساهمات دراسة كوبنهاغن أنها قدمت منهجية علمية لقياس التنوع المعرفي في مخرجات الذكاء الاصطناعي بشكل كمي. وجود مقياس واضح يفتح الباب أمام الشركات لتتبع هذا الجانب وتحسينه بنفس الطريقة التي تتبع بها مقاييس الدقة والسلامة.
الخلاصة
انهيار المعرفة ليس خيالا علميا ولا مبالغة إعلامية بل مشكلة حقيقية موثقة بدراسات علمية جادة من أكثر من جهة بحثية مستقلة. الدراسة الأحدث من جامعة كوبنهاغن قدمت أقوى دليل تجريبي حتى الآن على أن النماذج اللغوية حتى الأكثر تطورا منها تعطي صورة أضيق من العالم مقارنة ببحث تقليدي بسيط على جوجل.
في المقابل الأدلة الحالية تقول بوضوح إن هذا الانهيار لم يكتمل بعد. الآلية موجودة والاتجاه مقلق لكن الصورة ليست كارثية في اللحظة الراهنة. ما يحدد مسار الأمور القادمة هو خياران متوازيان يسيران جنبا إلى جنب. الأول هو الخيارات التقنية التي تتخذها الشركات المطورة من تحسين التنوع إلى دمج البحث الحي داخل النماذج. والثاني هو الخيارات التي يتخذها كل مستخدم بشكل فردي من حيث مدى اعتماده الكلي على مصدر واحد للمعلومات أو حرصه على تنويع مصادره ومراجعة إجابات الذكاء الاصطناعي بعين ناقدة بدلا من قبولها كحقيقة نهائية.
المعرفة البشرية بنيت تاريخيا على تعدد الأصوات واختلاف وجهات النظر. أي أداة مهما كانت قوتها تستحق أن تستخدم كجزء من هذا التنوع وليس بديلا عنه.

التعليقات ()
أضف تعليقك عبر نموذج التعليقات