يتناول المقال المسؤولية النفسية للخوارزميات في منصات التواصل الاجتماعي، على ضوء التحقيقات الأوروبية بشأن أنظمة توصية المحتوى وتأثيرها المحتمل في الصحة النفسية. ويحلل آليات التكرار الرقمي واقتصاد الانتباه وحدود حرية الاختيار، مع التركيز على حماية الأطفال والمراهقين. ويقدم مقترحات لتعزيز الشفافية والرقابة والتربية الرقمية، وتطوير أنظمة توصية تراعي سلامة...
لم تعد منصات التواصل الاجتماعي مجرد وسائل لنقل الأخبار والأفكار والصور بين المستخدمين، وإنما أصبحت بيئات رقمية متكاملة تتدخل في تنظيم ما يشاهده الإنسان، وتحديد ما يستحق اهتمامه، وترتيب الموضوعات التي يتعرض لها، وتكرار المحتوى الذي قد يتوافق مع اهتماماته أو حالته النفسية. ولم يعد المستخدم هو الطرف الوحيد الذي يقرر طبيعة تجربته داخل هذه المنصات؛ إذ أصبحت أنظمة التوصية القائمة على الخوارزميات تؤدي دورًا مؤثرًا في تشكيل هذه التجربة، من خلال متابعة سلوكه وتحليل استجاباته، ثم اختيار المحتوى الذي يُرجح أن يدفعه إلى مواصلة المشاهدة والتفاعل.
ويثير هذا التحول قضية تتجاوز الاستخدام المفرط للهواتف الذكية أو قضاء ساعات طويلة أمام الشاشات، لتصل إلى طبيعة البيئة النفسية والمعرفية التي تصنعها المنصات لمستخدميها. فقد يدخل الإنسان إلى إحدى المنصات بحثًا عن معلومة محددة أو مشاهدة مقطع عابر، لكنه يجد نفسه أمام سلسلة متواصلة من المقاطع المتشابهة، تنتقل به تدريجيًا إلى موضوعات أكثر إثارة أو ارتباطًا بمشاعره، دون أن يكون قد اختار بنفسه جميع الاتجاهات التي تسلكها تجربته الرقمية.
وتصبح المشكلة أكثر أهمية عندما يتعلق المحتوى المتكرر بالحزن والعزلة والقلق والمظهر الجسدي أو الموضوعات التي تستثير مشاعر الخوف وعدم الرضا عن الذات. ففي هذه الحالات قد تتحول أنظمة التوصية من أدوات لتسهيل الوصول إلى المعلومات إلى عوامل تسهم في تكثيف التعرض لبعض المؤثرات النفسية، ولا سيما لدى الأطفال والمراهقين والأشخاص الذين يمرون بظروف نفسية صعبة.
وقد انتقلت هذه القضية من مجال الدراسات النفسية والتربوية إلى ميدان المساءلة القانونية، بعدما أعلنت المفوضية الأوروبية، في السادس من نوفمبر/تشرين الثاني 2026، نتائج أولية تفيد بأن نظام توصية المحتوى في منصة تيك توك قد يخالف التزامات قانون الخدمات الرقمية الأوروبي، نتيجة ما يعرف بتأثير «النفق الرقمي»، وهو نمط من التوصيات المتكررة التي قد تجعل المستخدم محصورًا في دائرة متزايدة من المحتوى المتشابه.
وركزت المفوضية على احتمال تسبب هذا النمط في أضرار نفسية عندما يتكرر عرض المحتوى المرتبط بالحزن أو العزلة أو صورة الجسد، وعلى عدم كفاية الإجراءات التي اتخذتها المنصة، بحسب التقييم الأوروبي الأولي، لتقليل هذه المخاطر. كما أشارت إلى أن بعض أدوات التحكم قد لا تمنح المستخدم القدرة الفعلية على تغيير المحتوى المعروض، خصوصًا عندما تعطي الخوارزمية أولوية لمدة المشاهدة على اختياراته الصريحة.
وتكتسب هذه التطورات أهمية خاصة لأنها تنقل النقاش من مسؤولية المستخدم عن اختياراته إلى مسؤولية الشركات عن تصميم أنظمة التوصية والآثار التي يمكن أن تنتج عن تشغيلها. فالمسألة لم تعد تتعلق فقط بالمحتوى الذي ينبغي حذفه أو السماح بنشره، وإنما بالطريقة التي يجري بها اختيار المحتوى وتكراره وترتيبه، ومدى توافق هذه الطريقة مع متطلبات السلامة النفسية وحقوق المستخدمين.
ومن هنا تبرز قضية جديدة في العلاقة بين الإنسان والتكنولوجيا، تتمثل في تحديد حدود المسؤولية النفسية للخوارزميات، ومدى التزام الشركات التي تدير المنصات بمراعاة النتائج المحتملة لتصميم أنظمتها، وإيجاد التوازن بين المصالح التجارية وحرية التعبير وحق المستخدم في التحكم بتجربته الرقمية.
من منصة لنشر المحتوى إلى نظام يحدد ما يشاهده الإنسان
شهدت منصات التواصل الاجتماعي تحولًا عميقًا في طريقة تنظيم المحتوى وتقديمه. ففي المراحل الأولى، كانت تجربة المستخدم تعتمد بدرجة كبيرة على الحسابات التي يختار متابعتها، والأصدقاء الذين يتواصل معهم، والموضوعات التي يبحث عنها بصورة مباشرة. ومع تطور الخوارزميات، أصبحت المنصات قادرة على تقديم محتوى لم يطلبه المستخدم صراحة، ولم يصدر بالضرورة عن الأشخاص أو المؤسسات التي قرر متابعتها.
وتعتمد أنظمة التوصية الحديثة على تحليل مجموعة واسعة من الإشارات السلوكية، مثل المقاطع التي يشاهدها المستخدم، والمدة التي يقضيها أمامها، والموضوعات التي يتفاعل معها، والمحتوى الذي يتجاوزه سريعًا، والتعليقات والإعجابات والمشاركات. وتستخدم هذه البيانات لتقدير نوع المحتوى الذي قد يستحوذ على اهتمامه في المرات اللاحقة.
وتتمثل الفائدة الأساسية لهذه الأنظمة في قدرتها على تقليل الجهد اللازم للعثور على المعلومات والمواد المناسبة؛ فالمستخدم الذي يهتم بالعلوم أو الكتب أو التعليم قد يحصل على محتوى يرتبط باهتماماته دون الحاجة إلى البحث المستمر. كما تساعد هذه الأنظمة صناع المحتوى على الوصول إلى جماهير جديدة، وتتيح للمستخدمين اكتشاف موضوعات وأفكار لم يكونوا على معرفة سابقة بها.
لكن هذه الفوائد ترتبط بطبيعة المعايير التي تُبنى عليها أنظمة التوصية؛ إذ قد يختلف المحتوى الذي يجذب الانتباه عن المحتوى الذي يحقق فائدة معرفية أو نفسية للمستخدم. فقد يجذب مقطع مثير للقلق اهتمامًا طويلًا لأنه يلامس خوفًا شخصيًا، بينما يستمر الإنسان في مشاهدة مواد سلبية دون أن يكون راغبًا في تلقي المزيد منها.
وتظهر هنا مشكلة العلاقة بين السلوك الظاهر والرغبة الحقيقية. فالخوارزمية تستطيع رصد مدة المشاهدة والتفاعل، لكنها لا تستطيع دائمًا معرفة السبب النفسي الذي دفع المستخدم إلى متابعة المحتوى. وقد تعني المشاهدة الطويلة اهتمامًا إيجابيًا، أو فضولًا عابرًا، أو قلقًا، أو انزعاجًا، أو محاولة لفهم موضوع يثير المخاوف.
وعندما يجري التعامل مع جميع هذه الاستجابات بوصفها إشارات على الرغبة في مشاهدة المزيد، فقد تصبح التوصيات أقل تعبيرًا عن الاختيار الواعي للمستخدم وأكثر ارتباطًا بالاستجابة السلوكية التي أمكن للنظام قياسها.
ويعني ذلك أن الخوارزمية قد تكون دقيقة في توقع ما سيشاهده الإنسان، دون أن تكون دقيقة بالضرورة في تحديد ما يحتاج إليه أو ما يخدم مصلحته النفسية والمعرفية.
ومن هنا يتغير مفهوم الاختيار داخل المنصات الرقمية؛ فالمستخدم يظل قادرًا على التفاعل والتصفح والبحث، لكنه يتخذ قراراته داخل بيئة سبق للنظام أن اختار عناصرها ورتبها وحدد مستوى ظهورها.
وتصبح حرية الاختيار مرتبطة بمقدار التحكم الذي يمتلكه الإنسان في تنظيم هذه البيئة، وليس بمجرد قدرته على الضغط على مقطع أو الانتقال إلى مقطع آخر.
النفق الرقمي.. كيف يتحول الاهتمام العابر إلى دائرة متكررة من المحتوى؟
يقصد بتأثير النفق الرقمي حالة يتلقى فيها المستخدم سلسلة متتابعة من المحتوى المتشابه، نتيجة تفسير الخوارزمية لاستجاباته السابقة بوصفها دليلًا على اهتمام مستمر بهذا النوع من المواد.
وقد يبدأ الأمر بمشاهدة مقطع واحد يتعلق بموضوع معين، ثم تقترح المنصة مواد مشابهة، فيشاهد المستخدم بعضها، فتزداد ثقة النظام بأن هذا الموضوع يستحق أولوية أكبر في توصياته.
ومع استمرار التفاعل قد ترتفع كثافة المحتوى المتعلق بالموضوع نفسه، وتنخفض فرص ظهور مواد مختلفة، فيصبح المجال المعرفي والنفسي الذي يتعرض له المستخدم أضيق مما كان عليه في البداية.
ويأخذ هذا النمط أهمية خاصة عندما يكون الموضوع مرتبطًا بمشاعر سلبية أو قضايا شخصية حساسة. فقد يشاهد مراهق مقطعًا يناقش عدم الرضا عن المظهر الجسدي، ثم يبدأ النظام في عرض مزيد من المواد التي تتناول الوزن والجمال والمقارنة بالمظاهر المثالية. وإذا استمر التفاعل، فقد يجد نفسه أمام محتوى متشابه يتكرر بصورة متواصلة، حتى عندما لم يكن هدفه الأصلي الانشغال بهذه القضية.
ويمكن أن يحدث الأمر نفسه مع المحتوى الذي يتناول الفشل والعزلة والخوف والتجارب المؤلمة، إذ قد يؤدي تكرار العرض إلى جعل هذه الموضوعات أكثر حضورًا في التجربة اليومية للمستخدم.
ولا يعني ذلك أن مشاهدة محتوى يتعلق بالحزن أو الصحة النفسية تمثل ضررًا بحد ذاتها؛ فقد تساعد بعض المواد على التوعية وتقديم المساندة وتشجيع طلب المساعدة. لكن المشكلة ترتبط بطبيعة المحتوى وجودته، وبدرجة تكراره، والظروف النفسية للمستخدم، ومدى وجود تنوع ومصادر موثوقة داخل تجربته الرقمية.
وقد أظهرت دراسة نوعية نشرت في دورية بي إم سي للصحة العامة في يونيو/حزيران 2026، واستندت إلى مقابلات مع 27 شابًا وشابة في المملكة المتحدة تتراوح أعمارهم بين 14 و19 عامًا، أن أنظمة التوصية لا تؤثر فقط في نوع المحتوى الذي يتلقاه المراهقون، بل في تكراره وشدته العاطفية والشعور بالقدرة على التحكم فيه.
وخلص الباحثون إلى وجود تفاعل بين التعزيز الخوارزمي للتفاعل، والحلقات المتبادلة بين المزاج والمحتوى، والشعور المستمر بمحدودية السيطرة رغم امتلاك قدر من المعرفة الرقمية. ونظرًا إلى طبيعة الدراسة النوعية وحجم عينتها، فإن نتائجها تساعد على فهم آليات التجربة ولا تصلح وحدها لتقدير انتشار الضرر بين جميع المراهقين أو إثبات علاقة سببية عامة.
وتوضح هذه النتائج أن المخاطر المحتملة ترتبط بالتعرض التراكمي، وليس بالمحتوى المفرد وحده. فقد تكون مشاهدة مقطع معين محدودة الأثر، لكن تكرار مواد متشابهة على امتداد الوقت قد يؤثر في الطريقة التي يرى بها المستخدم موضوعًا معينًا أو يقدّر أهميته في حياته.
كما أن تكرار المحتوى قد يزيد شعور الإنسان بأن الظاهرة المعروضة أكثر انتشارًا أو حضورًا في الواقع مما هي عليه، لأن تجربته الرقمية لا تقدم له بالضرورة صورة متوازنة عن الحياة الاجتماعية.
وتتضح هنا العلاقة بين النفق الرقمي وتكوين التصورات؛ إذ يستطيع المحتوى المتكرر أن يصبح مرجعًا ذهنيًا يستحضره المستخدم عند التفكير في نفسه والآخرين، حتى عندما يكون هذا المحتوى غير ممثل للتجارب الإنسانية الأوسع.
ولهذا فإن التعامل مع النفق الرقمي يحتاج إلى النظر في طبيعة التوصيات بوصفها سلسلة مترابطة، وإلى دراسة الأثر الذي ينتج عن اجتماع المحتوى والتكرار والمدة والسياق الشخصي.
لماذا أصبحت الخوارزميات قضية تتعلق بالصحة النفسية؟
تتأثر الصحة النفسية بمجموعة واسعة من العوامل الشخصية والأسرية والاجتماعية والاقتصادية والبيولوجية، وتتفاعل التجارب الرقمية مع هذه العوامل بصورة تختلف من شخص إلى آخر.
فقد تكون المنصات مصدرًا للدعم الاجتماعي والتعلم والتواصل، كما قد تصبح بيئة تعزز بعض الضغوط النفسية عندما يتعرض المستخدم لمحتوى مؤذٍ أو تفاعلات سلبية أو أنماط استخدام يصعب عليه تنظيمها.
ولهذا فإن العلاقة بين وسائل التواصل والصحة النفسية تحتاج إلى فهم متعدد العوامل، بعيدًا عن افتراض أن جميع المستخدمين يتأثرون بالطريقة نفسها.
وقد أشارت مراجعة علمية منشورة في دورية نيتشر ريفيوز سايكولوجي عام 2024، أعدتها إيمي أوربن وزملاؤها، إلى أن نتائج الدراسات المتعلقة بوسائل التواصل والصحة النفسية للمراهقين ما تزال متباينة في جوانب مهمة، وأن فهم الفروق الفردية والتغيرات المرتبطة بالنمو النفسي والعصبي يمثل ضرورة لتطوير توصيات أكثر دقة.
وتعني هذه النتيجة أن وجود مخاطر محتملة يستدعي الوقاية والبحث، لكنه لا يبرر تحويل الارتباطات الإحصائية إلى أحكام سببية عامة تشمل جميع المستخدمين والمنصات.
ومع ذلك، توجد مؤشرات صحية تدعو إلى الاهتمام بأنماط الاستخدام الإشكالي. فقد أظهرت دراسة دولية نشرتها منظمة الصحة العالمية في سبتمبر/أيلول 2024 ارتفاع نسبة المراهقين الذين تظهر لديهم علامات الاستخدام الإشكالي لوسائل التواصل الاجتماعي من 7% عام 2018 إلى 11% عام 2022، ضمن دراسة شملت نحو 280 ألف مراهق في 44 دولة ومنطقة في أوروبا وآسيا الوسطى وكندا.
ويرتبط الاستخدام الإشكالي بصعوبة التحكم في السلوك الرقمي واستمرار الاستخدام رغم حدوث آثار سلبية في الحياة اليومية، وهو مفهوم أكثر تحديدًا من مجرد قضاء وقت طويل أمام الشاشة.
وتوضح هذه البيانات أهمية الانتقال من السؤال عن عدد ساعات الاستخدام وحده إلى دراسة طبيعة العلاقة التي تتكون بين المستخدم والمنصة، ومدى قدرة الإنسان على التوقف أو تغيير المحتوى أو المحافظة على توازن نشاطاته اليومية.
فقد يستخدم شخص المنصة لفترة طويلة في التعلم والعمل والتواصل دون أن يعاني بالضرورة من صعوبات نفسية، بينما قد يتعرض شخص آخر لمشكلات مرتبطة بمحتوى معين أو بنمط تفاعل متكرر خلال وقت أقل.
ومن هنا لا يمكن اعتماد مدة المشاهدة معيارًا منفردًا لتحديد الضرر النفسي، بل ينبغي النظر في طبيعة المحتوى، والمرحلة العمرية، والحالة النفسية السابقة، ونوعية العلاقات الاجتماعية، ومدى تأثير الاستخدام في النوم والدراسة والعمل والأنشطة الواقعية.
وتتضح أهمية الخوارزميات عندما تصبح هذه العوامل مرتبطة بتصميم المنصة نفسها، لأن النظام يستطيع التأثير في تكرار المحتوى وسهولة الوصول إليه، وفي عدد المرات التي يعود فيها المستخدم إلى التطبيق، وفي درجة التنوع التي يجدها أثناء التصفح.
وبذلك تصبح السلامة النفسية الرقمية قضية مشتركة بين المستخدم والبيئة التقنية التي يتفاعل معها، وتبرز الحاجة إلى تطوير تصميم يأخذ رفاه الإنسان بعين الاعتبار إلى جانب أهداف الاستخدام والنمو التجاري.
المسؤولية النفسية للخوارزميات.. من يتحمل نتائج التصميم الرقمي؟
تقوم المسؤولية التقليدية عن المحتوى في كثير من البيئات الإعلامية على تحديد الأطراف التي تنتجه وتنشره وتستهلكه. فالمؤلف أو المنتج مسؤول عن المادة التي يقدمها ضمن الحدود القانونية، والمؤسسة الناشرة مسؤولة عن التزاماتها المهنية والتنظيمية، بينما يتمتع المتلقي بحرية اختيار ما يقرأه أو يشاهده.
لكن أنظمة التوصية أدخلت طرفًا مؤثرًا آخر إلى هذه العلاقة، يتمثل في النظام الذي يختار المحتوى ويحدد ترتيبه وتكراره ومدى انتشاره بين المستخدمين.
فقد يكون المقطع منشورًا بصورة قانونية، لكن طريقة تقديمه المتواصل إلى شخص معين قد تثير مخاطر لا تظهر عند النظر إلى المقطع منفردًا. وقد تكون المادة مناسبة لجمهور بالغ، لكنها تحتاج إلى معايير مختلفة عندما تُعرض على طفل أو مراهق، أو على شخص تظهر في سلوكه الرقمي علامات التعرض المتكرر لمحتوى نفسي حساس.
ومن هنا تبرز ضرورة التمييز بين مسؤولية إنتاج المحتوى ومسؤولية توزيعه خوارزميًا. فالأولى تتعلق بطبيعة المادة المنشورة، بينما تتعلق الثانية بالقرارات الآلية التي تنظم وصولها إلى المستخدمين وتحدد كثافة تعرضهم لها.
وتزداد أهمية هذا التمييز لأن تصميم الخوارزميات ليس عملية محايدة بالكامل، بل يعتمد على أهداف ومعايير تختارها المؤسسة التي تدير المنصة. فقد تكون الأولوية لتعزيز التفاعل أو زيادة مدة المشاهدة أو تحسين رضا المستخدم أو تحقيق التوازن بين أهداف متعددة.
ويترتب على اختيار هذه الأهداف تحديد نوع البيانات التي يعتمد عليها النظام، وطريقة ترتيب التوصيات، والآليات المستخدمة لاختبار نجاحها. وبذلك فإن المؤسسة لا تتحكم في كل استجابة نفسية تحدث لدى المستخدم، لكنها تتحكم بدرجة مهمة في تصميم البيئة الرقمية التي قد تسهم في نشوء بعض المخاطر أو تقليلها.
وتقوم المسؤولية النفسية للخوارزميات، بهذا المعنى، على التزام الشركات بتقييم الآثار المحتملة لتصميم أنظمتها، واتخاذ التدابير المعقولة والمتناسبة لتقليل المخاطر التي يمكن توقعها، وتوفير وسائل فعالة تسمح للمستخدم بفهم تجربته والتحكم فيها.
وهذه المسؤولية لا تعني ضمان عدم تعرض أي مستخدم لمشكلات نفسية، لأن الصحة النفسية تتأثر بعوامل متداخلة يصعب ردها إلى سبب واحد. لكنها تعني أن الشركات ينبغي ألا تكتفي بقياس نجاح النظام بعدد المشاهدات أو معدلات التفاعل، دون النظر إلى ما قد ينتجه هذا النجاح من آثار غير مرغوبة.
كما أن مسؤولية الشركات لا تلغي مسؤولية الأسرة والمدرسة والمستخدم والمؤسسات الصحية، وإنما تضيف إليها مسؤولية الطرف الذي يملك القدرة التقنية على تغيير تصميم المنصة وتعديل طريقة عملها.
وتظهر هنا أهمية الانتقال من المعالجة الفردية للأضرار إلى الوقاية المؤسسية؛ إذ قد يكون تعليم المستخدم مهارات التحكم ضروريًا، لكن هذه المهارات تصبح محدودة الأثر عندما تكون أدوات التحكم معقدة أو ضعيفة التأثير في قرارات التوصية.
وبذلك تتشكل المسؤولية النفسية بوصفها مسؤولية وقائية وتنظيمية تتعلق بسلامة تصميم النظام وشفافية تشغيله، إلى جانب المسؤولية القانونية التي تحددها التشريعات عند ثبوت مخالفة الالتزامات المقررة.
التطور الأوروبي.. من مساءلة المحتوى إلى مساءلة طريقة عرضه
يمثل الإجراء الذي اتخذته المفوضية الأوروبية في السادس من نوفمبر 2026 مرحلة جديدة في تطبيق قانون الخدمات الرقمية، لأنه ركز على الآثار المحتملة لنظام توصية المحتوى، لا على وجود مواد غير قانونية بالضرورة.
فقد أعلنت المفوضية أن تقييمها الأولي يشير إلى أن منصة تيك توك لم تقيّم بصورة كافية المخاطر المرتبطة بتأثير النفق الرقمي، ولم تعتمد، بحسب تقديرها، إجراءات فعالة ومتناسبة للحد من التعرض المتكرر للمحتوى الذي قد يضر بالصحة النفسية.
وتناولت الملاحظات الأوروبية طريقة استخدام المعلومات المتعلقة بالتفاعل والمشاهدة في اختيار المقاطع المقترحة، وخصوصًا عندما تتعلق موضوعاتها بالمظهر الجسدي أو فقدان الوزن أو الحالة النفسية.
كما أشارت المفوضية إلى أن بعض أدوات التحكم المتاحة للمستخدمين قد لا تكون فعالة بما يكفي؛ إذ قد يستمر ظهور محتوى متشابه رغم اختيار المستخدم تقليل عرضه، عندما تمنح الخوارزمية وزنًا كبيرًا لمدة المشاهدة مقارنة بالاختيارات الصريحة.
واقترحت المفوضية ضمن المعالجة المحتملة إعطاء أهمية أكبر للتفضيلات التي يحددها المستخدم بوضوح، وعدم استخدام مدة المشاهدة مؤشرًا لتوصية المحتوى في السياق محل التحقيق، وتسهيل الوصول إلى أدوات التحكم، وإجراء اختبارات منتظمة لقياس المخاطر.
ومن المهم هنا التمييز بين النتائج الأولية والقرار القانوني النهائي؛ إذ ما زالت المنصة تتمتع بحق الاطلاع على ملف التحقيق وتقديم ردها، ولم تكن الملاحظات المعلنة في السادس من نوفمبر حكمًا نهائيًا بثبوت المخالفة.
وقد رفضت تيك توك التقييم الأوروبي، مؤكدة أنها توفر وسائل لحماية المستخدمين والتحكم بالمحتوى، وأن الاتهامات لا تعكس بدقة طبيعة أنظمتها. وتبقى هذه الخلافات ضمن الإجراءات القانونية والتنظيمية الجارية، التي قد تنتهي إلى قرارات مختلفة بحسب الأدلة والمرافعات والتقييم النهائي.
وتعود جذور هذا التطور إلى إجراءات سابقة، أبرزها إعلان المفوضية في فبراير 2026 نتائج أولية بشأن خصائص التصميم التي قد تشجع الاستخدام القهري، مثل التمرير المستمر والتشغيل التلقائي والإشعارات المتكررة وأنظمة التوصية شديدة التخصيص.
وقد ركز التحقيق السابق على طبيعة تصميم المنصة وعلاقته بإطالة الاستخدام، بينما ركز التطور الجديد على آثار التكرار الخوارزمي لمحتوى نفسي حساس. ويشير هذا التوسع إلى أن التنظيم الأوروبي يتجه نحو النظر إلى بنية التجربة الرقمية بوصفها موضوعًا للمساءلة، إلى جانب طبيعة المحتوى المنشور.
ويُلزم قانون الخدمات الرقمية المنصات الكبرى بتقييم المخاطر النظامية واتخاذ إجراءات لتخفيفها، مع توفير قدر من الشفافية بشأن المعايير الرئيسية للتوصية. كما يفرض إتاحة خيار واحد على الأقل لأنظمة توصية لا يعتمد على التنميط الشخصي في المنصات المشمولة بهذا الالتزام.
وتكتسب هذه المتطلبات أهمية لأنها تجعل للمستخدم حقًا يتجاوز قبول التوصيات الجاهزة، ليشمل معرفة المبادئ العامة التي تنظم ما يظهر أمامه، وإمكان اختيار نمط مختلف لترتيب المحتوى.
وتكشف هذه الإجراءات عن تحول في مفهوم السلامة الرقمية؛ إذ يصبح تقييم النظام قائمًا على العلاقة بين تصميمه ومخاطره المحتملة، وعلى فاعلية الإجراءات الوقائية، بدل الاعتماد على حذف المواد المخالفة بعد انتشارها وحده.
وهنا تظهر القيمة التنظيمية للوقاية، لأنها تتيح معالجة بعض المخاطر في مرحلة تصميم النظام واختباره، قبل أن تتحول إلى تجارب سلبية واسعة لدى المستخدمين.
حرية الاختيار وحرية التحكم.. الفرق بين ما يشاهده المستخدم وما يُعرض عليه
تقوم التجربة الرقمية على سلسلة من القرارات المتداخلة، بعضها يتخذه المستخدم بصورة مباشرة، وبعضها تحدده الخوارزمية وفق المعلومات التي تجمعها عن سلوكه.
فالمستخدم يستطيع اختيار فتح التطبيق ومشاهدة مقطع أو تجاوزه، لكنه لا يحدد دائمًا المقاطع التي ستظهر بعده، أو مدى تكرار الموضوعات نفسها، أو الأسباب التي تجعل مادة معينة تحصل على أولوية في العرض.
ويؤدي هذا الاختلاف إلى ضرورة التمييز بين حرية الاختيار داخل المنصة وحرية التحكم في النظام الذي ينظم الاختيارات المتاحة.
فقد يمتلك الإنسان القدرة على تجاهل مادة معينة، لكنه يواجهها مجددًا بأشكال مختلفة. وقد يستخدم خيار «غير مهتم»، لكنه يستمر في رؤية محتوى مشابه إذا كان النظام يعتمد على مؤشرات سلوكية أخرى تمنحه وزنًا أعلى.
وفي هذه الحالة لا تصبح المشكلة مجرد نقص في الخيارات المتاحة، وإنما ضعف قدرة المستخدم على جعل تفضيلاته الصريحة مؤثرة بصورة حقيقية في التجربة الرقمية.
وتكتسب هذه المسألة أهمية نفسية لأن الشعور بالقدرة على التحكم يمثل عنصرًا مؤثرًا في طريقة التعامل مع البيئة المحيطة. فكلما استطاع الإنسان فهم الخيارات المتاحة له وتغييرها، أصبح أكثر قدرة على تنظيم تجربته بما يتوافق مع أهدافه واحتياجاته.
أما عندما يشعر بأن المحتوى يفرض نفسه بصورة متكررة رغم محاولاته تغييره، فقد تنشأ تجربة من الإحباط أو محدودية السيطرة، خصوصًا إذا كان المحتوى مرتبطًا بموضوعات تسبب له الانزعاج.
ولا يقتصر الحق في التحكم على حذف سجل المشاهدة أو إعادة ضبط التوصيات؛ إذ يمكن تطويره من خلال أدوات تسمح بتحديد درجة التنوع المطلوبة، وتقليل موضوعات معينة، واختيار ترتيب زمني للمحتوى، أو استخدام أنظمة توصية أقل اعتمادًا على التحليل الشخصي.
كما يمكن أن تتضمن هذه الأدوات توضيحًا مبسطًا للأسباب الرئيسية التي أدت إلى ظهور محتوى معين، بحيث يستطيع المستخدم فهم العلاقة بين سلوكه السابق والنتائج التي يتلقاها.
ومن هنا تبرز أهمية تصميم أدوات التحكم بطريقة واضحة وسهلة الاستخدام، خصوصًا لدى الأطفال والمراهقين والأشخاص الذين لا يمتلكون معرفة تقنية واسعة.
فوجود الأداة داخل قائمة معقدة من الإعدادات لا يعني بالضرورة أن المستخدم يستطيع الاستفادة منها، كما أن فاعلية التحكم لا تتحدد بإتاحة الخيار وحدها، وإنما بدرجة استجابة النظام له واستمرار أثره.
ويعني ذلك أن حرية المستخدم الرقمية تصبح أكثر اكتمالًا عندما يستطيع التأثير في قواعد عرض المحتوى، لا عندما يقتصر دوره على الاختيار من المواد التي رتبتها الخوارزمية مسبقًا.
الأطفال والمراهقون.. مسؤولية مضاعفة تجاه المراحل العمرية الحساسة
تكتسب حماية الأطفال والمراهقين أهمية خاصة في تنظيم المنصات الرقمية، لأن هذه المراحل العمرية ترتبط بتطور الهوية وتكوين صورة الذات وتعزيز العلاقات الاجتماعية واكتساب مهارات اتخاذ القرار.
وقد تكون التجارب الرقمية مصدرًا للتعلم والتواصل والتعبير عن الذات، لكنها قد تضع المراهق أمام ضغوط جديدة عندما يتعرض بصورة متكررة لمحتوى يركز على المظهر أو المكانة الاجتماعية أو القبول الجماعي أو المخاوف الشخصية.
وتزداد أهمية طريقة عرض المحتوى عندما يتحول التفاعل إلى سلسلة من التوصيات التي تعزز موضوعًا معينًا بصورة مستمرة، لأن المراهق قد لا يمتلك دائمًا الخبرة اللازمة للتمييز بين الانتشار الرقمي والأهمية الواقعية.
فقد يرى مقاطع متكررة تتناول معايير محددة للجمال أو النجاح، ويستنتج أن هذه المعايير تمثل توقعات اجتماعية واسعة، بينما تكون في الواقع نتيجة لآليات اختيار تركز على نوع معين من المواد.
وقد توصل تحليل تلوي نُشر في دورية أدوليسنت ريسيرش ريفيو في مايو/أيار 2026، واستند إلى 45 دراسة شملت 33,086 مراهقًا، إلى وجود ارتباط إحصائي بين ارتفاع الانخراط في وسائل التواصل وزيادة المخاوف المتعلقة بصورة الجسد وأعراض اضطرابات الأكل.
وقد ظهرت هذه العلاقة في الدراسات المقطعية والطولية المشمولة بالتحليل، مع اختلاف قوتها بحسب طبيعة الاستخدام وخصائص العينات. ولا تعني هذه النتائج أن وسائل التواصل تسبب وحدها هذه المشكلات، لكنها تدعم أهمية دراسة المحتوى المرئي والتجارب الخوارزمية بصورة أكثر تفصيلًا.
وتكشف هذه المعطيات أن حماية المراهقين تحتاج إلى معالجة تشمل البيئة الرقمية والقدرة الفردية على التعامل معها.
فمن الضروري أن توفر المنصات أنظمة توصية تراعي العمر والمخاطر النفسية المحتملة، وأن تمنح المستخدمين الصغار أدوات واضحة للحد من المحتوى غير المناسب أو المفرط في التكرار.
وفي المقابل، تحتاج الأسرة إلى تطوير أساليب تواصل تساعد الأبناء على مناقشة تجاربهم الرقمية دون تحويل الاستخدام إلى مجال دائم للصراع أو العقاب.
كما ينبغي للمدرسة أن تقدم معرفة مناسبة عن كيفية عمل الخوارزميات، والعلاقة بين التفاعل والتوصية، والفرق بين المحتوى المنتشر والمعرفة الموثوقة.
وتوصي الجمعية الأمريكية لعلم النفس بأن تتناسب خصائص المنصات ووسائل الرقابة مع القدرات النمائية للمراهقين، وأن تُراعى حاجتهم إلى الاستقلال التدريجي والخصوصية، مع تقليل تعرضهم للمحتوى الذي يشجع السلوكيات الضارة.
ومن هنا فإن التربية الرقمية ينبغي أن تجمع بين الحماية وتنمية الاستقلال؛ فالحماية تقلل المخاطر غير الضرورية، بينما تساعد المعرفة والمهارات على بناء قدرة مستقبلية على الاختيار الواعي.
ويصبح الهدف إعداد مستخدم يستطيع فهم البيئة الرقمية والتعامل معها بوعي، مع ضمان ألا تتحول محدودية خبرته العمرية إلى فرصة لاستغلال انتباهه أو دفعه نحو أنماط استخدام يصعب التحكم فيها.
اقتصاد الانتباه.. كيف تؤثر المصالح التجارية في تصميم الخوارزميات؟
تعمل منصات التواصل الاجتماعي ضمن نماذج اقتصادية تعتمد في جانب مهم منها على الإعلانات والخدمات التجارية المرتبطة بحجم الجمهور ونشاطه. ويمنح هذا النموذج قيمة اقتصادية للوقت الذي يقضيه المستخدم داخل المنصة، ولعدد المرات التي يتفاعل فيها مع المحتوى أو يعود فيها إلى التطبيق.
ومن هنا تصبح القدرة على جذب الانتباه والمحافظة عليه هدفًا أساسيًا في تصميم كثير من أنظمة التوصية، لأن ارتفاع التفاعل قد يسمح بزيادة فرص عرض الإعلانات وتحسين العوائد التجارية.
ولا تعني هذه العلاقة أن جميع القرارات الخوارزمية تستهدف الإضرار بالمستخدم، لكنها تبرز احتمال وجود اختلاف بين المؤشرات التجارية التي تقيس نجاح المنصة والمؤشرات النفسية والاجتماعية التي تقيس جودة تجربة الإنسان.
فقد تحقق مادة مثيرة للقلق عددًا كبيرًا من المشاهدات، لكن ارتفاع المشاهدة لا يعني بالضرورة أنها حسنت الحالة النفسية للمستخدم أو قدمت له معرفة نافعة. وقد يكون المحتوى التعليمي الهادئ أقل قدرة على استثارة التفاعل السريع، رغم أهميته المعرفية.
ويصبح التحدي في كيفية التوفيق بين توفير تجربة جذابة ومفيدة وبين حماية المستخدم من التعرض المتكرر لمواد قد تضعف رفاهه النفسي.
كما أن المنافسة بين المنصات على انتباه الجمهور قد تشجع تطوير خصائص تزيد سهولة الاستمرار في التصفح، مثل التشغيل التلقائي والتمرير المتواصل والإشعارات المتكررة.
وقد تناولت دراسة صادرة عن دائرة البحوث في البرلمان الأوروبي في مايو 2026 خصائص التصميم التي تشجع الاستخدام المطول، موضحة أهمية الانتقال إلى مساءلة بنية المنصة نفسها، خصوصًا عندما تتعلق المخاطر بالقاصرين والمستخدمين الأكثر هشاشة.
وتتطلب معالجة هذه القضية تطوير مؤشرات نجاح تتجاوز زمن المشاهدة ومعدل التفاعل، لتشمل جودة تجربة المستخدم، ومدى فاعلية أدوات التحكم، ودرجة تنوع المحتوى، ووجود مخاطر نفسية قابلة للرصد والحد منها.
كما تستطيع الشركات الاستفادة من اختبارات مستقلة لتقييم تأثير التغييرات في خوارزمياتها، مع إتاحة معلومات مناسبة للباحثين والجهات الرقابية دون انتهاك خصوصية المستخدمين أو كشف بياناتهم الشخصية.
وبذلك تصبح المسؤولية النفسية جزءًا من الحوكمة التقنية؛ أي من القواعد والمؤسسات والإجراءات التي تحدد كيفية تطوير الأنظمة الذكية وتشغيلها ومراجعة نتائجها.
علم الاجتماع الرقمي.. كيف تصنع الخوارزميات بيئات مختلفة للمستخدمين؟
تؤثر الخوارزميات في التجربة الفردية، لكنها تسهم أيضًا في تشكيل البيئة الاجتماعية التي يتلقى الإنسان من خلالها الأخبار والأفكار والصور والاتجاهات الثقافية.
فقد يعتقد مستخدمان أنهما يتعاملان مع المنصة نفسها، بينما يتعرض كل منهما لمجموعة مختلفة من الموضوعات والآراء والتجارب، نتيجة اختلاف تاريخهما الرقمي واستجاباتهما السابقة.
ويعني ذلك أن البيئة الإعلامية لم تعد موحدة بالدرجة التي كانت عليها في وسائل الإعلام التقليدية؛ إذ أصبح بالإمكان تقديم تدفقات شديدة التخصيص من المحتوى لأعداد كبيرة من المستخدمين.
وقد يؤدي هذا التنوع إلى تسهيل الوصول إلى مجتمعات معرفية واجتماعية مناسبة للاهتمامات الفردية، لكنه قد يحد أيضًا من التعرض لوجهات نظر وتجارب مختلفة إذا ركزت التوصيات باستمرار على المحتوى المشابه لما شاهده المستخدم سابقًا.
وتظهر الآثار الاجتماعية المحتملة في تكوين التصورات المتعلقة بالنجاح والمكانة وأنماط الحياة والمخاطر والقيم، لأن ما يتكرر ظهوره أمام الإنسان قد يكتسب في ذهنه أهمية أكبر، حتى عندما لا يمثل الواقع الاجتماعي بصورة متوازنة.
كما أن المحتوى المرتبط بالانفعال قد يحصل على اهتمام واسع، ما يجعل بعض القضايا أكثر حضورًا في النقاش العام، بينما تحظى موضوعات أخرى بدرجة أقل من الظهور.
ولا يعني ذلك أن الخوارزميات تحدد قناعات الأشخاص بصورة مباشرة أو مطلقة، لأن المستخدم يحتفظ بخبراته وعلاقاته ومصادر معرفته المختلفة. لكنها تضيف عاملًا مؤثرًا في تنظيم البيئة التي تتشكل داخلها تلك القناعات.
ومن هنا تتسع المسؤولية الاجتماعية للمنصات لتشمل دراسة آثار التوصية في التنوع المعرفي، وفي قدرة المستخدم على الوصول إلى معلومات متوازنة، وفي انتشار المحتوى المثير للخوف أو الاستقطاب.
ويصبح تطوير الخوارزميات أكثر ارتباطًا بالمصلحة العامة عندما تعترف المؤسسات بأن نجاح المنصة لا يقاس فقط بقدرتها على إبقاء الجمهور متفاعلًا، وإنما أيضًا بجودة البيئة الاجتماعية والمعرفية التي تساعد على تكوينها.
التربية الرقمية.. من تنظيم وقت الشاشة إلى فهم طريقة عمل الخوارزميات
اعتمدت كثير من البرامج التربوية على تقليل ساعات الاستخدام، وتنظيم أوقات الدخول إلى التطبيقات، ومنع استخدام الهواتف في أوقات الدراسة والنوم. وتمثل هذه الإجراءات أدوات مفيدة لحماية الوقت والنشاط اليومي، لكنها لا تغطي وحدها جميع الأبعاد التي تثيرها أنظمة التوصية الحديثة.
فالمشكلة قد تتعلق بنوع المحتوى الذي يتلقاه الطفل، ومدى تكراره، والطريقة التي يدفعه بها النظام إلى الانتقال من مادة إلى أخرى، والشعور الذي يتكون لديه بشأن قدرته على التحكم في تجربته.
ولهذا تحتاج التربية الرقمية إلى تضمين مفهوم «المعرفة الخوارزمية»، أي تمكين المتعلم من فهم المبادئ الأساسية التي تعتمد عليها المنصات في اختيار المحتوى وترتيبه.
ويشمل ذلك إدراك أن مشاهدة المقطع مدة طويلة قد تؤثر في التوصيات المستقبلية، وأن تكرار ظهور موضوع معين لا يعني بالضرورة أنه الأكثر أهمية في المجتمع، وأن المنصة تستخدم معلومات سلوكية لتقدير ما قد يجذب الاهتمام.
كما ينبغي تعليم الأطفال والمراهقين الفرق بين المحتوى الذي يظهر نتيجة اختيارهم المباشر والمحتوى الذي تقترحه الأنظمة بصورة آلية، وتشجيعهم على تنويع مصادر المعرفة وعدم الاكتفاء بتدفق واحد من التوصيات.
وتكتسب مهارات التحكم أهمية عملية في هذه التربية؛ إذ يحتاج المتعلم إلى معرفة كيفية تعديل تفضيلاته، واستخدام أدوات الإبلاغ أو تقليل ظهور المحتوى، وتغيير إعدادات الخصوصية، والانتقال إلى طرق بحث أكثر استقلالًا عن التوصيات الآلية.
لكن هذه المهارات ينبغي أن تقدم ضمن منهج تربوي أوسع، يعزز التفكير النقدي والاستقلال المعرفي وتنظيم الانفعالات والقدرة على التمييز بين المعلومات الموثوقة والمحتوى الذي يستهدف جذب الانتباه.
وتحتاج الأسرة كذلك إلى بناء مناخ يسمح بمناقشة ما يشاهده الأبناء وما يشعرون به بعد الاستخدام، لأن الحوار قد يكشف تعرض الطفل إلى محتوى مقلق لم يكن الوالدان على معرفة به.
كما أن التوجيه الأكثر فاعلية يرتبط بالمرحلة العمرية، ومدى نضج المتعلم، وطبيعة استخدامه، وحاجته إلى الاستقلال والخصوصية.
وبذلك تصبح التربية الرقمية عملية لبناء القدرة على فهم البيئة الرقمية وإدارة العلاقة معها، بدل الاقتصار على ضبط الوقت أو منع الوصول إلى التطبيقات.
مستقبل تنظيم المنصات.. ثلاثة مسارات محتملة
تفتح الإجراءات الأوروبية والنقاشات العلمية الحالية المجال أمام ثلاثة مسارات تنظيمية محتملة، تختلف في درجة تدخل المؤسسات الرقابية وطبيعة المسؤوليات التي تُفرض على الشركات.
المسار الأول: تحسين أدوات التحكم مع المحافظة على التصميم الأساسي. يقوم على تطوير خيارات تقليل المحتوى وتغيير التوصيات وإعادة ضبطها، مع توفير معلومات أوضح بشأن كيفية عمل الخوارزمية. وقد يسهم هذا المسار في تحسين قدرة المستخدم على تنظيم تجربته، لكنه يعتمد بدرجة كبيرة على معرفته بالأدوات واستعداده لاستخدامها.
المسار الثاني: فرض معايير وقائية مباشرة على أنظمة التوصية. يتضمن إلزام المنصات بإجراء تقييمات للمخاطر النفسية، واختبار أثر التكرار المفرط للمحتوى الحساس، وتطوير معايير خاصة بالمستخدمين القاصرين، وإخضاع بعض خصائص التصميم للمراجعة المستقلة. ويمنح هذا المسار الوقاية المؤسسية دورًا أكبر، لأنه يعالج المخاطر في مرحلة تصميم النظام وتشغيله.
المسار الثالث: توسيع حق المستخدم في اختيار طريقة تنظيم المحتوى. يعتمد على توفير بدائل متعددة للتوصية، تسمح للمستخدم باختيار الترتيب الزمني أو المحتوى المرتبط بالحسابات التي يتابعها أو أنماط أخرى أقل اعتمادًا على التنميط الشخصي. ويعزز هذا المسار استقلال المستخدم، لكنه يحتاج إلى أدوات مبسطة تضمن إمكان الاستفادة منه دون معرفة تقنية متخصصة.
وقد تتداخل هذه المسارات في التشريعات المستقبلية، بحيث يجري الجمع بين حق الاختيار ومعايير السلامة والشفافية والرقابة.
ويعتمد نجاح أي مسار على وجود معايير قابلة للقياس، وإمكان التحقق من التزام الشركات بها، والتوازن بين حماية المستخدمين والمحافظة على حرية التعبير والابتكار والوصول إلى المعلومات.
الخاتمة.. نحو مسؤولية رقمية تحمي الإنسان
يكشف التطور الأوروبي الجديد أن العلاقة بين منصات التواصل الاجتماعي والصحة النفسية دخلت مرحلة أكثر عمقًا، بعدما أصبح تصميم الخوارزميات وطريقة تنظيم المحتوى موضوعين للمساءلة القانونية والمؤسسية.
وتوضح الدراسات الحديثة أن تجربة المستخدم الرقمية تتشكل من تفاعل عدة عناصر، تشمل طبيعة المحتوى وتكراره والمرحلة العمرية والحالة النفسية والبيئة الاجتماعية، إلى جانب قدرة الإنسان على التحكم في المواد التي يتعرض لها.
وتكتسب أنظمة التوصية أهمية خاصة لأنها تؤثر في ترتيب هذه العناصر وتكثيفها، وقد تسهم في تكوين دوائر متكررة من المحتوى يصعب على بعض المستخدمين تغييرها، خصوصًا عندما ترتبط بموضوعات نفسية حساسة.
وتؤكد هذه المعطيات الحاجة إلى تطوير مفهوم المسؤولية الرقمية، بحيث يشمل حماية المستخدمين من المخاطر التي قد تنشأ عن طريقة تصميم النظام، إلى جانب مسؤولية نشر المحتوى وإدارته.
كما أن توفير بيئة رقمية أكثر أمانًا يستدعي تكامل أدوار الشركات والمؤسسات التنظيمية والأسر والمدارس والباحثين، بما يسمح بتطوير التكنولوجيا والاستفادة من إمكاناتها المعرفية والاجتماعية، مع المحافظة على رفاه الإنسان واستقلاله النفسي والمعرفي.
وفي ضوء ذلك، يمكن تقديم مجموعة من المقترحات العملية التي تساعد على تحويل المسؤولية النفسية للخوارزميات إلى إجراءات قابلة للتنفيذ والمتابعة.
المقترحات والتوصيات
1. إلزام المنصات بتقييم المخاطر النفسية لأنظمة التوصية قبل إطلاق التغييرات الرئيسية، مع مراجعة آثارها بصورة دورية، خصوصًا فيما يتعلق بالتعرض المتكرر للمحتوى الحساس.
2. تطوير أدوات تحكم فعالة للمستخدمين تسمح بتقليل موضوعات معينة وإعادة ضبط التوصيات واختيار أنماط مختلفة لترتيب المحتوى، مع ضمان أن تستجيب الخوارزمية للتفضيلات الصريحة بصورة واضحة.
3. اعتماد معايير تصميم تراعي المراحل العمرية وتمنح الأطفال والمراهقين مستويات مناسبة من الحماية، دون تعطيل إمكان استفادتهم من المحتوى التعليمي والتواصل الاجتماعي المفيد.
4. إدخال المعرفة الخوارزمية في المناهج التربوية لتعليم الطلاب كيف تستخدم المنصات بيانات التفاعل والمشاهدة، وكيف تتكون دوائر المحتوى المتكرر، وكيف يستطيع المستخدم تنويع مصادر المعرفة.
5. تعزيز برامج التوعية الأسرية التي تساعد الوالدين على فهم طبيعة أنظمة التوصية، ومناقشة التجارب الرقمية مع الأبناء، واكتشاف التعرض المستمر للمحتوى المقلق دون الاعتماد على الرقابة المباشرة وحدها.
6. تطوير مؤشرات للرفاه الرقمي تتجاوز مدة الاستخدام وعدد المشاهدات، وتشمل فعالية أدوات التحكم، وتنوع المحتوى، وتكرار التعرض للمحتوى الحساس، وشعور المستخدم بالقدرة على إدارة تجربته.
7. إتاحة فرص بحثية مستقلة لدراسة آثار الخوارزميات من خلال توفير بيانات مناسبة للباحثين ضمن ضوابط واضحة لحماية الخصوصية، بما يسمح بتقييم المخاطر والتمييز بين الارتباطات الإحصائية والعلاقات السببية.
8. تعزيز الشفافية بشأن معايير التوصية من خلال تقديم معلومات مبسطة عن الأسباب الرئيسية لظهور المحتوى، وتوضيح طبيعة الخيارات المتاحة لتغيير النظام دون كشف بيانات شخصية أو تفاصيل أمنية حساسة.
9. تشجيع تصميم منصات أكثر مراعاة للصحة النفسية عبر إدماج اعتبارات السلامة والرفاه في مراحل التطوير، وتقديم حوافز للممارسات التي تحسن جودة المحتوى وتجربة الاستخدام.
10. تطوير أطر وطنية وإقليمية لحماية المستخدمين تستفيد من التجارب التنظيمية الدولية، مع مراعاة الخصوصيات القانونية والاجتماعية والثقافية، وبناء قدرات مؤسسية تسمح بمتابعة التطورات التقنية بصورة مستمرة.
وتقوم هذه المقترحات على أن سلامة البيئة الرقمية لا تتحقق من خلال زيادة مسؤولية المستخدم وحده، بل تحتاج أيضًا إلى تطوير مسؤولية المؤسسات التي تصمم الأنظمة وتحدد قواعد تشغيلها.
فالمنصات تمتلك قدرة واسعة على تنظيم المحتوى وتوجيه الانتباه، وهذه القدرة تقترن بضرورة تقييم نتائجها المحتملة واتخاذ التدابير التي تساعد على تقليل الضرر وتحسين جودة التجربة الرقمية.
وتتمثل الغاية الأساسية في الانتقال من خوارزميات تُقاس كفاءتها بقدرتها على جذب الإنسان وإبقائه متفاعلًا، إلى خوارزميات تُقاس أيضًا بقدرتها على احترام اختياراته وحماية استقلاله النفسي والمعرفي، وتقديم بيئة رقمية تخدم الإنسان وتدعم نموه وتوازنه.
اضف تعليق