كشفت دراسة حديثة أجراها فريق من الباحثين ينتمون إلى جامعتي هونغ كونغ وتسينغهوا، أن التحيزات الخفية المدمجة في أنظمة الذكاء الاصطناعي قد تؤثر بشكل ملحوظ على القرارات التي يتخذها المستخدمون، وتدفعهم أحيانًا لاختيار خيارات أقل فائدة لهم دون أن يدركوا أنهم يتعرضون للتوجيه.
وشملت التجربة 233 مشاركًا، حيث اختبر الباحثون مدى تأثير توصيات الذكاء الاصطناعي في قرارات تتعلق بمواقف مالية وعاطفية. وفي بعض الحالات، صُممت هذه التوصيات لتوجيه المشاركين بصورة غير مباشرة نحو خيارات لا تتماشى مع مصالحهم الحقيقية، رغم أن النصائح بدت طبيعية ومحايدة في ظاهرها.
وأظهرت النتائج أن هذا الانحياز المحدود كان كافيًا لإحداث تغيير واضح في سلوك المشاركين. فوفقًا للسيناريو المستخدم في التجربة، ارتفع احتمال اتخاذ قرار غير مثالي بنسبة وصلت إلى 38%. ولم يتطلب هذا التأثير استخدام أساليب إقناع مباشرة أو ممارسة ضغوط واضحة على المشاركين، بل كان تعديل بسيط في صياغة التوصيات أو محتواها كافيًا لتوجيه اختياراتهم نحو مسار معين.
ومن أبرز النتائج التي توصل إليها الباحثون أن المشاركين استمروا في تقييم المساعدة التي قدمها الذكاء الاصطناعي بصورة إيجابية، حتى عندما أسهمت توصياته في دفعهم إلى اتخاذ قرارات أقل فائدة لهم. كما لم ينتبهوا بالضرورة إلى وجود تحيز خفي وراء تلك التوصيات.
وتسلط هذه النتائج الضوء على أحد التحديات المرتبطة بتزايد اعتماد الأفراد على أدوات الذكاء الاصطناعي للحصول على المشورة في مجالات متعددة، تشمل الشؤون المالية والعلاقات الشخصية. فالمستخدمون قد ينظرون إلى هذه الأنظمة باعتبارها مصادر موضوعية للمعلومات، بسبب أسلوبها الهادئ والمتسق في تقديم الإجابات.
لكن الدراسة تشير إلى أن الثقة في المساعدات الذكية لا تضمن بالضرورة حياد توصياتها، إذ يمكن لتوجيهات غير ملحوظة أن تؤثر في قرارات المستخدمين دون أن يدركوا ذلك، مما يستدعي حذرًا أكبر عند الاعتماد على هذه الأدوات في اتخاذ القرارات الحساسة.