بحسب مجموعة من الدراسات والبيانات التي نشرتها هيئة الأمم المتحدة للمرأة يوم الاثنين ، فإن أنظمة الذكاء الاصطناعي تعيد إنتاج الصور النمطية للجنسين، ويمكن أن تضخم مخاطر العنف الرقمي، وقد تؤثر بشكل غير متناسب على وظائف النساء.
قبل انعقاد الحوار العالمي للأمم المتحدة حول حوكمة الذكاء الاصطناعي وقمة الذكاء الاصطناعي من أجل الخير، المقرر عقدهما في يوليو في جنيف، جمعت المنظمة أدلة حول الفجوات بين الجنسين التي تتخلل تطوير واستخدام وتنظيم هذه التقنيات.
ومن بين الدراسات المذكورة تحليلٌ لـ 133 نظام ذكاء اصطناعي، كشف عن وجود تحيز جنسي في 44% منها. وفي 26% منها، جمع التحيز بين الجنس والعرق.
تميل نماذج اللغة الرئيسية، التي تستخدم بشكل متزايد لإنشاء النصوص والصور والحملات الإعلانية، إلى ربط النساء بالمنزل والأسرة والأطفال، بينما تربط الرجال بالأعمال التجارية والمناصب الإدارية والرواتب والتقدم الوظيفي.
بالإضافة إلى ذلك، فإن ما يقرب من واحد من كل خمسة ردود تم إنشاؤها بواسطة هذه النماذج عند إكمال الجمل التي بدأت بجنس الشخص أعادت إنتاج مواقف جنسية أو كراهية للنساء، بما في ذلك تصوير النساء كأشياء جنسية أو ملكية لأزواجهن.
بالنسبة لهيئة الأمم المتحدة للمرأة، لا يكمن الخطر في أن الذكاء الاصطناعي يخلق تحيزات من الصفر، بل في أنه يكرر ويضخم، بسرعة وعلى نطاق واسع، أوجه عدم المساواة الموجودة في البيانات التي تم تدريبه عليها.
قرارات تخص النساء، دون وجود النساء في الغرفة
تُدمج تقنيات الذكاء الاصطناعي التوليدي بسرعة في أعمال الشركات والمؤسسات الإعلامية ووكالات الإعلان. ففي المملكة المتحدة، تستخدم 88% من وكالات الإعلان والإعلام هذه التقنية بشكل أو بآخر، وفقًا لبيانات جمعتها هيئة الأمم المتحدة للمرأة.
تتزايد مشاركة هذه الأدوات في اتخاذ القرارات المتعلقة بالوجوه التي تظهر في الحملات الإعلانية، والقصص التي تُروى، وكيفية تمثيل الأشخاص. ومع ذلك، فإن 51% فقط من متخصصي التسويق يستخدمون الإشراف البشري لمراجعة المحتوى الإبداعي المُولّد بواسطة الذكاء الاصطناعي قبل نشره.
وينعكس غياب المنظور الجنساني أيضاً في السياسات العامة. فمن بين 138 دولة تم تحليلها، لم تذكر سوى 24 دولة النوع الاجتماعي في استراتيجياتها الوطنية للذكاء الاصطناعي، ولم تتضمن سوى 18 دولة أحكاماً جوهرية تركز على النوع الاجتماعي.
في الوقت نفسه، لا تمثل النساء سوى 30% من القوى العاملة العالمية المرتبطة بالذكاء الاصطناعي. هذا التمثيل الناقص يحد من مشاركتهن في القرارات المتعلقة بتصميم وتدريب ونشر وتنظيم الأنظمة التي ستؤثر على مليارات البشر.
العنف الرقمي يتفاقم بفعل الأدوات الجديدة
تواجه النساء والفتيات بالفعل مخاطر أكبر من التحرش والعنف عبر الإنترنت، وقد تؤدي أدوات الذكاء الاصطناعي الجديدة إلى مضاعفة أشكال الإساءة.
أفادت واحدة من كل أربع نساء تقريباً ممن شملهن الاستطلاع من المدافعات عن حقوق الإنسان والناشطات والصحفيات بتعرضهن للعنف الإلكتروني الذي تسهله تقنيات الذكاء الاصطناعي. كما أفادت 12% منهن بنشر صور شخصية لهن دون موافقتهن، بما في ذلك صور حميمة أو ذات محتوى جنسي صريح.
أفاد ستة بالمئة من المشاركين بتعرضهم لهجمات التزييف العميق ، وهي عبارة عن صور أو مقاطع فيديو مُعدّلة تُظهر وكأن شخصاً ما قال أو فعل شيئاً لم يحدث قط. كما تلقى أكثر من ربع المشاركين تحرشات جنسية غير مرغوب فيها عبر الرسائل الرقمية.
تشير هيئة الأمم المتحدة للمرأة إلى أن التزييف العميق هو أحد أكثر مظاهر الإساءة التي يسهلها الذكاء الاصطناعي ضد النساء والفتيات، من خلال تسهيل تلفيق محتوى حميمي مزيف، والمضايقات وحملات التشهير ضد الصحفيين والمدافعين عن حقوق الإنسان والشخصيات العامة.
أكثر المشاريع عرضًا
لن يؤثر التحول الاقتصادي الذي يقوده الذكاء الاصطناعي على الجميع بالتساوي. فالنساء العاملات خارج قطاع التكنولوجيا أكثر عرضةً بمرتين تقريباً من الرجال لشغل وظائف معرضة لخطر الأتمتة.
بحسب هيئة الأمم المتحدة للمرأة، تتفاقم هذه التفاوتات عندما تتقاطع مع عوامل أخرى كالعرق، والإعاقة، والوضع الاقتصادي، أو مكان الإقامة. وتواجه المجتمعات التي تعاني أصلاً من نقص التمثيل في وسائل الإعلام، وسوق العمل، ومواقع صنع القرار، خطر التخلف أكثر.
دعت المنظمة إلى ضرورة وجود حقوق وخبرات ومعارف النساء والفتيات طوال دورة حياة الذكاء الاصطناعي بأكملها، بدءًا من تصميم وتطوير الأنظمة وحتى نشرها وإدارتها.
يمكن استخدام الذكاء الاصطناعي أيضاً لكشف الصور النمطية، وتوسيع نطاق التمثيل، وتحسين إمكانية الوصول، وفقاً لما ذكرته الوكالة. لكن تأثيره سيتوقف على قرارات الحكومات والشركات والمطورين، وعلى مدى إدماجهم لأصوات وتجارب النساء والفتيات من خلفيات متنوعة.