اعتبر كل من Google و MICROSOFT “EMOTION AI” محفوفًا بالمخاطر ولكن يقتصر على الاستخدام

اخلاء مسؤولية | DISCLAIMER

تدعي Google أن تقنية اكتشاف المشاعر الخاصة بها متاحة بسهولة ، ومع ذلك ، تدعي Microsoft إمكانية الوصول بشكل أفضل
كجزء من إطار عمل جديد للاستخدام والتطبيق الأخلاقي للذكاء الاصطناعي ، ستتوقف Microsoft عن بيع ما يسمى ببرنامج الذكاء الاصطناعي للكشف عن المشاعر (AI) وتقييد استخدام قدرات التعرف على الوجوه. أصبحت أحدث شركة تقنية كبرى تتخلى عن الأساليب الخلافية لمكافحة إمكانية التحيز والتمييز في الذكاء الاصطناعي.

قبل بضعة أشهر ، قالت Microsoft إنها ستتوقف عن توفير تقنية الذكاء الاصطناعي المستندة إلى السحابة والتي تستنتج مشاعر الناس متاحة للجميع. على الرغم من اعتراف الشركة بأن تقنية التعرف على المشاعر تنطوي على “مخاطر” ، فقد اتضح أن التكنولوجيا ستظل متاحة في تطبيق المستخدم ضعيف البصر. في الواقع ، على الرغم من الشكوك المتزايدة بشأن إنشاء واستخدام الكشف عن المشاعر المثيرة للجدل في البرامج الشائعة ، لا يزال كل من Google و Microsoft يشتملان على إمكانات تستند إلى الذكاء الاصطناعي في عروضهما.

قناة Seeing AI person ، وفقًا لساقب شيخ ، مدير هندسة البرمجيات وقائد مشروع رؤية الذكاء الاصطناعي في Microsoft الذي عمل على تطوير التطبيق ، “تتيح لك اكتشاف الأفراد والحصول على وصف لهم ، بما في ذلك تقدير أعمارهم وكذلك مشاعرهم “. عندما استخدم ميزة Seeing AI لالتقاط صورة لأحد معارفه ، حدده الصوت الآلي للتطبيق على أنه “رجل يبلغ من العمر 36 عامًا يرتدي نظارات ، ويبدو مبتهجًا”. قال شيخ: “هذا مثير للاهتمام للغاية ، حيث يمكنك على الفور تحديد تعبيرات وجه شخص ما”.

قالت شركة Microsoft في 21 حزيران (يونيو) إنها “ستتقاعد” من برنامج التعرف على الوجه ، الذي يحاول تحديد مشاعر الشخص وجنسه وعمره وسماته الأخرى. سلطت الشركة الضوء على قضايا الخصوصية ، “عدم وجود اتفاق على تعريف” العواطف “، و” عدم القدرة على تعميم الارتباط بين تعبيرات الوجه والحالة العاطفية عبر حالات الاستخدام ، والمناطق الجغرافية ، والأشخاص “.

لكن بالنسبة إلى رؤية الذكاء الاصطناعي ، كانت أهداف الوصول أكثر أهمية من تلك المشاكل. قالت Microsoft في بيان أرسلته إلى Protocol أنها عملت مع الأشخاص من المكفوفين وضعاف البصر الذين “قدموا مدخلات حاسمة بأن ميزة اكتشاف المشاعر ضرورية لهم ، لتقليل فجوة المساواة بين الخبرة والأشخاص المبصرين.” رفضت الشركة طلبًا.

برنامج التعرف على عواطف الأسهم من Google
كافحت Google أيضًا مع مقدار الذكاء الاصطناعي القائم على رؤية الكمبيوتر لاستخدامه لتحديد ما إذا كان من المحتمل أن يعرض الشخص حالة مزاجية معينة أو مجموعة من ميزات الوجه. وفقًا لوصف الشركة ، تحتوي واجهة Cloud Vision API الخاصة بالشركة على “نماذج Vision API مدربة مسبقًا لاكتشاف المشاعر وقراءة اللغة والمزيد.” وفقًا للخوارزمية ، يكون الوجه في الصورة إما “غير معروف” أو “غير محتمل للغاية” “من المحتمل جدًا” أن يُظهر الغضب أو السعادة أو الحزن أو المفاجأة.

بالإضافة إلى ذلك ، تحتوي أداة ML Kit من Google لتطبيقات الجوال على مكون يتعرف على “معالم” الوجه ويصنف ميزات الوجه لتحديد ما إذا كان شخص ما يبتسم أو يفتح عينيه.

شكك متحدث باسم Google في فكرة أن جهاز الكمبيوتر الخاص بهم “يكتشف المشاعر” ، مشيرًا إلى أن Vision API الخاص به يتنبأ بإدراك المشاعر المعروضة على الوجه بدلاً من اكتشاف المشاعر المعلنة ، على الرغم من ذكر ذلك أحيانًا في أدبياتها. لقد جذب صدق الشعور بالذكاء الاصطناعي الكثير من الاهتمام ويثير مخاوف أخلاقية في كثير من الأحيان. دعت منظمات المناصرة مثل معهد بروكينغز ومعهد الذكاء الاصطناعي الآن إلى تقييد التكنولوجيا في حالات استخدام معينة.

رفضت جوجل إجراء مقابلة لهذه القصة ، نقلاً عن تقرير لرويترز من عام 2021 ذكر أن الشركة قررت عدم إضافة إمكانيات جديدة إلى أداة Cloud Vision API الخاصة بها للكشف عن احتمالية وجود مشاعر إضافية غير الغضب والفرح والحزن والمفاجأة بعد. إجراء مراجعة داخلية للأخلاقيات. وجدت الدراسة أن استنتاج المشاعر قد يكون غير حساس لأنه ، من بين أسباب أخرى ، ترتبط إشارات الوجه بالحالات المزاجية بشكل مختلف عبر الثقافات. كشفت ميتشل لـ Protocol أنه أثناء عملها في Google ، كانت عضوًا في الفريق الذي عمل على إقناع الشركة بعدم إضافة المزيد من الحالات العاطفية إلى قائمة الأربعة التي كانت مدعومة بالفعل بواسطة Cloud Vision API.

فقد ميتشل ، القائد المشارك لفريق الذكاء الاصطناعي الأخلاقي في Google ، وظيفته في فبراير 2021 نتيجة تحقيق داخلي بشأن انتهاكات بروتوكول الأمان عند نقل بيانات العمل. جاءت استقالتها بعد إنهاء بارز آخر لتيمنيت جبرو ، القائدة المشاركة لفريق أخلاقيات الذكاء الاصطناعي. الصراع حول دراسة تساءلت عن العواقب الاجتماعية والاقتصادية والبيئية لنماذج التعلم الآلي للغات الكبيرة هو أحد أسباب إقالة جيبرو.

انخفاض إمكانية الوصول
تم تطوير Emotion AI بواسطة الباحثين. تناولت بعض الأوراق البحثية المعتمدة في المؤتمر الدولي لرؤية الكمبيوتر والتعرف على الأنماط في نيو أورليانز في يونيو العمل على تحديد معالم الوجه والتعرف على مشاعر الوجه ، على سبيل المثال.

قال نيريت بيسانو ، كبير مسؤولي علم النفس في Cognovi Labs ، “نحن فقط نكسر السطح ، وفي كل مكان ألتفت إليه ، هناك المزيد والمزيد من التطور [للذكاء الاصطناعي العاطفي].” توفر Cognovi Labs تقنية الذكاء الاصطناعي للعاطفة للمعلنين ومصنعي الأدوية الذين يستخدمونها لقياس ردود فعل المستهلكين على الرسائل التسويقية وفهم شعور الناس تجاه أدوية معينة. قالت Microsoft أنه من خلال الحفاظ على التعرف على المشاعر في رؤية الذكاء الاصطناعي ، فإنها ستعزز هدف الوصول الخاص بها. في منشور مدونة نُشر الشهر الماضي ، صرحت سارة بيرد ، مديرة منتجات المجموعة الرئيسية في Azure AI التابع لشركة Microsoft ، أن الشركة “تظل ملتزمة بدعم التكنولوجيا للأشخاص ذوي الإعاقة” وأنها “ستستمر في استخدام هذه الإمكانات لدعم هذا الهدف من خلال دمجها في تطبيقات مثل رؤية الذكاء الاصطناعي “.

ينتقد Gebru ، خبير الرؤية الحاسوبية ، نظام الكشف عن المشاعر ، الذي يستخدم رؤية الكمبيوتر لتحديد بيانات الوجه. على الرغم من “وجود العديد من المواقف التي يتم فيها استخدام الوصول كسبب” لاكتشاف المشاعر ، مثل زيادة إمكانية الوصول لمن يعانون من ضعف البصر ، قالت إن البروتوكول يمكن أن يكون مفيدًا “طوال الوقت” اعتمادًا على الموقف.

المصدر من هنا