एआई फीचर के बाद फेसबुक ने गलती से अश्वेत पुरुषों को ‘प्राइमेट’ करार दिया
फेशियल रिकग्निशन सॉफ्टवेयर - फेसबुक और अन्य द्वारा उपयोग किया जाता है - नागरिक अधिकार अधिवक्ताओं द्वारा विस्फोट किया गया है जो सटीकता के साथ समस्याओं को इंगित करते हैं, विशेष रूप से यह उन लोगों के लिए आता है जो गोरे नहीं हैं।
एक आर्टिफिशियल इंटेलिजेंस (एआई) टूल ने सोशल मीडिया दिग्गज फेसबुक को एक वीडियो में “प्राइमेट्स” के रूप में दिखाए जाने वाले अश्वेत पुरुषों की पहचान करने के बाद मुश्किल में डाल दिया है। फेसबुक ने माफी मांगी है और टूल को अक्षम कर दिया है, और एक जांच भी शुरू की है।
यह मुद्दा तब सामने आया जब कुछ उपयोगकर्ता अश्वेत पुरुषों की विशेषता वाले एक ब्रिटिश टैब्लॉयड का वीडियो देख रहे थे। इन उपयोगकर्ताओं को जल्द ही फेसबुक से एक स्वचालित संकेत मिला कि क्या वे “प्राइमेट्स के बारे में वीडियो देखना जारी रखना चाहते हैं”।
वीडियो दिनांक 27 जून, 2020 डेली मेल का था। इसमें अश्वेत पुरुषों और गोरे पुलिस अधिकारियों के बीच तकरार को दिखाया गया था। जबकि मनुष्य प्राइमेट परिवार की कई प्रजातियों में से हैं, वीडियो का बंदरों, चिंपैंजी या गोरिल्ला से कोई लेना-देना नहीं था।
फेसबुक के एक प्रवक्ता ने इसे “स्पष्ट रूप से अस्वीकार्य त्रुटि” कहा और कहा कि इसमें शामिल अनुशंसा सॉफ़्टवेयर को ऑफ़लाइन लिया गया था।
समाचार एजेंसी एएफपी द्वारा भेजे गए एक प्रश्न के जवाब में फेसबुक ने कहा, “हम उन सभी से माफी मांगते हैं जिन्होंने इन आपत्तिजनक सिफारिशों को देखा होगा।”