نهاد ناظر حفاظت از دادههای بریتانیا، سازمان اطلاعات کمشنر (ICO)، دولت را به خاطر عدم افشای سوگیریهای قابل توجه در فناوری تشخیص چهره پلیس مورد انتقاد قرار داد. این انتقادات در حالی مطرح میشود که تعاملات مستمری بین نهادها وجود داشته است.
امیلی کینی، معاون کمشنر ICO، اعلام کرد که سازمان وی تنها هفته گذشته از سوگیریهای تاریخی در الگوریتمی که پلیس بریتانیا برای شناسایی چهره استفاده میکند مطلع شده است. این فناوری بخشی از پایگاه داده ملی پلیس (PND) محسوب میشود.
کینی افزود: «متاسفیم که پیش از این نسبت به این موضوع آگاهی نداشتیم، با وجود تعاملات منظم با دولت و نهادهای پلیسی بهعنوان بخشی از تلاشهای ما برای پاسخگویی در مورد نحوه استفاده از دادهها. در حالیکه معتقدیم فناوری میتواند نقش ارزشمندی ایفا کند، اعتماد عمومی به کاربرد آن بسیار مهم است و هرگونه تصور از سوگیری و تبعیض میتواند بیاعتمادی را تشدید کند.»
ICO خواستار شفافیت فوری از سوی دولت شده تا وضعیت ارزیابی شود و گامهای بعدی مشخص گردند. این درخواست در پی انتشار نتایج آزمایشی منتشر شد که آزمایشگاه ملی فیزیک (NPL) با دستور دولت انجام داده است.
جزئیات تستها و سوگیریهای آشکار
این آزمایشها دو الگوریتم را بررسی کرد: FaceVACS-DBScan ID v5.5 که در حال حاضر توسط PND استفاده میشود، و MBSS FR متعلق به شرکت ایدمی که برای استقرار آینده برنامهریزی شده بود.
در آزمایشهای مربوط به الگوریتم FaceVACS-DBScan ID v5.5، در صورتی که هیچ محدودیتی اعمال نشود، دقت آن در تطبیق تصویر مظنون با فردی در PND ۹۹.۹ درصد بوده است. اما با اعمال محدودیتهایی برای جلوگیری از نتایج مثبت کاذب و افزایش دقت، این میزان به ۹۱.۹ درصد کاهش یافت.
جالب اینکه در تنظیمات سختگیرانه، الگوریتم عملکرد بهتری در شناسایی افراد آسیایی (۹۸ درصد) نسبت به سفیدپوستان (۹۱ درصد) و سیاهپوستان (۸۷ درصد) داشت. با افت سطوح شباهت، نرخ نتایج مثبت کاذب افزایش یافت که این امر بهطور نامتناسبی بر برخی از گروههای جمعیتی تاثیر گذاشت.
بهویژه، زنان سیاهپوست بیشتر در معرض تطبیق اشتباه با تصویر مرجع قرار داشتند (نرخ ۹.۹ درصد) در حالی که مردان سیاهپوست تنها ۰.۴ درصد این تجربه را داشتند. نرخ نتایج مثبت کاذب برای سفیدپوستان (۰.۰۴ درصد) به طور قابل توجهی کمتر از آسیاییها (۴ درصد) و سیاهپوستان (۵.۵ درصد) بود.
دولت همچنین خواستار بررسی استفاده پلیس از فناوری تشخیص چهره توسط بازرس کل پلیس با همکاری تنظیمکننده علوم قانونی شده است.
واکنش دولت و برنامههای آتی
یک سخنگوی دفتر امور داخله گفت: «ما نتایج این گزارش را جدی میگیریم.» همچنین افزودند که یک الگوریتم جدید به طور مستقل آزمایش شده و فاقد سوگیری آماری است. «این الگوریتم در اوایل سال آینده آزمایش خواهد شد و مشمول ارزیابی قرار خواهد گرفت.»
دفتر امور داخله همزمان با اعلام این خبر، دوره مشاوره برای گسترش استفاده پلیس از فناوری تشخیص چهره را آغاز کرده است، اقدامی که علیرغم انتقادات فراوان در مورد انواع مختلف کاربرد این فناوری صورت گرفته است.
دولت بریتانیا سالانه ده میلیون پوند برای فناوری تشخیص چهره هزینه میکند و همواره بر کارآمدی آن تاکید داشته است.
📌 توجه: این مطلب از منابع بینالمللی ترجمه و بازنویسی شده است.