فردی در آمریکا به خاطر دستگیر شدن به دلیل تشخیص اشتباه چهره از پلیس شکایت کرد

مردی که به اشتباه به سرقت مغازه متهم شده بود، به سرعت از پلیس دیترویت شکایت کرده است که وی را بر اساس یک تشخیص چهره نادرست، که به صورت خودکار و بر اساس هوش مصنوعی عمل می‌کند، دستگیر کرد. اتحادیه آزادی‌های مدنی آمریکا به نمایندگی از رابرت ویلیامز ار پلیس این ایالت شکایت کرد. وی در حال حاضر اولین شخص آمریکایی است که به علت شناسایی چهره به طور نادرست دستگیر شد.

عملکرد سیستم تشخیص چهره در تشخیص مجرمان و کمک به پلیس به اندازه کافی قدرتمند و دقیق نیست

پس از بررسی تصاویر امنیتی حادثه سرقت مغازه، اداره پلیس دیترویت رابرت ویلیامز را در سال ۲۰۱۹ دستگیر کرد، که این موضوع تشخیص اشتباه سیستم تشخیص چهره را نشان می‌دهد. یک نکته نیز از اهمیت ویژه‌ای برخوردار است که کارآگاه پلیس ایالت دیترویت از فناوری تشخیص چهره در تصاویر‌گرانول موجود در فیلم استفاده می‌کند و سیستم بر اساس عکس گواهینامه راننده، ویلیامز را به عنوان یک تطابق بالقوه علامت‌گذاری می‌کند.

با این حال، همانطور که در دادخواست اشاره شد، تشخیص چهره به اشتباه رابرت ویلیامز را به عنوان مجرم شناسایی کرد. این نوع سیستم‌ها در موارد زیادی عملکرد ضعیفی دارند، به خصوص برای سوژه‌هایی که دارای عکس افراد سیاه پوست و تصاویر بی‌کیفیت هستند که در واقع این پرونده نیز یکی از همین نمونه‌ها است.

مطالب مرتبط:

• بر خلاف آمازون، مایکروسافت هرگز فناوری تشخیص چهره را به نیروهای پلیس نمی‌فروشد
• پلیس به شکلی نادرست از سیستم تشخیص چهره استفاده می‌کند
• استفاده از نرم افزار های تشخیص چهره در مینیاپولیس ممنوع شد

پس از آنکه پلیس از سیستم تشخیص چهره استفاده کرد، این سیستم لیستی از عکس‌ها را تهیه کرد که به طور قطع شامل عکس ویلیامز نیز بود و پلیس آن را به یک مأمور امنیتی نشان داد که در واقع اصلاً شاهد حادثه سرقت مغازه نبوده است و هنگامی که نگهبان به طور کلی و با شک و تردید او را از میان عکس‌ها انتخاب می‌کند. حکم بازداشت را صادر کرد.

حداقل سه مرد سیاه پوست پس از تشخیص اشتباه چهره به نادرست توسط پلیس دستگیر شده اند

ویلیامز – که در حین حادثه از محل کار خود به خانه رانندگی می‌کرد – بر خلاف انتظار، برای حدود ۳۰ ساعت بعد را در بازداشتگاه به سر برد. بعداً ای سی ال یو از طرف وی شکایتی رسمی را تنظیم کرد و پلیس خاطی از وی عذرخواهی کرد و گفت که وی می‌تواند پرونده تشکیل شده را برای همیشه از سوابق خود حذف کند.

ای سی ال یو ادعا کرده است که پلیس دیترویت از شناسایی چهره در شرایطی استفاده کرده است که به معنای واقعی کلمه میدانستند نتایج غیرقابل اطمینان به دست خواهد آمد، اما این موضوع را در حین دستگیری ذکر نکرده است. پلیس دیترویت به طور قطع و با کمال صداقت نتوانست کمبود‌های سیستم را به دادگاه ذکر کند، از جمله وجود یک تصویر تار و نامفهوم و تعصب نژادی شناخته شده از سیستم‌های شناسایی و تشخیص چهره.

پلیس فرد سیاه پوست دیگری را به طور مشابه به اشتباه دستگیر کرده بود

خود این وزارتخانه به طور خاص تأیید کرده است که دستگیری ویلیامز بر اساس کار تحقیقی غیر حرفه‌ای و ناآشکار و انواع دیگری از اشتباهات انجام شده است. اما این شکایت اساساً این حادثه را بخشی از یک روند نادرست و نژادپرستانه می‌داند که به یک دستگیری اشتباه در آینده منجر می‌شود که یک سیاه پوست به خاطر فناوری تشخیص چهره و شناسایی صورت به اشتباه و نادرست دستگیر شده است، که می‌تواند باعث بروز اتفاقات بدتری نسبت به اتفاق این پرونده شود.

به عنوان مثال، مایکل الیور، در سال گذشته به شکل رسمی و کاملاً جدی از این بخش شکایت کرد. در خارج از دیترویت نیز حداقل یک مرد سیاه پوست دیگر به طور رسمی برای دستگیری نادرست بر اساس تشخیص چهره شکایت کرده است.

هزاران آژانس اجرای قانون در کشور آمریکا و سراسر دنیا از فن‌آوری شناسایی چهره برای شناسایی مظنونان استفاده کرده اند. اما این واکنش شدید باعث شده است تا چندین شهر این عمل یعنی استفاده از هوش مصنوعی و سیستم تشخیص چهره را ممنوع اعلام کنند. این در حالی است که مایکروسافت، آی بی ام و آمازون متعهد شده اند که در چنین مواردی، سیستم‌های خود را به طور جدی از دست پلیس برای بررسی دوربین‌های مداربسته دور نگه دارند.

منبع: The Verge