استفاده پلیس تورنتو از سیستم تشخیص چهره برنامه Clearview AI در 84 مورد از تحقیقات خود

پلیس تورنتو به مدت سه ماه و نیم از برنامه Clearview AI برای شناسایی مظنونین، قربانیان و شهود در 84 پرونده جنایی استفاده کرد؛ در این مدت، افسران پلیس از این تکنولوژی بحث برانگیز استفاده می‌کردند تا اینکه رییس پلیس متوجه این مسئله شد و دستور توقف استفاده از آن را داد. این افشاگری‌ها که در یکی از اسناد داخلی اداره پلیس بود، اخیرا از طریق درخواست دسترسی به اطلاعات، به دست CBC News رسیده است.

در بازه زمانی بین اکتبر 2019 و اوایل فوریه 2020، افسران پلیس بیش از 2800 عکس در نسخه ایالات متحده این برنامه، جهت تطبیق و پیدا کردن موارد مورد نظر خود در میان سه میلیارد تصویری که از طریق جمع آوری اطلاعات از شبکه‌هایی از جمله فیسبوک و اینستاگرام در این برنامه وجود داشت، بارگذاری کرده بودند.

پلیس تورنتو، یک ماه پس از اینکه استفاده از این سرویس را انکار کرده بود، اعتراف کرد که بعضی از افسران در اواسط فوریه 2020 از سیستم Clearview AI استفاده می‌کنند. تاکنون هیچ‌گونه جزئیاتی در مورد چگونگی استفاده اداره پلیس از این برنامه تشخیص چهره منتشر نشده است. گزارشات داخلی نشانگر چگونگی آغاز استفاده کارآگاهان از نسخه آزمایشی رایگان برنامه Clearview AI برای پیشبرد تحقیقات جنایی، بدون مشورت با شخصی غیر از کمپانی و ناظران داخلی در مورد میزان دقت و قانونی بودن این کار است. برندا مک‌فیل، مدیر برنامه‌های حفظ حریم خصوصی، فناوری و نظارت در انجمن آزادی‌های مدنی کانادا (CCLA) در این زمینه گفت:

“هنگامی که در حال اجرای قانون هستید، نخستین تعهدتان پیروی کردن از آن است. واقعا به نظر نمی‌رسید که محتوا و نمونه‌های این برنامه امر مهمی باشند، زیرا صحبت‌های مربوط به استفاده از آن توسط خود نیروهای پلیس مطرح و منتقل می‌شد.”

بر اساس این گزارش، پس از تحقیقات New York Times در ژانویه 2020 که جزئیاتی را در مورد نحوه گردآوری اطلاعات پایگاه داده شرکت این نرم افزار و استفاده از آن در 600 آزانس مجری قانون در کانادا، ایالات متحده و جاهای دیگر منتشر کرد، کارآگاهانی که از این تکنولوژی استفاده می‌کردند، تنها با وکلای سلطنتی در زمینه سرویس Clearview AI ملاقات داشتند. از آن زمان تا کنون، چهار کمیسر (رئیس پلیس) حریم خصوصی تشخیص داده‌اند که برنامه Clearview AI با نظارت بیش از حد و جمع آوری عکس‌های کانادایی‌ها بدون اطلاع یا جلب رضایت از آن‌ها، قوانین حریم خصوصی کشور کانادا را زیر پا گذاشته است.

پرونده‌های جنایی ممکن است در خطر باشند

با توجه به این یافته‌ها، یکی از روئسای کمیته حقوق کیفری و فناوری انجمن وکلای جنایی می‌گوید که به دلیل عدم وجود دقت کافی در سرویس پلیس در برابر استفاده از برنامه Clearview AI، ممکن است پرونده‌هایی که در آن‌ها از این برنامه استفاده شده بود در معرض خطر قرار گیرند. اریک نوبائر، یکی از وکلای تورنتو در این زمینه گفت:

“در صورتی که پلیس به عنوان بخشی از تحقیقات خود قانون را نقض کرده باشد، این کار می‌تواند با توجه به چالش منشور -حقوق شهروندی-، تحقیقات صورت گرفته را زیر سوال ببرد. ما در کانادا این حق را داریم که از هرگونه تفتیش و توقیف بدون دلیل به دور باشیم- یکی از این پرونده‌ها ممکن است با اختلافاتی رو به رو شده و در دادگاه به نقض این قانون توسط پلیس اعتراض شود.”

نوبائر و مک‌فیل می‌گویند که تاکنون شاهد بررسی قانونی نمونه کانادایی استفاده از این برنامه در دادگاه نبوده‌اند. بر اساس این گزارش، دو پرونده در تورنتو وجود دارند که تمام یا بخشی از مدارک موجود در آن‌ها، بر اساس شواهدی است که افسران در سال 2020 به وسیله برنامه Clearview AI آن‌ها را بدست آورده‌اند. این گزارش نشان می‌دهد که از 84 تحقیق صورت گرفته که جستجوهای مربوط به آن‌ها به پایان رسیده، 25 مورد از تحقیقات با استفاده از برنامه Cleaview AI انجام شده و محققان محل چهار مظنون، 12 قربانی و دو شاهد را به وسیله آن شناسایی یا تایید کرده‌‌اند.

پلیس تورنتو برنامه‌ای برای استفاده از Clearview AI ندارد

کانی آزبورن، سخنگوی پلیس تورنتو در بیانیه‌ای به خبرگزاری CBC News گفت که پلیس تورنتو هیچ‌گونه برنامه‌ای برای استفاده مجدد از برنامه Clearview AI ندارد. او گفت:

“هیئت مدیره خدمات پلیس تورنتو هم‌اکنون با استفاده از مشاوره‌های عمومی، در حال ایجاد سیاستی برای استفاده از تکنولوژی هوش مصنوعی و یادگیری ماشینی است. همچنین این سرویس در حال ایجاد یک روند جدی برای پذیرش این فناوری جدید است تا به وسیله آن، از سازگاری امکانات و هرگونه پتانسیلی که این روش ایجاد می‌کند با قوانین مربوطه اطمینان حاصل کند.”

سیاستی که برای استفاده از تکنولوژی هوش مصنوعی مطرح شده، پنج دسته از کارهای مختلف را بر اساس میزان خطر آن‌ها تعریف کرده که از کم‌خطر تا پرخطر در نوسان است. استفاده “نرم‌افزار شناسایی چهره با منبع داده غیر قانونی که می‌تواند باعث نظار بیش‌از حد -و تجاوز به حریم خصوصی افراد شود-” به عنوان یکی از نمونه کارهای پرخطر، در این سیاست تعریف شده است؛ بنابراین انجام آن تحت سیاست پیشنهادی پلیس مجاز نیست.

آشنایی با Clearview AI در کنفرانس 2019

بر اساس گزارش بدست آمده از CBC News، پلیس تورنتو نخستین بار در کنفرانس شناسایی قربانیان که در اکتبر 2019 در هلند برگزار شد، با سرویس Clearview AI آشنا شد. ظرف چندین روز پس از بازگشت به تورنتو، سرویس پلیس یک نسخه آزمایشی رایگان از برنامه Clearview AI را دریافت کرد. تا اواخر ماه اکتبر، محققان سرویس‌های اطلاعاتی و مبارزه با سوءاستفاده از کودکان از این تکنولوژی در کار خود استفاده می‌کردند. اواسط دسامبر 2019، یک نمایشگاه داخلی از Clearview AI نیز برای تقریبا 100 محقق از واحدهای مبارزه با جنایات جنسی، قتل و جرایم مالی برگزار شد.

در گزارش دریافت شده، جزئیات مربوط به تمامی تحقیقات، به جز یک مورد، اصلاح و ویرایش شده است؛ آن یک مورد هم مربوط به پرونده‌ای بوده که در آن از Clearview AI استفاده شده است. این پرونده مربوط به سومین مورد قتل در سال 2020 بود که در روند تحقیقات از تکنولوژی هوش مصنوعی استفاده شد و اگرچه پرونده به طور کامل مشخص نیست، اما مظنون آن توسط این نرم افزار شناسایی و دستگیر شد.

شیب لغزنده!

در حالی که نمونه‌هایی از قبیل موارد ذکر شده در این زمینه، مزایای استفاده از تکنولوژی در زمینه حل و متوقف کردن جرایم را نشان می‌دهد، مک‌فیل از آن به عنوان “یک شیب لغزنده” یاد می‌کند. او به CBC News گفت که در زمینه سوء استفاده از کودکان در مواردی به استفاده از تکنولوژی‌های تهاجمی مانند خدمات ارائه شده توسط Clearview AI مشروعیت داده می‌شود؛ در این پرونده‌ها، حتی یک مورد هم آمار بسیار بالایی محسوب می‌گردد. مک‌فیل در این زمینه می‌گوید:

“صورت کودکان ما -در صورتی که آن‌ها را در شبکه‌های اجتماعی به اشتراک بگذاریم- در ردیفی قرار می‌گیرند که توسط پلیس کانادا، پلیس ایالات متحده و پلیس اروپا قابل جستجو است. این قابلیت به تناسب منافعی که برای عده کمی از کودکان دارد، چه خطراتی را برای همه کودکان به دنبال خواهد داشت؟”

مک‌فیل و نوبائر همچنین نگرانی‌هایی را نیز در مورد دقت برنامه Clearview AI مطرح کردند. نوبائر گفت که با توجه به خطاهایی که در این برنامه به دلیل شناسایی و تشخیص نادرست چهره افراد صورت گرفته است، ممکن است روند تحقیقات طولانی‌تر شده و یا اینکه با دستگیری و بازداشت‌های اشتباهی رو به رو شویم. با توجه به همین موضوع، وکیل تورنتو بر اهمیت مطالعه درباره تکنولوژی‌های نوظهور، پیش از شروع استفاده از آن‌ها در واقعیت تاکید می‌کند. او گفت:

“چنین ابزارهایی که توسط نیروهای انتظامی مورد استفاده قرار می‌گیرند، باید به صورت عمومی و قانونی مورد بررسی و نظارت قرار گیرند؛ به این معنا که در بحث زمان و نحوه استفاده از آن‌ها شفافیت کاملی ایجاد شود.”

نهادهای نظارت استانی دستور به حذف تصاویر دادند

نرم‌افزار Clearview AI در تابستان سال 2020 از بازار کشور کانادا حذف شد، اما همچنان نگرانی‌هایی در مورد تصاویر جمع‌آوری شده توسط این سرویس وجود دارد. در اوایل ماه جاری، نهادهای استانی نظارت حریم خصوصی در بریتیش کلمبیا، آلبرتا و کبک به سرویس Clearview AI دستور دادند تا تصاویر و اطلاعات بیومتریکی که بدون مجوز جمع آوری کرده را حذف کند. در این مورد، Clearview AI قبلا به رئیس پلیس حریم خصوصی بریتیش کلمبیا گفته بود که شناسایی این مسئله که تصاویر در کانادا گرفته شده‌اند یا اینکه فرد موجود در تصویر شهروند کانادا است یا خیر، کاری نیست که به راحتی امکان پذیر باشد.

رئیس پلیس اطلاعات و حریم خصوصی انتاریو نیز در این زمینه گفته است که اختیاراتی در این زمینه در حیطه شرکت‌های خصوصی مانند Clearview AI نداشته و نمی‌تواند مانند بریتیش کلمبیا، آلبرتا و کبک با آن‌ها برخورد کند؛ دلیل این مسئله نیز نداشتن قانون حفظ حریم شخصی مربوط به بخش خصوصی در انتاریو است. با این حال، رئیس پلیس حریم خصوصی انتاریو، در حال همکاری با هماکاران فدرال و استانی خود، برای توسعه راهنمایی در مورد استفاده از تکنولوژی تشخیص چهره توسط پلیس است که بنا به گفته آن‌ها در سال آینده منتشر خواهد شد.

منبع: cbc