هشدار اتاوا دربارهی استفاده از هوش مصنوعی در پروندههای مهاجرت به کانادا
اتاوا هشدار داده است که استفاده از هوش مصنوعی در بررسی پروندههای مهاجرت به کانادا با خطرات زیادی همراه است.
گزارشی از دانشگاه تورنتو مواردی را در رابطه با حقوق بشر، حفظ حریم خصوصی و تبعیض در خصوص احتمال استفاده از هوش مصنوعی توسط دولت فدرال کانادا مطرح میکند. بر اساس این گزارش، سپردن حق تصمیم گیری نهایی پروندهها به فرآیندهای خودکار که مستقیما زندگی مهاجران را تحت تاثیر قرار میدهند، نگران کننده خواهد بود. این فناوری میتواند فرضیات نادرستی را ارائه کند و در تایید یا رد یک پرونده خطا داشته باشد. نویسندگان این گزارش، خواستار نظارت، گزارش عمومی و شفافیت بیشتری از سوی ارگانهای دولتی در خصوص استفاده از هوش مصنوعی در امور مهاجرتی کانادا شدهاند. کارشناسان میگویند که بدون تضمینهای مناسب، اختلاف معیاری که ممکن است در الگوریتمها وجود داشته باشد، میتواند منجر به اشتباه در تعداد قابل توجهی از پروندههای مهاجرتی شود.
دو پروژهی آزمایشی با استفاده هوش مصنوعی برای مرتب سازی پروندههای ویزای توریستی از دو کشور چین و هند در حال انجام است. هدف از این برنامه کمک به تسریع در بررسی و پردازش پروندههای روتین است. مقامات ادارهی مهاجرت کانادا میگویند که هوش مصنوعی فقط به منظور مرتب سازی مورد استفاده قرار میگیرد و موارد پیچیده برای توجه بیشتر مشخص میشود تا تصمیم نهایی را افسران مهاجرت اتخاذ کنند.
آیا استفاده از هوش مصنوعی در مدیریت بهتر پروندههای مهاجرتی موثر است؟
هوش مصنوعی به منظور کمک به مقامات ادارهی مهاجرت در راستای بهبود روشهای مدیریت پروندههای جدید مورد استفاده قرار میگیرد.
سوال این است که آیا هوش مصنوعی میتواند در زمینههای دیگری از برنامههای مهاجرتی کانادا از جمله کمک به تایید یا رد پروندهها دخالتی داشته باشد یا خیر. آیا گرفتن یک تصمیم مبتنی بر تکنولوژی، برای رد یک پرونده میتواند چالشهای قانونی را تحمل کند؟
اکسپرس انتری و هوش مصنوعی
ارزیابی صلاحیت متقاضیان جزئیات پیچیدهی بسیاری دارد که نیاز به تجزیه و تحلیل دقیق و رویکردی ظریف از طرف فرد تصمیم گیرنده دارد.
هوش مصنوعی در سیستم اکسپرس انتری نقش مهمی در پیش نمایش متقاضیان تحت فاکتورهای واقع بینانه و پایهای ایفا میکند.
فراتر از اکسپرس انتری
دامنهی استفاده از هوش مصنوعی فراتر از سیستم اکسپرس انتری حتی مشکل سازتر هم میشود. بسیاری از استانها هنوز از سیستم کاغذی در برنامههای مهاجرتی خود همچون مشاغل مورد نیاز استان استفاده میکنند. حال این سوال پیش میآید که آیا هوش مصنوعی میتواند به ابزاری مطمئن برای پردازش این نوع از پروندهها تبدیل شود یا خیر.
علاوه بر این، پروندههای ویزای توریستی یا ویزیتوری کانادا که تعداد آنها سالانه به بیش از ۲۰ میلیون میرسد، بر اساس این مورد ارزیابی میشوند که آیا متقاضی قصد ترک کانادا پس از پایان اعتبار ویزای خود را خواهد داشت یا خیر. برای تصمیمگیری نهایی، عوامل مختلفی از تمکن مالی گرفته تا وابستگی به کشور مبدا در نظر گرفته میشوند.
بر اساس ارزیابی ریسک که هنوز نمیتوان با استفاده از هوش مصنوعی انجام داد، میزان افراد رد شده هم اکنون بیش از ۲۵ درصد است.
تعدیل شفافیت با استفاده از دستکاری سیستماتیک
جدا از دلایل اخلاقی، اتکای بیش از حد به هوش مصنوعی برای همگام بودن با سیاست مهاجرت در کانادا میتواند منجر به یک سیستم ناکارآمد با ارزیابیهای متناقض شود. حق تجدید نظر نیز در پروندههای مهاجرت بخشی جدایی ناپذیر از فرآیند موجود است.
بررسی قضایی سیستم تصمیم گیری مبتنی بر هوش مصنوعی منجر به برخوردی آشکار میان حفظ شفافیت و حفاظت از دادهها و الگوریتمهای مورد استفاده در تصمیم گیری خواهد شد. اگر الگوریتمها مخفی بمانند، کل سیستم مبهم و کشف دلایل تصمیم گیری غیر ممکن خواهد بود. این امر باعث خواهد شد تا تعیین درستی تصمیم اتخاذ شده نیز غیرممکن شود.
با این وجود، در صورت آشکار سازی الگوریتمها، مهاجرت به یک سیستم مرحله به مرحله تبدیل خواهد شد. دستکاری سیستم از انتخاب دورهی تحصیلی گرفته تا زمانبندی پروندهها، به یک امر عادی مبدل خواهند شد.