هوش مصنوعی زیر ذره‌بین؛ نظارت پنهان بر مهاجران در بریتانیا

گزارشی از گروه حقوق دیجیتال Open Rights Group هشدار می‌دهد که وزارت کشور بریتانیا در بخش‌های مختلف امور مهاجرتی از هوش مصنوعی و ابزارهای نظارتی استفاده می‌کند؛ از بررسی اطلاعات تلفن همراه و تشخیص چهره گرفته تا خلاصه‌سازی مصاحبه‌های پناه‌جویان و اولویت‌بندی پرونده‌ها. نویسندگان گزارش می‌گویند نبود شفافیت کافی می‌تواند خطر خطا، تبعیض و نقض حقوق افراد را افزایش دهد. در مقابل، دولت بریتانیا تأکید دارد که هوش مصنوعی جایگزین تصمیم‌گیرندگان انسانی نیست.

هوش مصنوعی وارد فرایند مهاجرت شده است

هوش مصنوعی دیگر فقط ابزاری برای ساخت تصویر، پاسخ‌دادن به سؤال‌ها یا تولید محتوا نیست. دولت‌ها نیز به‌تدریج از این فناوری برای بررسی اطلاعات، مدیریت پرونده‌ها و کمک به تصمیم‌گیری‌های اداری استفاده می‌کنند. بااین‌حال، استفاده از این ابزارها در موضوعات حساسی مانند مهاجرت می‌تواند پرسش‌های مهمی درباره حریم خصوصی و حقوق افراد ایجاد کند. گزارشی که گروه حقوق دیجیتال Open Rights Group تهیه کرده و روزنامه گاردین آن را پوشش داده است، به استفاده از سامانه‌های هوش مصنوعی در بخش‌های مختلف وزارت کشور بریتانیا می‌پردازد. بر اساس این گزارش، برخی از این ابزارها در بررسی پرونده‌های مهاجرتی، ارزیابی اطلاعات ارائه‌شده از سوی پناه‌جویان و نظارت بر مرزها به کار گرفته می‌شوند.

از بررسی تلفن همراه تا تشخیص چهره

یکی از بخش‌های بحث‌برانگیز گزارش، استفاده از فناوری برای بررسی اطلاعات و شناسایی افراد است. بر اساس یافته‌های مطرح‌شده، ابزارهای دیجیتال در حوزه‌هایی مانند بررسی داده‌های تلفن همراه افراد تازه‌وارد، تشخیص چهره در مرزها و شناسایی مواردی که نیازمند بررسی بیشتر هستند، مورد استفاده قرار می‌گیرند. همچنین، گزارش به استفاده از ابزارهای خودکار برای تخمین سن برخی از پناه‌جویان و شناسایی ازدواج‌هایی که ممکن است نیازمند بررسی بیشتر باشند اشاره می‌کند. این کاربردها نشان می‌دهند که فناوری می‌تواند فراتر از یک ابزار ساده اداری عمل کند و بر چگونگی بررسی پرونده‌ها و توجه نهادهای دولتی به افراد تأثیر بگذارد. البته وجود یک سامانه هوشمند به‌تنهایی به معنای اشتباه یا ناعادلانه بودن نتیجه آن نیست؛ مسئله اصلی این است که عملکرد ابزار چگونه ارزیابی می‌شود و چه سازوکاری برای بررسی خطاهای احتمالی وجود دارد.

وقتی هوش مصنوعی مصاحبه‌های پناه‌جویان را خلاصه می‌کند

یکی دیگر از کاربردهای مطرح‌شده، استفاده از هوش مصنوعی برای خلاصه‌سازی مصاحبه‌های پناه‌جویان است. این مصاحبه‌ها ممکن است شامل جزئیات شخصی و اطلاعات مهمی درباره دلایل درخواست پناهندگی افراد باشند. سامانه‌های خلاصه‌ساز می‌توانند به کارکنان کمک کنند حجم زیادی از اطلاعات را سریع‌تر مرور کنند؛ اما اگر ابزار بخشی از صحبت‌ها را حذف کند، نکته‌ای را نادرست بازگو کند یا به اطلاعاتی وزن بیشتری بدهد، ممکن است تصویری ناقص از پرونده ایجاد شود. در چنین شرایطی، صرفه‌جویی در زمان تنها معیار سنجش موفقیت فناوری نیست. دقت اطلاعات، امکان بررسی نتیجه و مسئولیت‌پذیری افراد تصمیم‌گیرنده نیز اهمیت زیادی دارد. به همین دلیل، استفاده از هوش مصنوعی در دولت باید با نظارت و ارزیابی متناسب با حساسیت هر کاربرد همراه باشد؛ به‌ویژه زمانی که خروجی سامانه می‌تواند بر زندگی و آینده افراد تأثیر بگذارد.

نگرانی درباره تبعیض و تصمیم‌های اشتباه

یکی از نگرانی‌های اصلی Open Rights Group این است که سامانه‌های هوش مصنوعی ممکن است خطاها یا سوگیری‌های موجود در داده‌ها را بازتولید کنند. برای مثال، اگر یک ابزار بر اساس داده‌های ناقص یا الگوهای نامناسب آموزش دیده باشد، احتمال دارد در ارزیابی افراد یا پیشنهاد پرونده‌های نیازمند بررسی، عملکرد یکسانی نداشته باشد. این خطر در حوزه مهاجرت حساس‌تر است؛ زیرا نتیجه بررسی پرونده می‌تواند بر وضعیت اقامت، امکان ماندن در کشور یا دسترسی فرد به حمایت‌های قانونی تأثیر بگذارد. بااین‌حال، باید میان هشدار کارشناسان و اثبات وقوع تبعیض در یک پرونده مشخص تفاوت گذاشت. گزارش درباره خطرها و کمبودهای نظارتی هشدار می‌دهد، اما برای ارزیابی هر مورد باید شواهد و عملکرد همان سامانه به‌طور دقیق بررسی شود.

چرا شفافیت در استفاده از هوش مصنوعی اهمیت دارد

وقتی یک نهاد دولتی از سامانه خودکار برای بررسی اطلاعات یا کمک به تصمیم‌گیری استفاده می‌کند، مردم باید تا حد امکان بدانند این فناوری در چه زمینه‌ای به کار می‌رود، چه محدودیت‌هایی دارد و چه کسی مسئول نتیجه نهایی است. محدودبودن اطلاعات عمومی درباره چنین ابزارهایی می‌تواند بررسی مستقل عملکرد آن‌ها را دشوار کند. همچنین، اگر فردی متوجه اشتباه در اطلاعات ثبت‌شده یا خلاصه تهیه‌شده از پرونده خود شود، باید مسیر مشخصی برای درخواست اصلاح و بررسی انسانی وجود داشته باشد. موضوع نظارت دیجیتال فقط به مهاجرت محدود نیست. هرچه استفاده از فناوری در خدمات عمومی گسترده‌تر شود، پرسش‌هایی درباره دسترسی به اطلاعات، حفظ حریم خصوصی، دقت سامانه‌ها و امکان اعتراض به تصمیم‌ها اهمیت بیشتری پیدا می‌کند.

واکنش دولت بریتانیا 

وزارت کشور بریتانیا اعلام کرده است که هوش مصنوعی برای کمک به کارکنان استفاده می‌شود و جایگزین تصمیم‌گیرندگان انسانی نیست. به گفته این وزارتخانه، تصمیم‌های مربوط به درخواست پناهندگی را کارکنان آموزش‌دیده اتخاذ می‌کنند و ابزارهای هوش مصنوعی به مرور سوابق مصاحبه‌ها و اطلاعات سیاستی کمک می‌کنند. دولت همچنین می‌گوید عملکرد این ابزارها را بررسی می‌کند و فرایندهای کنترل کیفیت برای آن‌ها در نظر گرفته شده است. در مقابل، Open Rights Group خواستار شفافیت بیشتر، نظارت مستقل و تقویت مقررات مربوط به کاربردهای پرخطر هوش مصنوعی شده است. اختلاف اصلی بر سر این است که آیا سازوکارهای فعلی برای اطمینان از دقت و پاسخ‌گویی این سامانه‌ها کافی هستند یا به کنترل‌های جدی‌تری نیاز است.

آیا این موضوع فقط به مهاجران مربوط می‌شود؟

اگرچه گزارش بر عملکرد وزارت کشور بریتانیا تمرکز دارد، پرسش‌های مطرح‌شده در آن می‌تواند به سایر خدمات عمومی نیز مربوط باشد. از ارزیابی درخواست‌های اداری گرفته تا مدیریت اطلاعات شهروندان، استفاده از ابزارهای خودکار زمانی قابل اعتمادتر خواهد بود که نحوه عملکرد آن‌ها روشن باشد و امکان رسیدگی به خطاها وجود داشته باشد. فناوری می‌تواند سرعت انجام کارها را افزایش دهد، اما سرعت بیشتر لزوماً به معنای تصمیم بهتر نیست. در فرایندهایی که با حقوق و آینده افراد سروکار دارند، دقت، شفافیت و نظارت انسانی باید در کنار بهره‌وری مورد توجه قرار گیرند.

جمع‌بندی

گزارش جدید درباره استفاده وزارت کشور بریتانیا از هوش مصنوعی نشان می‌دهد که گسترش این فناوری در نهادهای دولتی، علاوه بر فرصت‌هایی مانند مدیریت سریع‌تر اطلاعات، پرسش‌های مهمی درباره حریم خصوصی، تبعیض احتمالی و پاسخ‌گویی ایجاد می‌کند. دولت بریتانیا تأکید دارد که تصمیم‌های نهایی را انسان‌ها می‌گیرند؛ اما گروه‌های حقوق دیجیتال معتقدند برای اطمینان از عملکرد درست این ابزارها، شفافیت و نظارت بیشتری لازم است. مسئله اصلی این نیست که آیا دولت‌ها باید از فناوری استفاده کنند یا نه؛ بلکه این است که چگونه می‌توان از مزایای هوش مصنوعی بهره برد، بدون آنکه دقت، حقوق افراد و امکان اعتراض به تصمیم‌های اشتباه نادیده گرفته شود.

برای مطالعه مقالات بیشتر به سایت خانه متاورس ایران سر بزنید.