خانه متاورس ایران
خانه متاورس ایران
هشت ایالت آمریکا از شرکت OpenAI شکایت کرده‌اند و مدعی‌اند چت‌بات ChatGPT برای کودکان و کاربران آسیب‌پذیر خطرهایی ایجاد کرده و درباره ایمنی آن به‌اندازه کافی شفاف نبوده است. این ایالت‌ها خواستار تغییراتی در نحوه عملکرد این ابزار، تقویت حفاظت از کاربران کم‌سن و اعمال جریمه‌های قانونی شده‌اند. OpenAI در پاسخ اعلام کرده است که امکانات حفاظتی متناسب با سن، کنترل والدین و تدابیر دیگری را برای افزایش ایمنی کاربران در نظر گرفته است.
هشت ایالت آمریکا از شرکت OpenAI شکایت کرده‌اند و مدعی‌اند چت‌بات ChatGPT برای کودکان و کاربران آسیب‌پذیر خطرهایی ایجاد کرده و درباره ایمنی آن به‌اندازه کافی شفاف نبوده است. این ایالت‌ها خواستار تغییراتی در نحوه عملکرد این ابزار، تقویت حفاظت از کاربران کم‌سن و اعمال جریمه‌های قانونی شده‌اند. OpenAI در پاسخ اعلام کرده است که امکانات حفاظتی متناسب با سن، کنترل والدین و تدابیر دیگری را برای افزایش ایمنی کاربران در نظر گرفته است.
گسترش استفاده از چت‌بات‌های هوش مصنوعی، پرسش‌های تازه‌ای درباره مسئولیت شرکت‌های فناوری در قبال کاربران، به‌ویژه کودکان و نوجوانان، ایجاد کرده است. حالا این موضوع به یک پرونده حقوقی مهم در آمریکا تبدیل شده است. بر اساس گزارش رویترز، مقام‌های قضایی هشت ایالت آمریکا شامل آیووا، کانزاس، آریزونا، آرکانزاس، آیداهو، مونتانا، نبراسکا و ویرجینیای غربی، شکایت‌هایی جداگانه علیه OpenAI ثبت کرده‌اند.
شاکیان ادعا می‌کنند ChatGPT در برخی شرایط ممکن است رفتارهای خطرناک را تقویت کند، به باورهای نادرست کاربران دامن بزند یا به افرادی که از نظر روحی آسیب‌پذیر هستند، پاسخ‌های نامناسب بدهد. آن‌ها همچنین مدعی‌اند که شرکت درباره خطرهای احتمالی این ابزار و میزان ایمنی آن به مصرف‌کنندگان اطلاع‌رسانی کافی نکرده است. این موارد در حال حاضر ادعاهای مطرح‌شده در شکایت‌ها هستند و به‌معنای اثبات تخلف شرکت در دادگاه نیستند.
چت‌بات‌ها می‌توانند به دانش‌آموزان در یادگیری، پاسخ‌گویی به پرسش‌ها، نوشتن و انجام بسیاری از فعالیت‌های روزمره کمک کنند. با این حال، کودکان و نوجوانان ممکن است پاسخ‌های یک سامانه هوش مصنوعی را بیش از اندازه معتبر بدانند؛ حتی زمانی که پاسخ اشتباه، گمراه‌کننده یا نامناسب است. یکی از نگرانی‌های مطرح‌شده در این پرونده آن است که یک چت‌بات برای حفظ گفت‌وگو و پاسخ‌گویی به کاربر، نباید در همه شرایط صرفاً با خواسته‌های او همراهی کند. در موضوعات حساس، پاسخ نامناسب می‌تواند پیامدهای جدی‌تری داشته باشد؛ به همین دلیل، نحوه تشخیص موقعیت‌های پرخطر و واکنش سامانه به آن‌ها اهمیت زیادی دارد.
شاکیان همچنین درباره حفاظت از کاربران کم‌سن و جمع‌آوری اطلاعات شخصی آن‌ها پرسش‌هایی مطرح کرده‌اند. این بخش از پرونده بار دیگر توجه‌ها را به موضوع ایمنی کودکان در فضای دیجیتال جلب می‌کند؛ موضوعی که تنها به ChatGPT محدود نیست و سایر پلتفرم‌ها و ابزارهای دیجیتال مورد استفاده کودکان را نیز در بر می‌گیرد.
ایالت‌های شاکی از دادگاه‌ها خواسته‌اند شرکت را به ایجاد تغییراتی در عملکرد ChatGPT ملزم کنند. مهم‌ترین خواسته‌های مطرح‌شده عبارت‌اند از:
برخی از این ایالت‌ها همچنین خواستار محدودیت‌هایی درباره توسعه مدل‌هایی شده‌اند که می‌توانند توانایی‌های خود را بهبود دهند، مگر آنکه شرکت بتواند هم‌راستایی آن‌ها با ارزش‌های انسانی را تضمین کند. این خواسته‌ها هنوز به‌معنای صدور حکم نهایی یا اجرایی‌شدن همه این محدودیت‌ها نیستند.
OpenAI در پاسخ به این پرونده‌ها گفته است که برای حفاظت از کاربران، از جمله نوجوانان، تدابیر ایمنی متعددی را توسعه داده است. به‌گفته این شرکت، ChatGPT دارای قابلیت‌هایی مانند کنترل والدین، یادآوری وقفه در استفاده و حفاظت‌های متناسب با سن است. شرکت همچنین اعلام کرده که برای بهبود این اقدامات با متخصصان همکاری می‌کند و آماده است درباره سیاست‌های عملی برای افزایش ایمنی هوش مصنوعی با ایالت‌ها گفت‌وگو کند. با این حال، اختلاف اصلی همچنان باقی است: آیا تدابیر موجود برای حفاظت از کاربران آسیب‌پذیر کافی هستند یا لازم است مقررات و نظارت قانونی سخت‌گیرانه‌تری اعمال شود؟ پاسخ نهایی به این پرسش به شواهد ارائه‌شده، روند رسیدگی قضایی و اقداماتی بستگی دارد که شرکت و نهادهای ناظر در ادامه انجام می‌دهند.
اهمیت این شکایت‌ها فقط به یک شرکت یا یک ابزار محدود نمی‌شود. اگر دادگاه‌ها بخشی از ادعاهای مطرح‌شده را تأیید کنند، ممکن است فشار بیشتری برای تعیین استانداردهای روشن‌تر در طراحی و عرضه چت‌بات‌ها ایجاد شود. شرکت‌های فناوری در چنین شرایطی باید میان ارائه ابزارهای مفید و کاهش خطرهای احتمالی تعادل برقرار کنند. این موضوع برای والدین نیز اهمیت دارد؛ زیرا آگاهی از محدودیت‌های هوش مصنوعی، گفت‌وگو با فرزندان درباره استفاده از این ابزارها و بررسی تنظیمات ایمنی می‌تواند به استفاده مسئولانه‌تر کمک کند. از سوی دیگر، نباید فراموش کرد که ثبت شکایت به‌تنهایی ثابت نمی‌کند یک شرکت مرتکب تخلف شده است. رسیدگی قضایی باید ادعاها، شواهد و پاسخ طرف مقابل را بررسی کند.
این پرونده به‌تنهایی پاسخ قطعی برای همه خانواده‌ها ارائه نمی‌دهد، اما نشان می‌دهد که استفاده کودکان از ابزارهای هوش مصنوعی به توجه بیشتری نیاز دارد. والدین می‌توانند درباره نحوه استفاده از چت‌بات‌ها با فرزندانشان گفت‌وگو کنند، به آن‌ها یادآوری کنند که پاسخ‌های هوش مصنوعی همیشه درست نیستند و در صورت امکان از تنظیمات متناسب با سن و ابزارهای نظارت والدین استفاده کنند. در سطح گسترده‌تر نیز لازم است شرکت‌های فناوری درباره نحوه حفاظت از کاربران کم‌سن شفاف باشند و نهادهای مسئول، بر اساس شواهد و قوانین، عملکرد آن‌ها را بررسی کنند. پرونده هشت ایالت آمریکا می‌تواند به یکی از بحث‌های مهم درباره مسئولیت شرکت‌های هوش مصنوعی تبدیل شود؛ بحثی که در آن، نوآوری فناوری باید در کنار امنیت کاربران، حفاظت از کودکان و پاسخ‌گویی شرکت‌ها مورد توجه قرار گیرد.
برای مطالعه مقالات بیشتر به سایت خانه متاورس ایران سر بزنید.
