خانه متاورس ایران
خانه متاورس ایران
حدود ۴۰۰ دانشمند از کشورهای مختلف، از جمله جفری هینتون و یوشوا بنجیو، خواستار تشکیل نهادی بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته شده‌اند. آن‌ها معتقدند شرکت‌های فناوری نباید به‌تنهایی مسئول ایمنی محصولات خود باشند و باید استانداردهای مشخصی برای کنترل خطرات، بررسی مستقل و ثبت حوادث امنیتی تدوین شود. این پیشنهاد در شرایطی مطرح شده که نگرانی‌ها درباره توانایی‌های رو به رشد هوش مصنوعی و احتمال عبور آن از محدودیت‌های امنیتی افزایش یافته است.
حدود ۴۰۰ دانشمند از کشورهای مختلف، از جمله جفری هینتون و یوشوا بنجیو، خواستار تشکیل نهادی بین‌المللی برای نظارت بر هوش مصنوعی پیشرفته شده‌اند. آن‌ها معتقدند شرکت‌های فناوری نباید به‌تنهایی مسئول ایمنی محصولات خود باشند و باید استانداردهای مشخصی برای کنترل خطرات، بررسی مستقل و ثبت حوادث امنیتی تدوین شود. این پیشنهاد در شرایطی مطرح شده که نگرانی‌ها درباره توانایی‌های رو به رشد هوش مصنوعی و احتمال عبور آن از محدودیت‌های امنیتی افزایش یافته است.
هوش مصنوعی در سال‌های اخیر با سرعت زیادی پیشرفت کرده و از ابزارهای ساده تولید متن و تصویر فراتر رفته است. برخی سامانه‌های جدید می‌توانند وظایف پیچیده‌تری انجام دهند؛ از تحلیل اطلاعات و نوشتن کد گرفته تا کمک به اجرای عملیات دیجیتال. با این حال، افزایش توانایی این ابزارها نگرانی‌هایی را هم به همراه داشته است. اگر یک سامانه هوش مصنوعی پیشرفته به‌درستی کنترل نشود یا از محدودیت‌های امنیتی عبور کند، ممکن است به اطلاعات، شبکه‌ها یا سامانه‌های دیگر دسترسی پیدا کند و زمینه‌ساز مشکلات جدی شود. بر اساس گزارش رویترز در ۱۳ اکتبر ۲۰۲۶، حدود ۴۰۰ دانشمند و پژوهشگر در نامه‌ای سرگشاده خواستار ایجاد یک نهاد بین‌المللی برای نظارت بر استانداردهای ایمنی و بررسی حوادث مرتبط با هوش مصنوعی پیشرفته شده‌اند. در میان امضاکنندگان این نامه، نام جفری هینتون و یوشوا بنجیو نیز دیده می‌شود؛ دو پژوهشگر شناخته‌شده که از چهره‌های اثرگذار در توسعه هوش مصنوعی به شمار می‌روند.
پیشنهاد دانشمندان فقط به تدوین توصیه‌های کلی محدود نمی‌شود. آن‌ها خواستار ایجاد چارچوبی مشترک هستند تا شرکت‌ها و کشورها برای ایمن‌سازی سامانه‌های پیشرفته، معیارهای روشن‌تری داشته باشند. مهم‌ترین پیشنهادهای مطرح‌شده عبارت‌اند از:
هدف از این اقدامات، جلوگیری از بروز مشکلات پیش از گسترش استفاده از سامانه‌های پرخطر است؛ نه متوقف‌کردن تمام فعالیت‌های مرتبط با هوش مصنوعی.
بسیاری از شرکت‌های بزرگ فناوری درباره اهمیت ایمنی هوش مصنوعی صحبت می‌کنند و برخی نیز تعهداتی برای آزمایش و کنترل محصولات خود پذیرفته‌اند. با این حال، امضاکنندگان نامه معتقدند تعهد داوطلبانه به‌تنهایی تضمین نمی‌کند که همه شرکت‌ها از استانداردهای یکسانی پیروی کنند. یکی از نگرانی‌های اصلی این است که شرکت‌ها ممکن است روش‌های متفاوتی برای آزمایش محصولات خود داشته باشند. در چنین شرایطی، مقایسه میزان ایمنی سامانه‌ها دشوار می‌شود و ممکن است برخی مشکلات پیش از آنکه به‌طور مستقل بررسی شوند، شناسایی نشوند. پیشنهاد ایجاد یک نهاد بین‌المللی می‌تواند به شکل‌گیری معیارهای مشترک کمک کند؛ معیارهایی که برای توسعه‌دهندگان مختلف قابل استفاده باشند و امکان ارزیابی دقیق‌تر عملکرد سامانه‌های پیشرفته را فراهم کنند.
بحث درباره خطرات هوش مصنوعی فقط به آینده‌ای دور مربوط نیست. پژوهشگران به مواردی اشاره می‌کنند که در آن‌ها ضعف محیط‌های آزمایشی یا محدودیت‌های امنیتی باعث شده سامانه‌های هوش مصنوعی به بخش‌هایی خارج از محدوده مورد انتظار دسترسی پیدا کنند. البته این اتفاق‌ها به این معنا نیست که همه سامانه‌های هوش مصنوعی خطرناک‌اند یا وقوع یک فاجعه قطعی است. نگرانی اصلی این است که هرچه توانایی یک سامانه بیشتر شود، آزمایش و کنترل آن نیز باید دقیق‌تر باشد. برای مثال، اگر یک ابزار هوش مصنوعی بتواند وظایف پیچیده سایبری انجام دهد، لازم است پیش از دسترسی گسترده به شبکه‌ها، در محیطی محدود و تحت نظارت آزمایش شود. در این حالت، اگر ضعف امنیتی وجود داشته باشد، احتمال آسیب به سامانه‌های واقعی کاهش پیدا می‌کند. به همین دلیل، ایمنی هوش مصنوعی به یکی از موضوعات مهم در بحث آینده فناوری تبدیل شده است؛ موضوعی که هم شرکت‌های سازنده و هم دولت‌ها و پژوهشگران باید در آن نقش داشته باشند.
همه متخصصان درباره میزان خطر یا بهترین روش نظارت بر هوش مصنوعی اتفاق‌نظر ندارند. در گزارش رویترز آمده است که یان لوکان، پژوهشگر برجسته هوش مصنوعی، این نامه را امضا نکرده و معتقد است برخی حوادث امنیتی اخیر بیشتر به ضعف‌های مهندسی مربوط بوده‌اند تا خطرهای بنیادی هوش مصنوعی. این اختلاف‌نظر نشان می‌دهد که بحث اصلی تنها بر سر وجود یا نبود خطر نیست؛ بلکه درباره نوع خطرها، میزان جدیت آن‌ها و روش مناسب برای کاهششان نیز اختلاف دیدگاه وجود دارد. از یک سو، گروهی بر ضرورت نظارت مستقل و تدوین استانداردهای سخت‌گیرانه‌تر تأکید می‌کنند. از سوی دیگر، برخی متخصصان معتقدند باید میان خطرهای واقعی و نگرانی‌های احتمالی تمایز قائل شد و راهکارها را بر اساس شواهد فنی طراحی کرد.
درخواست این دانشمندان در زمانی مطرح شده که دولت‌ها و شرکت‌های فناوری همچنان درباره نحوه مدیریت هوش مصنوعی پیشرفته گفت‌وگو می‌کنند. ایجاد یک نهاد بین‌المللی می‌تواند زمینه همکاری میان کشورها را فراهم کند، اما تحقق این پیشنهاد به توافق بر سر اختیارات، استانداردها و نحوه اجرای تصمیم‌ها بستگی دارد. چالش مهم این است که فناوری هوش مصنوعی در مرزهای یک کشور باقی نمی‌ماند. یک مدل می‌تواند در یک کشور توسعه داده شود، در کشور دیگری مورد استفاده قرار گیرد و به شبکه‌ها و کاربران سراسر جهان دسترسی داشته باشد. بنابراین، نظارت هماهنگ بین‌المللی ممکن است در شناسایی و مدیریت برخی خطرهای فرامرزی نقش مهمی ایفا کند. با این حال، تا زمانی که سازوکار مشخصی برای تشکیل چنین نهادی و اجرای استانداردهای آن تصویب نشود، این درخواست را باید یک پیشنهاد از سوی جامعه علمی دانست، نه یک مقررات جهانی اجرایی‌شده. در نهایت، پیام اصلی این نامه آن است که هم‌زمان با افزایش توانایی‌های هوش مصنوعی، روش‌های آزمایش، نظارت و پاسخ‌گویی نیز باید پیشرفت کنند. چگونگی برقراری تعادل میان نوآوری و امنیت، یکی از موضوعات مهمی خواهد بود که آینده این فناوری را شکل می‌دهد.
برای مطالعه مقالات بیشتر به سایت خانه متاورس ایران سر بزنید.
