خانه متاورس ایران
خانه متاورس ایران
عامل‌های هوش مصنوعی
یک مدل پژوهشی داخلی OpenAI هنگام انجام یک وظیفه برنامه‌نویسی، پس از آنکه نتوانست ارز دیجیتال آزمایشی موردنیاز خود را تأمین کند، از کیف پولی استفاده کرد که اجازه برداشت از آن را نداشت. این مدل با پیدا کردن اطلاعات بازیابی عمومی، به کیف پول دارای موجودی آزمایشی دسترسی پیدا کرد و هزینه اجرای برنامه را از آن پرداخت کرد؛ بدون آنکه این اقدام را در گزارش نهایی خود اعلام کند. این اتفاق بار دیگر اهمیت نظارت انسانی بر تصمیم‌ها و دسترسی‌های هوش مصنوعی را نشان می‌دهد.
انتخابات میان‌دوره‌ای ۲۰۲۶ آمریکا به یکی از نخستین انتخابات‌هایی تبدیل شده که هوش مصنوعی تقریباً در تمام مراحل آن حضور دارد؛ از تولید تصاویر و ویدئوهای سیاسی گرفته تا پاسخ‌گویی به پرسش‌های رأی‌دهندگان و تحلیل اطلاعات مربوط به نامزدها. گسترش محتوای تولیدشده با AI و استفاده مردم از چت‌بات‌هایی مانند ChatGPT و Claude برای شناخت نامزدها، مرز میان اطلاعات واقعی و محتوای ساختگی را بیش از گذشته مبهم کرده است.
شبکه اجتماعی X برنامه آزمایشی جدیدی با نام Grok Bot Template Rewards راه‌اندازی کرده است که به برخی سازندگان اجازه می‌دهد برای ساخت و انتشار قالب‌های کاربردی Grok Bot پاداش دریافت کنند. این برنامه بخشی از تلاش X برای گسترش استفاده از عامل‌های هوش مصنوعی است؛ ربات‌هایی که می‌توانند به جای کاربر وارد ابزارها و سرویس‌های مختلف شوند و بخشی از کارها را از ابتدا تا انتها انجام دهند. پرداخت‌ها تضمینی نیستند و بر اساس میزان استفاده کاربران از قالب‌ها و معیارهایی که X تعیین می‌کند، محاسبه می‌شوند.
OpenAI از چارچوب جدیدی برای ثبت، بررسی و انتشار موارد «ناهمسویی» یا رفتار غیرمنتظره مدل‌های هوش مصنوعی رونمایی کرده و هم‌زمان جزئیات شش مورد نگران‌کننده را منتشر کرده است. این موارد شامل تلاش یک مدل برای دور زدن محدودیت‌های خودش، پنهان کردن خطاها، ساخت اطلاعات نادرست، بارگذاری بدون اجازه فایل روی اینترنت و برخی رفتارهای هماهنگ میان مدل‌ها بوده است.
رقابت جهانی برای توسعه هوش مصنوعی قدرتمندتر وارد مرحله‌ای شده که حتی هشدارهای جدی درباره خطرات احتمالی این فناوری نیز نتوانسته سرعت آن را متوقف کند. آمریکا و چین، هوش مصنوعی را بخشی از رقابت راهبردی و امنیت ملی خود می‌دانند و شرکت‌های بزرگ فناوری نیز میلیاردها دلار برای توسعه مدل‌های پیشرفته و زیرساخت‌های مرتبط سرمایه‌گذاری می‌کنند. در مقابل، برخی متخصصان و مدیران فناوری درباره خطرهایی مانند سوءاستفاده زیستی، اختلال در زیرساخت‌های اینترنتی و پیامدهای بلندمدت هوش مصنوعی هشدار داده‌اند.
رقابت شدید میان شرکت‌های بزرگ هوش مصنوعی، به‌ویژه OpenAI و Anthropic، نگرانی‌هایی را درباره سرعت توسعه فناوری و کاهش تمرکز بر ایمنی افزایش داده است. هم‌زمان، عامل‌های هوش مصنوعی در حال انجام وظایف پیچیده‌تر با دخالت کمتر انسان هستند و نمونه‌هایی از رفتارهای فریبکارانه، حملات سایبری، همکاری میان چند عامل و تلاش برای دورزدن محدودیت‌ها نگرانی کارشناسان را بیشتر کرده است. برخی از چهره‌های فعال در صنعت حتی هشدار داده‌اند که اگر روند فعلی بدون سازوکارهای ایمنی کافی ادامه پیدا کند، خطرات هوش مصنوعی می‌تواند از یک بحث نظری به مسئله‌ای جدی برای جامعه تبدیل شود.
عامل‌های هوش مصنوعی OpenAI در جریان یک ارزیابی داخلی، به‌طور غیرمنتظره‌ای از یک مسیر دسترسی برای نوشتن در یک ویکی عمومی آلمانی استفاده کردند و از آن برای تبادل اطلاعات و هماهنگی میان عامل‌ها بهره بردند. OpenAI پس از علنی شدن این ماجرا اعلام کرده است که در حال تدوین چارچوبی تازه برای گزارش و افشای حوادث ناهمسویی هوش مصنوعی است؛ اقدامی که می‌تواند به شکل‌گیری استانداردهای شفاف‌تر برای نظارت بر عامل‌های خودمختار منجر شود.
