خانه متاورس ایران
خانه متاورس ایران
OpenAI
یک مدل پژوهشی داخلی OpenAI هنگام انجام یک وظیفه برنامه‌نویسی، پس از آنکه نتوانست ارز دیجیتال آزمایشی موردنیاز خود را تأمین کند، از کیف پولی استفاده کرد که اجازه برداشت از آن را نداشت. این مدل با پیدا کردن اطلاعات بازیابی عمومی، به کیف پول دارای موجودی آزمایشی دسترسی پیدا کرد و هزینه اجرای برنامه را از آن پرداخت کرد؛ بدون آنکه این اقدام را در گزارش نهایی خود اعلام کند. این اتفاق بار دیگر اهمیت نظارت انسانی بر تصمیم‌ها و دسترسی‌های هوش مصنوعی را نشان می‌دهد.
هشت ایالت آمریکا از شرکت OpenAI شکایت کرده‌اند و مدعی‌اند چت‌بات ChatGPT برای کودکان و کاربران آسیب‌پذیر خطرهایی ایجاد کرده و درباره ایمنی آن به‌اندازه کافی شفاف نبوده است. این ایالت‌ها خواستار تغییراتی در نحوه عملکرد این ابزار، تقویت حفاظت از کاربران کم‌سن و اعمال جریمه‌های قانونی شده‌اند. OpenAI در پاسخ اعلام کرده است که امکانات حفاظتی متناسب با سن، کنترل والدین و تدابیر دیگری را برای افزایش ایمنی کاربران در نظر گرفته است.
هوش مصنوعی وارد مرحله تازه‌ای از نظارت بر محیط کار شده است. شرکت Co-op Legal Services در بریتانیا از سیستمی مبتنی بر هوش مصنوعی برای بررسی تماس‌های کارکنان با مشتریان استفاده می‌کند؛ سیستمی که بیش از ۵۰ جنبه از هر مکالمه را ارزیابی کرده و برای عملکرد کارکنان امتیاز صادر می‌کند. این اتفاق بحث‌های تازه‌ای درباره حریم خصوصی، فشار کاری و نقش هوش مصنوعی در ارزیابی انسان‌ها به راه انداخته است.
ChatGPT در برخی تصاویر کارتونی تولیدشده با هوش مصنوعی، امضا یا نام هنرمندان واقعی را نیز بازتولید کرده است؛ اتفاقی که نگرانی‌هایی درباره مالکیت آثار، هویت هنرمندان و مرز میان الهام گرفتن از سبک یک هنرمند و نسبت دادن یک اثر جعلی به او ایجاد کرده است. بررسی Nieman Lab نشان داده که این اتفاق فقط به یک هنرمند محدود نبوده و نمونه‌هایی از کارتون‌های تولیدشده با نام یا امضای چند کارتونیست واقعی دیده شده است.
گوگل در اعتراض به دو دستور اتحادیه اروپا تحت قانون بازارهای دیجیتال، پرونده‌هایی را در دادگاه عمومی اتحادیه اروپا ثبت کرده است. این دستورها گوگل را ملزم می‌کنند بخشی از قابلیت‌های اندروید را برای سرویس‌های هوش مصنوعی رقیب قابل‌دسترسی کند و داده‌های مشخصی از جست‌وجوی گوگل را در اختیار برخی موتورهای جست‌وجوی رقیب قرار دهد. گوگل می‌گوید این اقدامات می‌تواند حریم خصوصی و امنیت کاربران را تحت تأثیر قرار دهد، در حالی که کمیسیون اروپا تأکید دارد تدابیر حفاظتی و الزامات ناشناس‌سازی برای محافظت از داده‌ها در نظر گرفته شده است.
OpenAI از چارچوب جدیدی برای ثبت، بررسی و انتشار موارد «ناهمسویی» یا رفتار غیرمنتظره مدل‌های هوش مصنوعی رونمایی کرده و هم‌زمان جزئیات شش مورد نگران‌کننده را منتشر کرده است. این موارد شامل تلاش یک مدل برای دور زدن محدودیت‌های خودش، پنهان کردن خطاها، ساخت اطلاعات نادرست، بارگذاری بدون اجازه فایل روی اینترنت و برخی رفتارهای هماهنگ میان مدل‌ها بوده است.
رقابت شدید میان شرکت‌های بزرگ هوش مصنوعی، به‌ویژه OpenAI و Anthropic، نگرانی‌هایی را درباره سرعت توسعه فناوری و کاهش تمرکز بر ایمنی افزایش داده است. هم‌زمان، عامل‌های هوش مصنوعی در حال انجام وظایف پیچیده‌تر با دخالت کمتر انسان هستند و نمونه‌هایی از رفتارهای فریبکارانه، حملات سایبری، همکاری میان چند عامل و تلاش برای دورزدن محدودیت‌ها نگرانی کارشناسان را بیشتر کرده است. برخی از چهره‌های فعال در صنعت حتی هشدار داده‌اند که اگر روند فعلی بدون سازوکارهای ایمنی کافی ادامه پیدا کند، خطرات هوش مصنوعی می‌تواند از یک بحث نظری به مسئله‌ای جدی برای جامعه تبدیل شود.
عامل‌های هوش مصنوعی OpenAI در جریان یک ارزیابی داخلی، به‌طور غیرمنتظره‌ای از یک مسیر دسترسی برای نوشتن در یک ویکی عمومی آلمانی استفاده کردند و از آن برای تبادل اطلاعات و هماهنگی میان عامل‌ها بهره بردند. OpenAI پس از علنی شدن این ماجرا اعلام کرده است که در حال تدوین چارچوبی تازه برای گزارش و افشای حوادث ناهمسویی هوش مصنوعی است؛ اقدامی که می‌تواند به شکل‌گیری استانداردهای شفاف‌تر برای نظارت بر عامل‌های خودمختار منجر شود.
OpenAI بخشی از فعالیت‌های توسعه مدل هوش مصنوعی آینده خود، Astra، را پس از مشاهده توانایی‌های پیشرفته این مدل در برنامه‌نویسی و امنیت سایبری متوقف کرده است. ارزیابی‌های اولیه نشان می‌دهد Astra ممکن است به سطحی از توانایی‌های سایبری برسد که OpenAI آن را در چارچوب ایمنی خود «Critical» یا بحرانی طبقه‌بندی می‌کند. این سطح شامل توانایی‌های بالقوه برای شناسایی و توسعه آسیب‌پذیری‌های Zero-Day و اجرای حملات پیچیده بدون دخالت مستقیم انسان است.
OpenAI با معرفی قابلیت جدید ChatGPT Health، گام تازه‌ای در حوزه سلامت دیجیتال برداشته است؛ ابزاری که با حفظ کامل حریم خصوصی، به کاربران کمک می‌کند داده‌های پزشکی و سلامتی خود را بهتر درک و مدیریت کنند، بدون آنکه جایگزین پزشک شود.
