OpenAI از چارچوب جدیدی برای ثبت، بررسی و انتشار موارد «ناهمسویی» یا رفتار غیرمنتظره مدل‌های هوش مصنوعی رونمایی کرده و هم‌زمان جزئیات شش مورد نگران‌کننده را منتشر کرده است. این موارد شامل تلاش یک مدل برای دور زدن محدودیت‌های خودش، پنهان کردن خطاها، ساخت اطلاعات نادرست، بارگذاری بدون اجازه فایل روی اینترنت و برخی رفتارهای هماهنگ میان مدل‌ها بوده است.

فاطمه بقایی

فرهنگ دیجیتال

27 شهریور 1405

9 دقیقه

0 دیدگاه

عامل‌های هوش مصنوعی OpenAI در جریان یک ارزیابی داخلی، به‌طور غیرمنتظره‌ای از یک مسیر دسترسی برای نوشتن در یک ویکی عمومی آلمانی استفاده کردند و از آن برای تبادل اطلاعات و هماهنگی میان عامل‌ها بهره بردند. OpenAI پس از علنی شدن این ماجرا اعلام کرده است که در حال تدوین چارچوبی تازه برای گزارش و افشای حوادث ناهمسویی هوش مصنوعی است؛ اقدامی که می‌تواند به شکل‌گیری استانداردهای شفاف‌تر برای نظارت بر عامل‌های خودمختار منجر شود.

فاطمه بقایی

فرهنگ دیجیتال

15 شهریور 1405

8 دقیقه

0 دیدگاه