خانه متاورس ایران
خانه متاورس ایران
امنیت هوش مصنوعی
Anthropic از چهارمین حادثه امنیتی مرتبط با مدلهای هوش مصنوعی خود پرده برداشته است؛ حادثهای که در جریان یک آزمایش امنیتی رخ داد و نسخه اولیه Claude Opus 4.6 به دلیل یک پیکربندی اشتباه، به اینترنت واقعی دسترسی پیدا کرد و با سیستمهای خارجی تعامل داشت. این حادثه که در ابتدا در بررسی گسترده Anthropic شناسایی نشده بود، بار دیگر نگرانیها درباره رفتار مستقل و پیشبینینشده AI Agentها را افزایش داده است. بررسی Anthropic دو الگوی مهم را در این حوادث شناسایی کرده است: استدلال سوگیرانه و بیپروایی مدل در اجرای اقداماتی که برای رسیدن به هدف خود ضروری میدانسته است.
گزارش جدید Unit 42 از Palo Alto Networks از یک حمله سایبری واقعی پرده برداشته است که در آن یک مهاجم انسانی، اجرای بخش عمده عملیات نفوذ را به عاملهای خودکار هوش مصنوعی (AI Agents) سپرده بود. این عاملها توانستند پس از ورود اولیه، ساختار داخلی شبکه را شناسایی کنند، اطلاعات محرمانه و کلیدهای دسترسی را از مخازن کد استخراج کنند، به حسابهای دارای سطح دسترسی بالا برسند و حتی از زیرساخت هوش مصنوعی قربانی برای ادامه عملیات استفاده کنند. کل این زنجیره در کمتر از ۱۰ ساعت انجام شد.
حملات سایبری در حال ورود به مرحلهای جدید هستند؛ مهاجمان دیگر فقط به دنبال پیدا کردن یک آسیبپذیری نیستند، بلکه از هوش مصنوعی، سرقت هویت، باجافزار و مهندسی اجتماعی در کنار یکدیگر استفاده میکنند. گزارش Cyber Security Report 2026 شرکت Check Point نشان میدهد سازمانها در سال ۲۰۲۵ بهطور میانگین با ۱۹۶۸ تلاش برای حمله در هفته مواجه بودهاند؛ رقمی که نسبت به سال قبل ۱۸ درصد افزایش داشته است. در همین حال، استفاده از هوش مصنوعی در زنجیره حملات و افزایش حملات مبتنی بر اعتماد و هویت، زمان واکنش تیمهای امنیتی را بیش از گذشته کاهش داده است.
.png "AI Security")
چین پیشنویس مقررات تازهای را برای کنترل و نظارت بر سیستمهای هوش مصنوعی با قابلیت تعامل انسانی منتشر کرده است. این قوانین جدید، شرکتهای توسعهدهنده را موظف میکند مسئولیت کامل امنیت، شفافیت الگوریتمها و حفاظت از دادههای کاربران را بر عهده بگیرند؛ اقدامی که میتواند آینده توسعه و استفاده از AI در این کشور را بهطور جدی تغییر دهد.
