وقتی هوش مصنوعی به جای شما خرید می‌کند؛ بانک‌ها نگران شدند

عامل‌های هوش مصنوعی در حال ورود به دنیای خرید آنلاین هستند و قرار است در آینده بتوانند محصولات را پیدا کنند، قیمت‌ها را مقایسه کنند و حتی خرید را به نمایندگی از کاربر انجام دهند. اما هم‌زمان با این تحول، گروهی از بانک‌های بزرگ درباره افزایش خطر کلاهبرداری، تقلب و نقض حریم خصوصی داده‌ها هشدار داده‌اند. این بانک‌ها معتقدند سرعت پیشرفت «خرید عاملی» از استانداردهای امنیتی و حمایت از مصرف‌کنندگان جلو زده است.

خرید آنلاین وارد مرحله تازه‌ای می‌شود

تا همین چند سال پیش، خرید اینترنتی معمولاً به این شکل بود که کاربر وارد یک فروشگاه آنلاین می‌شد، محصول موردنظرش را جست‌وجو می‌کرد، قیمت‌ها را مقایسه می‌کرد و در نهایت خودش سفارش را ثبت و پرداخت می‌کرد. اما نسل جدید ابزارهای هوش مصنوعی می‌تواند این فرایند را تغییر دهد. در مدل جدید، کاربر می‌تواند خواسته خود را به یک عامل هوش مصنوعی اعلام کند و این عامل، بخشی از مراحل خرید را به نمایندگی از او انجام دهد؛ از پیدا کردن محصول مناسب گرفته تا مقایسه گزینه‌ها و در برخی موارد تکمیل خرید. شرکت‌هایی مانند OpenAI، Anthropic، Google و Meta در حال توسعه ابزارهایی هستند که هوش مصنوعی را به یک دستیار خرید تبدیل می‌کنند. هم‌زمان فروشگاه‌ها نیز تلاش می‌کنند محصولات خود را طوری معرفی کنند که در توصیه‌های این سیستم‌های هوشمند بیشتر دیده شوند.

بانک‌ها چرا نگران شده‌اند؟

گروهی از بانک‌ها از جمله NatWest، Bank of America، ING، ASB Bank، Capital One و Commonwealth Bank of Australia در گزارشی درباره آینده تجارت مبتنی بر عامل‌های هوش مصنوعی، به فرصت‌های این فناوری اشاره کرده‌اند اما هم‌زمان نسبت به ریسک‌های آن هشدار داده‌اند.

از نگاه این بانک‌ها، مشتریان به استفاده از چنین فناوری‌هایی علاقه دارند، اما استانداردهای صنعتی و سازوکارهای حمایت از مصرف‌کننده هنوز هم‌پای سرعت پیشرفت فناوری حرکت نکرده‌اند. نگرانی اصلی در سه حوزه خلاصه می‌شود:

• کلاهبرداری و فریب کاربران
• تقلب در تراکنش‌ها
• افشای اطلاعات و نقض حریم خصوصی

این نگرانی‌ها زمانی جدی‌تر می‌شوند که یک عامل هوش مصنوعی به اطلاعات پرداخت، حساب کاربری یا داده‌های شخصی مشتری دسترسی داشته باشد.

اگر AI اشتباه خرید کند، چه کسی مسئول است؟

یکی از پرسش‌های مهم در تجارت مبتنی بر عامل‌های هوش مصنوعی، مسئولیت خرید است. فرض کنید کاربر از یک عامل هوشمند بخواهد بهترین لپ‌تاپ را با بودجه مشخص پیدا کند. عامل محصولی را انتخاب می‌کند و حتی سفارش را ثبت می‌کند؛ اما بعد مشخص می‌شود کالا اشتباه بوده یا اطلاعات فروشنده نادرست بوده است. در چنین شرایطی مشخص نیست مسئولیت دقیقاً بر عهده چه کسی خواهد بود؛ کاربر، بانک، فروشگاه، ارائه‌دهنده عامل هوش مصنوعی یا شرکتی که مدل را ساخته است. این موضوع باعث شده بانک‌ها بر ضرورت ایجاد استانداردهای مشخص برای تجارت عاملی تأکید کنند.

خطر کلاهبرداری فقط یک خرید اشتباه نیست

ریسک بزرگ‌تر زمانی ایجاد می‌شود که مجرمان سایبری خود را در مسیر تعامل میان کاربر، عامل هوش مصنوعی و فروشگاه قرار دهند. برای مثال، یک عامل ممکن است به فروشگاهی جعلی هدایت شود یا اطلاعات محصول و قیمت به شکلی دستکاری شود که سیستم هوشمند آن را گزینه مناسبی تشخیص دهد. در چنین شرایطی کاربر ممکن است حتی متوجه نشود که تصمیم خرید بر اساس اطلاعاتی گرفته شده که دستکاری شده‌اند. تفاوت مهم اینجاست که در خرید سنتی، انسان بسیاری از مراحل را شخصاً بررسی می‌کند؛ اما در خرید عاملی، بخشی از این تصمیم‌گیری به یک سیستم نرم‌افزاری سپرده می‌شود.

حریم خصوصی؛ اطلاعات بیشتری در اختیار AI قرار می‌گیرد

عامل خرید برای اینکه بتواند تصمیم مناسبی بگیرد، احتمالاً به اطلاعات بیشتری نسبت به یک موتور جست‌وجوی معمولی نیاز خواهد داشت. ممکن است اطلاعاتی مانند بودجه، سابقه خرید، ترجیحات شخصی، آدرس، روش پرداخت و حتی الگوی مصرف کاربر در اختیار سیستم قرار گیرد. به همین دلیل، حریم خصوصی داده‌ها به یکی از موضوعات مهم در توسعه تجارت مبتنی بر هوش مصنوعی تبدیل شده است. هرچه اختیار عامل بیشتر شود، اهمیت این سؤال نیز بیشتر می‌شود که چه اطلاعاتی را می‌بیند، این اطلاعات کجا ذخیره می‌شوند و چه شرکت‌هایی می‌توانند به آن‌ها دسترسی داشته باشند.

خرید عاملی چیست؟

«خرید عاملی» یا Agentic Commerce به مدلی از تجارت الکترونیکی گفته می‌شود که در آن یک عامل هوش مصنوعی می‌تواند بخشی از فرایند خرید را به نمایندگی از کاربر انجام دهد. در این مدل، کاربر لزوماً لازم نیست برای هر مرحله به‌صورت دستی اقدام کند. برای مثال، کاربر می‌تواند مشخص کند که به یک جفت کفش ورزشی با ویژگی‌های خاص و قیمت کمتر از مقدار مشخصی نیاز دارد. عامل هوش مصنوعی می‌تواند فروشگاه‌ها را بررسی کند، گزینه‌های مختلف را مقایسه کند و در صورت داشتن مجوز لازم، سفارش را تکمیل کند. این فناوری می‌تواند تجربه خرید را ساده‌تر کند، اما در عین حال سطح جدیدی از اعتماد را میان کاربر و سیستم هوش مصنوعی ایجاد می‌کند.

بازار هم در حال تغییر است

ورود عامل‌های هوش مصنوعی تنها رفتار خریداران را تغییر نمی‌دهد؛ فروشگاه‌ها نیز باید خود را با این شرایط جدید تطبیق دهند. در گذشته فروشگاه‌ها تلاش می‌کردند محصول خود را برای موتورهای جست‌وجو بهینه کنند تا در نتایج Google یا سایر موتورهای جست‌وجو بالاتر دیده شوند. اما در آینده ممکن است یک مرحله جدید شکل بگیرد: فروشگاه‌ها باید تلاش کنند محصولاتشان توسط عامل‌های هوش مصنوعی انتخاب و پیشنهاد شوند. Reuters گزارش داده که خرده‌فروشان در حال رقابت برای تأثیرگذاری بر توصیه‌های چت‌بات‌ها هستند. این تغییر می‌تواند شکل جدیدی از رقابت دیجیتال را ایجاد کند؛ رقابتی که در آن مخاطب نهایی همیشه مستقیماً انسان نیست، بلکه ممکن است ابتدا یک عامل هوش مصنوعی باشد.

استقبال کاربران از خرید با AI در حال افزایش است

نشانه‌هایی از افزایش استفاده از عامل‌های هوش مصنوعی برای جست‌وجوی محصولات نیز دیده می‌شود. بر اساس اطلاعاتی که خرده‌فروشی بریتانیایی John Lewis ارائه کرده، سهم جست‌وجوهایی که از سوی عامل‌های هوش مصنوعی به این فروشگاه می‌رسد، در ماه سپتامبر به ۲.۵ درصد رسیده است؛ در حالی که این رقم یک سال قبل حدود ۰.۳ درصد بود. Reuters این رشد را نشانه‌ای از شتاب گرفتن روند استفاده از عامل‌های هوش مصنوعی در خرید آنلاین دانسته است. البته این ارقام به یک شرکت خاص مربوط می‌شوند و نمی‌توان آن‌ها را به کل بازار تجارت الکترونیکی تعمیم داد؛ اما نشان می‌دهند رفتار خرید مبتنی بر AI در حال ظهور است.

شرکت‌های فناوری در حال ورود جدی به این بازار هستند

شرکت‌های بزرگ فناوری نیز آینده خرید عاملی را جدی گرفته‌اند. OpenAI، Anthropic، Google و Meta در حال توسعه قابلیت‌هایی هستند که چت‌بات‌ها و عامل‌های هوش مصنوعی را به ابزارهایی فراتر از پاسخ‌گویی متنی تبدیل می‌کند. در چنین مدلی، هوش مصنوعی می‌تواند از یک ابزار جست‌وجو به یک واسطه میان انسان و فروشگاه تبدیل شود. یعنی کاربر ممکن است به‌جای اینکه مستقیماً وارد ده‌ها سایت شود، خواسته خود را به عامل AI بگوید و نتیجه نهایی را از همان سیستم دریافت کند.

بانک‌ها چه راهکاری پیشنهاد کرده‌اند؟

بانک‌های حاضر در این گروه بر ایجاد اصول و استانداردهای مشترک برای توسعه تجارت عاملی تأکید کرده‌اند. هدف از چنین استانداردهایی این است که مشخص شود یک عامل هوش مصنوعی چگونه باید شناسایی شود، چه سطحی از اختیار را داشته باشد و چگونه می‌توان تراکنش‌های انجام‌شده توسط آن را ایمن‌تر کرد. این موضوع به‌خصوص برای سیستم‌های پرداخت اهمیت دارد، زیرا در آینده ممکن است عامل هوش مصنوعی نه‌تنها محصولی را انتخاب کند، بلکه در فرایند پرداخت نیز نقش داشته باشد.

آیا خرید با هوش مصنوعی جای خرید سنتی را می‌گیرد؟

فعلاً نمی‌توان گفت خرید عاملی چه سهمی از تجارت الکترونیکی آینده را در اختیار خواهد گرفت. این فناوری هنوز در مراحل اولیه توسعه قرار دارد و بسیاری از مسائل مربوط به امنیت، مسئولیت حقوقی، احراز هویت و حفاظت از داده‌ها در حال بررسی است. با این حال، مسیر فعلی نشان می‌دهد هوش مصنوعی به‌تدریج از مرحله «پیشنهاد دادن» به مرحله «اقدام کردن» حرکت می‌کند. این تفاوت مهمی است. یک چت‌بات که می‌گوید کدام گوشی را بخرید، صرفاً پیشنهاد ارائه می‌دهد. اما عاملی که خودش محصول را انتخاب می‌کند، وارد حساب شما می‌شود و سفارش را ثبت می‌کند، اختیار بسیار بیشتری دارد.

آینده خرید؛ فروشگاه یا دستیار هوشمند؟

اگر این فناوری به شکل گسترده‌ای توسعه پیدا کند، ممکن است شیوه خرید مردم در سال‌های آینده تغییر کند. کاربر شاید دیگر نیازی نداشته باشد برای پیدا کردن محصول مناسب ساعت‌ها در سایت‌های مختلف جست‌وجو کند. کافی است نیاز خود را توضیح دهد و اجازه دهد عامل هوش مصنوعی گزینه‌ها را بررسی کند. در مقابل، فروشگاه‌ها نیز باید تلاش کنند اعتماد عامل‌های هوش مصنوعی و در نهایت اعتماد کاربران را به دست آورند. در این شرایط، امنیت، شفافیت اطلاعات و حفاظت از داده‌ها می‌تواند به اندازه قیمت و کیفیت محصول اهمیت پیدا کند.

یک تغییر بزرگ در فرهنگ خرید دیجیتال

ورود عامل‌های هوش مصنوعی به تجارت الکترونیکی فقط یک تغییر فنی نیست؛ می‌تواند بخشی از فرهنگ خرید دیجیتال را نیز تغییر دهد. تا امروز کاربر تصمیم‌گیرنده اصلی در تقریباً تمام مراحل خرید آنلاین بوده است. اما در مدل جدید، بخشی از تصمیم‌گیری به یک سیستم هوشمند سپرده می‌شود.

این اتفاق پرسش‌های تازه‌ای را به وجود می‌آورد:

آیا می‌توان به تصمیم خرید یک عامل هوش مصنوعی اعتماد کرد؟

اگر عامل اشتباه کند چه کسی مسئول است؟

فروشگاه‌ها چگونه می‌توانند اطلاعات واقعی را در اختیار AI قرار دهند؟

و مهم‌تر از همه، کاربر تا چه اندازه باید اختیار و کنترل عامل را محدود کند؟

جمع‌بندی

عامل‌های هوش مصنوعی می‌توانند خرید آنلاین را سریع‌تر و ساده‌تر کنند، اما ورود آن‌ها به فرایند پرداخت و سفارش، مجموعه‌ای از ریسک‌های تازه را نیز به همراه دارد. بانک‌هایی از جمله NatWest و Bank of America هشدار داده‌اند که توسعه این فناوری از استانداردهای صنعتی و حمایت‌های مربوط به مصرف‌کننده سریع‌تر پیش می‌رود. نگرانی‌ها نیز بیشتر حول کلاهبرداری، تقلب و نقض حریم خصوصی داده‌ها شکل گرفته‌اند. به نظر می‌رسد آینده تجارت الکترونیکی فقط درباره این نخواهد بود که چه چیزی بخریم؛ بلکه درباره این هم خواهد بود که چه کسی خرید را برای ما انجام می‌دهد. اگر عامل هوش مصنوعی قرار باشد به نمایندگی از انسان پول خرج کند، انتخاب کند و اطلاعات شخصی را مدیریت کند، ایجاد اعتماد و استانداردهای امنیتی دیگر یک گزینه جانبی نخواهد بود؛ بلکه بخشی اساسی از تجربه خرید دیجیتال خواهد شد.

برای مطالعه مقالات بیشتر به سایت خانه متاورس ایران سر بزنید.