چت جی پی تی همدست کلاهبرداران شد!
به گزارش خبر محور به نقل از دیجیاتو؛ فناوریهای نوین هوش مصنوعی که روزی به عنوان دستیاران هوشمند و قابل اعتماد برای تسهیل زندگی روزمره معرفی میشدند، اکنون به پاشنه آشیلی جدید در حوزه امنیت سایبری تبدیل شدهاند. گزارشهای افشاگرانه و تکاندهنده اخیر از سوی موسسات امنیتی نشان میدهد که چتبات محبوب شرکت اوپنایآی، یعنی ChatGPT، در پی یک استراتژی پیچیده نفوذ، به ابزاری ناخواسته برای هدایت خریداران آنلاین به سمت وبسایتهای جعلی و فریبنده تبدیل شده است.
کارشناسان برجسته امنیت سایبری با انتشار هشدارهایی جدی اعلام کردهاند که مجرمان و هکرهای حرفهای موفق شدهاند با به کارگیری تکنیک مخرب «مسمومیت اطلاعاتی»، به منابع یادگیری و دیتابیسهای مرجع این مدلهای زبانی بزرگ نفوذ کنند. آنها با جایگذاری ماهرانه لینک فروشگاههای تقلبی و شبیهسازیشده در میان پاسخها و نتایج جستجوی این چتبات، دام پهنی را برای کاربران بگسترانند.
به طوری که خریداران با اعتماد به اعتبار هوش مصنوعی و به وسوسه تخفیفهای نجومی، در نهایت با سرقت اطلاعات حساس بانکی و کلاهبرداریهای کلان مالی مواجه میشوند. این شگرد نوین که توسط سرویس بررسی کلاهبرداری Ask Silver کشف شده، زنگ خطری جدی را درباره آینده امنیت دادهها و ضرورت بازنگری در اعتماد مطلق به توصیههای ماشینهای هوشمند به صدا درآورده است.
شگرد کثیف هکرها با مسموم کردن چت جی پی تی
طبق گزارشهای جدید، ChatGPT به دلیل دستکاری و به اصطلاح «مسمومیت» اطلاعاتی مدلهای زبانی خود، ناخواسته ممکن است کاربران را برای خرید آنلاین به وبسایتهای جعلی هدایت کند؛ اتفاقی که در نهایت منجر به کلاهبرداری مالی و سرقت اطلاعات بانکی افراد میشود. کارشناسان امنیت سایبری هشدار میدهند که مجرمان با نفوذ به منابع یادگیری هوش مصنوعی، لینک فروشگاههای تقلبی را در میان پیشنهادها و نتایج جستجوی این چتبات جایگذاری میکنند.
سرویس بررسی کلاهبرداری Ask Silver اخیراً در تحقیقات خود متوجه حضور سایتهای شبیهسازیشده و جعلی در پاسخهای ChatGPT شده است. به عنوان نمونه، زمانی که کاربران از هوش مصنوعی درباره محصولات برندهای بریتانیایی مانند Russell & Bromley یا Dunelm راهنمایی میخواهند، این چتبات گزینههایی با قیمت و تخفیفهای جذاب ارائه میدهد که لینک آنها کاربر را به سایتهای جعلی و نامعتبر هدایت میکند.
خریداران با ورود به این سایتها و پرداخت وجه، نهتنها کالایی دریافت نمیکنند، بلکه اطلاعات حسابشان را در اختیار هکرها قرار میدهند.
«آنا جونز» از Ask Silver توضیح میدهد که به احتمال زیاد، مدل زبانی بزرگ ChatGPT «مسموم» شده است. این اتفاق زمانی رخ میدهد که محتوای مخرب، از طریق صفحات وب جعلی که توسط کلاهبرداران ساخته شدهاند، وارد دیتابیس اطلاعاتی هوش مصنوعی شود. او در ادامه میگوید:
«در یک مورد، کلاهبرداران از این واقعیت سوءاستفاده کردند که یک برند به تازگی تغییر مالکیت داده و سایت رسمی آن از دسترس خارج شده است؛ در نتیجه سایتهای جعلی خود را به عنوان مرجع معتبر به خورد هوش مصنوعی دادند.»
نحوه عملکرد کلاهبرداری در نتایج جستجوی هوش مصنوعی
«لوییس بکستر»، رئیس تیم کلاهبرداری در سازمان استانداردهای تجارت ملی بریتانیا، تأکید میکند که مردم نباید صرفاً به این دلیل که یک وبسایت توسط ابزار هوش مصنوعی پیشنهاد شده است، به آن اعتماد کنند. او میگوید:
«مصرفکنندگان بهطور فزایندهای برای دریافت مشاوره به ابزارهای هوش مصنوعی روی میآورند، اما مجرمان نیز به همان سرعت خود را با این شرایط تطبیق میدهند. ظاهر شدن وبسایتهای کلاهبرداری در نتایج هوش مصنوعی نگرانکننده است و نشان میدهد که کلاهبرداران از هر فناوری جدیدی برای رسیدن به قربانیان استفاده میکنند.»
بررسیها نشان میدهد سایتهای جعلی معرفیشده توسط ChatGPT، ظاهر بسیار فریبندهای دارند و گاهی تخفیفهای غیرمنطقی تا ۸۰ درصد را به کاربران پیشنهاد میدهند. همچنین این سایتهای شبیهسازیشده اغلب از آدرسهایی بسیار نزدیک به نام اصلی برندها (مانند استفاده از پسوندهای onlineuk یا official در کنار نام برند) استفاده میکنند تا کاربر متوجه جعلی بودن آنها نشود.
کارشناسان توصیه میکنند هنگام خرید آنلاین، آدرس اینترنتی (URL) سایتها را با دقت بررسی کنید و مراقب کلمات اضافی در دامنه باشید. سایتهای کلاهبرداری اغلب فقط پرداخت از طریق حواله بانکی را میپذیرند که این موضوع یک زنگ خطر جدی محسوب میشود.
در صورت امکان، بهجای کلیک روی لینکهای پیشنهادی هوش مصنوعی، نام فروشگاهها را جستجو کرده و مستقیماً وارد وبسایت رسمی آنها شوید. در همین راستا، سخنگوی OpenAI اعلام کرده است که وبسایتهای کلاهبرداری شناساییشده را از فهرست جستجوی این مدل حذف کرده و کاربران میتوانند سایتهای ناقض قوانین را به طور مستقیم گزارش کنند.
بله | ایتا | روبیکا | سروش پلاس | تلگرام | اینستاگرام | آپارات
هیچ نظر! یکی از اولین.