۵ اطلاعاتی که هرگز نباید به چت بات های هوش مصنوعی بدهید

۴. اطلاعات محرمانه شرکت‌ها

گزارش‌های داخلی، اطلاعات مشتریان، کد منبع، اسناد مالی شرکت و محتوای تحت قراردادهای محرمانگی نباید بدون مجوز سازمان در اختیار چت‌بات‌های عمومی قرار گیرند.

این مسئله می‌تواند علاوه بر خطر افشای اطلاعات تجاری، پیامدهای قراردادی و حقوقی نیز داشته باشد. به همین دلیل سازمان‌ها معمولاً باید مشخص کنند چه ابزارهایی برای پردازش اطلاعات داخلی مجاز هستند و داده‌های واردشده چگونه ذخیره یا استفاده می‌شوند.

۵. اطلاعات مالی

شماره حساب بانکی، اطلاعات کارت اعتباری، اظهارنامه مالیاتی، فیش حقوقی و جزئیات حساب‌های سرمایه‌گذاری نیز در گروه داده‌هایی قرار می‌گیرند که نباید بدون ضرورت در چت‌بات‌های عمومی وارد شوند.

چنین اطلاعاتی در صورت افشا می‌تواند برای طراحی حملات مهندسی اجتماعی هدفمند یا کلاهبرداری مالی مورد استفاده قرار گیرد. در مواردی که تحلیل مالی تخصصی لازم است، حذف اطلاعات هویتی و شماره‌های حساس یا استفاده از خدماتی با تضمین‌های مشخص حریم خصوصی، رویکرد محتاطانه‌تری است.

چگونه خطر را کاهش دهیم؟

حذف یک مکالمه از تاریخچه، لزوماً به این معنا نیست که تمام نسخه‌های احتمالی داده فوراً از همه سامانه‌های مرتبط حذف شده‌اند. به همین دلیل، استنفورد بر اهمیت طراحی قابلیت‌هایی مانند چت موقت، کنترل‌های شفاف‌تر حریم خصوصی و امکان انتخاب آگاهانه درباره استفاده از مکالمات برای آموزش مدل تأکید کرده است.

کاربران نیز می‌توانند پیش از استفاده از هر سرویس، تنظیمات مربوط به ذخیره تاریخچه، استفاده از مکالمات برای آموزش مدل و حالت چت موقت را بررسی کنند. همچنین بهتر است به جای وارد کردن نام‌ها و جزئیات واقعی، از عباراتی کلی مانند «یک بیمار»، «یک مشتری» یا «یک شرکت» استفاده شود؛ مگر اینکه ارائه اطلاعات دقیق واقعاً ضروری باشد.

در نهایت، توصیه اصلی کارشناسان ساده است: چت‌بات هوش مصنوعی را نباید مانند یک دوست یا دفتر خاطرات کاملاً خصوصی در نظر گرفت. هر اطلاعاتی که وارد یک سامانه آنلاین می‌شود، باید با این فرض وارد شود که ممکن است تحت شرایط مشخصی ذخیره، پردازش یا بررسی شود. استنفورد نیز خواستار حرکت به سمت سیاست‌هایی شده است که استفاده از داده‌های مکالمات برای آموزش مدل را به‌صورت پیش‌فرض غیرفعال کنند و برای چنین استفاده‌ای رضایت صریح کاربر را دریافت کنند.