نقشه ۳ مرحلهای برای «معتاد کردن» شما به هوش مصنوعی!
به گزارش خبر محور به نقل از عصرایران؛ تصور کنید در حال گفتوگو با یک دستیار هوش مصنوعی مهربان و دلسوز هستید، غافل از اینکه در اتاقهای فکرِ تاریکِ یک غول فناوری، برای تکتک ثانیههای وابستگی شما برنامهریزی شده است! وبسایت افشاگر ۴۰۴ Media بهتازگی به سند داخلی و تکاندهندهای از مایکروسافت دست یافته که ماسکِ اخلاقگرایی را از چهره این شرکت برمیدارد. در این سند محرمانه که از قضا با همکاری خودِ هوش مصنوعی نوشته شده، صراحتاً و بدون هیچ تعارفی اعلام شده که مرحله اول پروژه جدید مایکروسافت ۳۶۵ چیزی نیست جز: «مردم را معتاد کنید!»؛ اعترافی هولناک که حتی کارمندان خود این شرکت را هم در شوک و صندلیهایشان را به لرزه درآورده است.
استراتژی خطرناک برای تسخیر روان کاربران با دستیار هوش مصنوعی
بر اساس یک سند داخلی که وبسایت ۴۰۴ Media به آن دست یافته، غول فناوری مایکروسافت ناخواسته فاش کرده که میخواهد کاربران را به دستیار هوش مصنوعی جدید خود به نام «اسکات» (Scout)، «معتاد» کند.
این اعترافی نگرانکننده است زیرا شرکتهای هوش مصنوعی همواره تلاش کردهاند با انتقادهایی مبنی بر اینکه مدلهایشان عمدا برای درگیر کردن بیش از حد کاربران طراحی شدهاند تا حدی که میتوانند آسیبهای روانی ایجاد کرده و به بحرانهای سلامت روان دامن بزنند، مقابله کنند.
به گزارش ایسنا به نقل از فیوچریسم، این سند که برنامه مایکروسافت برای ادغام نسخهای فراگیرتر و کاربرپسندتر از عاملهای هوش مصنوعی اوپن کلاو را در مجموعه نرمافزاری مایکروسافت ۳۶۵Microsoft ۳۶۵ شرح میدهد، از «سه مرحله» برای اجرای این طرح سخن میگوید. مرحله نخست: «مردم را معتاد کنید.»
در این سند آمده است: به ارائه تجربه مستقل کلاو پایلوت (ClawPilot) ادامه دهید. تجربه کاربری را آزمایش کرده و بهبود دهید، تعداد کاربران را افزایش دهید و اکوسیستمی از مهارتها و ابزارهایی بسازید که باعث شود کاربران هر روز بیشتر به آنها وابسته شوند. این روند همین حالا هم به صورت طبیعی در حال وقوع است.
کارمندان ناشناس مایکروسافت که با ۴۰۴ Media گفتوگو کردهاند، درباره این عبارتها دیدگاههای متفاوتی داشتند. یکی از آنها اشاره صریح به اعتیاد را «بسیار نگرانکننده» توصیف کرد.
اما کارمند دیگری نظر متفاوتی داشت و این موضوع را اینگونه توجیه کرد: مگر هدف نهایی همه نرمافزارهایی که شرکتهای بزرگ فناوری میسازند، این نیست که کاربران را به خود وابسته کنند؟ او با لحنی طنزآمیز افزود: خوشبختانه در مورد ما، مایکروسافت در ساخت محصولات اعتیادآور نسبت به بعضی از شرکتهای بزرگ دیگر چندان موفق نبوده است.
اگر واقعا هدف مایکروسافت اعتیادآور کردن هوش مصنوعیاش باشد، به نظر میرسد نخستین افرادی که گرفتار آن شدهاند، کارکنان خود این شرکت هستند. طبق این سند، بیش از هزار کارمند، از جمله مدیرعامل شرکت، ساتیا نادلا، از این ابزار جدید استفاده میکنند.
در سند آمده است: کلاو پایلوت به طور طبیعی به یکی از پرتقاضاترین ابزارهای داخلی مایکروسافت تبدیل شده است. نه اعلام رسمی در کار بوده، نه بازاریابی و نه هیچ کمپین سازمانی گستردهای.
با خواندن نثر سنگین و نامانوس این متن احتمالا تعجب نخواهید کرد اگر بدانید که خود سند نیز براساس توضیحی که در آن آمده، با کمک هوش مصنوعی به صورت مشترک تولید شده است.
در صنعت هوش مصنوعی، «اعتیاد» به یکی از واژههای ترسناک تبدیل شده است. از آنجا که چتباتها و سایر ابزارهای هوش مصنوعی با زبانی طبیعی و محاورهای با کاربران ارتباط برقرار میکنند و معمولا چاشنی قابل توجهی از تأیید و همراهی بیش از حد نیز در پاسخهایشان وجود دارد، کاربران ممکن است وابستگی ناسالمی به آنها پیدا کنند.
در نتیجه این پرسش مطرح میشود که آیا شرکتهایی که این فناوریها را توسعه میدهند، آگاهانه از این وابستگی برای افزایش تعامل کاربران استفاده میکنند، آن هم با وجود خطرات بالقوه برای سلامت روان و عملکرد شناختی افراد؟
اینکه مایکروسافت آشکارا اعلام کند «اعتیاد» هدف نهایی آن است، در خوشبینانهترین حالت ناشی از بیتوجهی به حساسیت موضوع به نظر میرسد و در بدبینانهترین حالت، رویکردی خطرناک و بدبینانه را نشان میدهد.
بله | ایتا | روبیکا | سروش پلاس | تلگرام | اینستاگرام | آپارات
هیچ نظر! یکی از اولین.