فاجعه سازی ربات های قاتل / سازمان ملل هشدار شدید صادر کرد
رقابت جهانی برای توسعه هوش مصنوعی تنها به ساخت چتباتها و ابزارهای هوشمند محدود نمانده و حالا به یکی از حساسترین حوزههای نظامی نیز رسیده است. همزمان با افزایش سرمایهگذاری کشورها روی سلاحهای خودمختار، سازمان ملل متحد نسبت به پیامدهای واگذاری تصمیم شلیک و کشتن به ماشینها هشدار داده و خواستار ممنوعیت جهانی این فناوری شده است؛ موضوعی که بار دیگر بحث «رباتهای قاتل» را به صدر نگرانیهای امنیتی و اخلاقی جهان بازگردانده است.
هوش مصنوعی وارد میدان جنگ میشود
به گزارش خبر محور به نقل از دیجینوی؛ فعالان حوزه ایمنی هوش مصنوعی برای جلب حمایت از دیدگاههای خود، سناریوهای فرضی و گاه آخرالزمانی متعددی را مطرح میکنند.
با این حال، هیچیک از این سناریوها به اندازه مفهوم رباتهای قاتل نمیتواند احساسات و نگرانی افکار عمومی را برانگیزد. طی چندین دهه، فرهنگ عمومی مملو از آثار علمیتخیلی بوده که در آنها ماشینهای هوشمند از کنترل خارج میشوند و علیه انسانهایی که آنها را ساختهاند وارد جنگ میشوند.
فیلمهای The Terminator و The Matrix از شناختهشدهترین نمونهها هستند. همچنین قسمت Metalhead از فصل چهارم سریال Black Mirror که در سال ۲۰۱۷ پخش شد، آیندهای هولناک را به تصویر میکشد که در آن رباتهای چهارپای خودمختار، که شباهت زیادی به ربات Spot شرکت بوستون داینامیکس دارند، انسانها را تعقیب کرده و بهصورت سیستماتیک از بین میبرند. داستانهای مجموعه Dune نیز پس از وقوع جنگی ویرانگر میان بشر و ماشینهای متفکر جریان دارد. نمونههای مشابه بسیار بیشتری نیز وجود دارد.
به همین دلیل، زمانی که دبیرکل سازمان ملل متحد از کشورهای جهان میخواهد رباتهای قاتل را ممنوع کنند، این عبارت بهسرعت در ذهن افکار عمومی طنینانداز میشود. این موضوع بهویژه در شرایطی اهمیت بیشتری پیدا میکند که مردم از مسیر فعلی توسعه هوش مصنوعی به دلایل ملموستری مانند افزایش شدید مصرف برق و هزینههای انرژی، همچنین گسترش بیضابطه دیپفیکها در فضای آنلاین، نگرانیهای جدی پیدا کردهاند.
روز دوشنبه، همزمان با برگزاری نخستین گفتوگوی جهانی درباره حکمرانی هوش مصنوعی در شهر ژنو، آنتونیو گوترش، دبیرکل سازمان ملل متحد، توسعه سلاحهای مجهز به هوش مصنوعی را از نظر اخلاقی کاملاً غیرقابل قبول توصیف کرد و از ۱۹۳ کشور عضو سازمان ملل خواست بهطور مشترک استفاده از این فناوری را در میدانهای نبرد ممنوع کنند.
او در سخنرانی خود تأکید کرد که برخی تصمیمها باید برای همیشه در اختیار انسان باقی بمانند و هیچ تصمیمی مهمتر از تصمیم برای گرفتن جان یک انسان نیست.
اظهارات آنتونیو گوترش بازتابدهنده بخشی از سند Magnifica Humanitas بود که پاپ لئو چهاردهم اخیراً منتشر کرده است. پاپ در این متن نوشته بود که توسعه و بهکارگیری هوش مصنوعی در جنگ باید تحت سختگیرانهترین محدودیتهای اخلاقی قرار گیرد تا احترام به کرامت انسانی و قداست جان انسان حفظ شود و از شکلگیری رقابت جهانی برای تولید چنین تسلیحاتی جلوگیری شود.
شکاف دیدگاهها در سیلیکونولی
استفاده نظامی از فناوریهای نوین سالهاست که به یکی از موضوعات اختلافبرانگیز در میان شرکتها و کارکنان حوزه فناوری در سیلیکونولی تبدیل شده است. در سال ۲۰۱۸، هزاران نفر از کارکنان گوگل با امضای نامهای خطاب به ساندار پیچای، مدیرعامل این شرکت، نسبت به همکاری گوگل با پروژه نظامی وزارت دفاع آمریکا موسوم به Project Maven اعتراض کردند. یک سال بعد نیز مایکروسافت با اعتراضات داخلی مشابهی روبهرو شد؛ زیرا قراردادی برای تأمین هدستهای واقعیت افزوده HoloLens جهت آموزش نیروهای ارتش آمریکا منعقد کرده بود.
اما ظهور هوش مصنوعی، به دلیل توانایی آن در تحلیل حجم عظیمی از دادهها، شناسایی الگوهای پیچیده و اتخاذ تصمیم بدون نظارت مستقیم انسان، پرسشهای تازه و بسیار مهمی درباره ارتباط شرکتهای فناوری با بخش نظامی ایجاد کرده است. یکی از مشهورترین نمونهها، اختلاف میان شرکت Anthropic و وزارت جنگ آمریکا در اوایل سال جاری بود.
موضوع اصلی این اختلاف آن بود که آیا سامانههای هوش مصنوعی این شرکت میتوانند برای نظارت داخلی یا توسعه سامانههای تسلیحاتی خودمختار مورد استفاده قرار گیرند یا خیر. Anthropic مخالفت خود را با هر دو کاربرد حفظ کرد و همین موضوع باعث شد پیت هگست، وزیر جنگ آمریکا، این شرکت را بهعنوان یک ریسک زنجیره تأمین معرفی کند؛ برچسبی که به معنای تهدید بالقوه برای امنیت ملی است. این نخستین بار بود که چنین عنوانی به یک شرکت آمریکایی داده میشد و Anthropic اکنون در دادگاه تلاش میکند این تصمیم را لغو کند.
حامیان استفاده از سلاحهای مجهز به هوش مصنوعی معتقدند چنین فناوریهایی میتوانند در شرایط حساس میدان نبرد به تصمیمگیری نیروهای انسانی کمک کنند و احتمال اشتباه در شناسایی غیرنظامیان بهعنوان اهداف نظامی را کاهش دهند. برخی نیز از منظر اخلاقی استدلال میکنند که ایالات متحده وظیفه دارد برتری فناوری خود را در زمینه سلاحهای خودمختار نسبت به رقبایی مانند چین، روسیه و ایران حفظ کند تا از نظر امنیتی عقب نماند.
ترامپ ابهامها درباره تسلیحات هوش مصنوعی را افزایش داد
دونالد ترامپ در یادداشت امنیت ملی که ماه گذشته منتشر کرد، دولتهای پیشین آمریکا را متهم کرد که با ایجاد بوروکراسی غیرضروری، روند توسعه هوش مصنوعی، از جمله سلاحهای خودمختار، را کند کردهاند. با این حال، از زمان انتشار این یادداشت، هر دو شرکت OpenAI و Anthropic که از پیشگامان توسعه هوش مصنوعی در آمریکا هستند، خود درگیر پیچیدگیهای اداری دولت ترامپ شدهاند و این موضوع آنها را وادار کرده پیشرفتهترین مدلهای خود را مطابق شرایط تعیینشده از سوی دولت عرضه کنند.
ترامپ در ادامه این یادداشت نوشت که در همین زمان، رقبای آمریکا به توسعه و استفاده از هوش مصنوعی و فناوریهای پیشرفته خودمختار در حوزههای نظامی و اطلاعاتی ادامه دادهاند و این کار را با بیتوجهی به نظارت انسانی مناسب و حقوق و آزادیهای مدنی انجام میدهند.
او همچنین تأکید کرد که دولتش متعهد است استفاده از هوش مصنوعی را در حوزههای اطلاعاتی و نظامی با سرعت بیشتری گسترش دهد، اما این روند باید به شکلی مسئولانه و مطابق ارزشهای آمریکا دنبال شود.
در مقابل، آنتونیو گوترش، پاپ لئو چهاردهم و بسیاری از مدافعان ایمنی هوش مصنوعی هشدار میدهند که رقابت تسلیحاتی مبتنی بر فناوری که اکنون میان آمریکا و چین جریان دارد، ممکن است در آینده نزدیک به تولید سلاحهای کاملاً خودمختاری منجر شود که فرآیند تصمیمگیری آنها برای سازندگان انسانی نیز غیرقابل درک باشد و در نهایت از کنترل انسان خارج شوند.
به باور این گروه، اگر چنین آیندهای رقم بخورد، پیامدهای آن میتواند بسیار تاریکتر و هولناکتر از هر آن چیزی باشد که تاکنون در آثار علمیتخیلی و داستانهای آخرالزمانی به تصویر کشیده شده است.
اگر هوش مصنوعی بتواند بدون دخالت انسان درباره شلیک یا کشتن تصمیم بگیرد، به نظر شما باید استفاده از چنین سلاحهایی در جهان ممنوع شود یا میتواند به کاهش تلفات جنگ کمک کند؟
سوالات متداول
ربات قاتل چیست؟
ربات قاتل یا سلاح خودمختار به سامانهای گفته میشود که با استفاده از هوش مصنوعی میتواند بدون دستور مستقیم انسان، هدف را شناسایی کرده و به آن حمله کند.
چرا سازمان ملل خواستار ممنوعیت رباتهای قاتل شده است؟
زیرا از نگاه سازمان ملل، تصمیم درباره گرفتن جان انسان باید همیشه در اختیار انسان باشد و نباید به هوش مصنوعی واگذار شود.
کدام کشورها روی سلاحهای هوش مصنوعی سرمایهگذاری میکنند؟
آمریکا، چین، روسیه و برخی دیگر از قدرتهای نظامی از جمله کشورهایی هستند که در توسعه فناوریهای نظامی مبتنی بر هوش مصنوعی فعالیت دارند.
حامیان سلاحهای مجهز به هوش مصنوعی چه استدلالی دارند؟
آنها معتقدند این فناوری میتواند دقت عملیات نظامی را افزایش دهد، خطای انسانی را کاهش دهد و از تلفات غیرنظامیان جلوگیری کند.
مهمترین نگرانی منتقدان چیست؟
منتقدان هشدار میدهند که سلاحهای کاملاً خودمختار ممکن است از کنترل انسان خارج شوند یا تصمیمهایی بگیرند که قابل پیشبینی و توضیح نباشد.
بله | ایتا | روبیکا | سروش پلاس | تلگرام | اینستاگرام | آپارات
هیچ نظر! یکی از اولین.