محدودیت جدید هوش مصنوعی برای این کاربران

به گزارش خبرمحور به نقل از زومیت، در دنیایی که فناوری هوش مصنوعی هر روز بیش از گذشته در زندگی ما نفوذ می کند، تصمیم تازه استارتاپ معروف Character AI موجی از بحث و واکنش را در سراسر فضای مجازی ایجاد کرده است. این شرکت اعلام کرده که از اواخر نوامبر ۲۰۲۵ (اوایل آذر ۱۴۰۴) گفت و گوهای آزاد کاربران زیر ۱۸ سال با چت بات های خود را به طور کامل متوقف خواهد کرد.

این تصمیم، مرز جدیدی میان امنیت آنلاین نوجوانان و آزادی خلاقیت دیجیتال ترسیم می کند. مدیرعامل این شرکت، کاراندیپ آناند، در گفت و گو با رسانه CBS News تأکید کرد که هدف این اقدام، «حفاظت از سلامت روان کاربران جوان» است.

نگرانی از تاثیر روانی چت بات ها

طی ماه های گذشته، گزارش های متعددی از آسیب های روانی نوجوانان منتشر شد که بخشی از آن به تعاملات احساسی یا وابستگی شدید کاربران با چت بات های هوش مصنوعی مربوط می شد. برخی از این پرونده ها حتی به خودکشی کاربران نوجوان منتهی شده بود. همین مسئله موجب شد Character AI در مسیر بازنگری سیاست های خود گام جدی بردارد.

شرکت اعلام کرده برای اجرای دقیق این محدودیت از فناوری های نوینی استفاده می کند؛ از جمله احراز هویت سنی، تشخیص چهره و بررسی کارت شناسایی. به این ترتیب کاربران زیر ۱۸ سال عملاً امکان دور زدن این قانون را نخواهند داشت.

تحول پلتفرم از گفت و گو به خلاقیت

Character AI قصد ندارد کاربران نوجوان را از پلتفرم خود حذف کند، بلکه می خواهد تجربه آن ها را از گفت و گوی احساسی به خلق محتوای دیجیتال تغییر دهد. این شرکت در بیانیه ای رسمی اعلام کرد:

• «هدف ما این است که نوجوانان از مصرف کنندگان منفعل هوش مصنوعی به خالقان فعال محتوا تبدیل شوند.»

در نسخه جدید پلتفرم، ابزارهایی نظیر AvatarFX برای ساخت ویدیوهای کوتاه، Scenes برای خلق داستان های تعاملی و Community Feed برای اشتراک آثار کاربران فعال خواهد بود. این قابلیت ها کاربران جوان را به سمت خلاقیت و یادگیری مهارت های دیجیتال سوق می دهند.

قانون گذاران در پی کنترل چت بات های همراه

تصمیم Character AI در حالی اتخاذ شده که قانون گذاران آمریکایی نیز در حال بررسی لوایحی برای محدودسازی دسترسی نوجوانان به چت بات های همراه هستند. برخی از سناتورهای ایالات متحده پیشنهاد داده اند شرکت های فعال در حوزه هوش مصنوعی در صورت آسیب رساندن روانی یا رفتاری به کاربران نوجوان، مسئول شناخته شوند.

Character AI با اتخاذ این سیاست جدید عملاً پیش از اجباری شدن این قوانین، در مسیر انطباق با آن ها گام برداشته است. کارشناسان این اقدام را حرکتی هوشمندانه می دانند که می تواند الگوی جدیدی برای سایر شرکت های فعال در حوزه هوش مصنوعی ایجاد کند.

چت بات ها و بحران اعتماد در نسل جدید

در سال های اخیر، چت بات های مبتنی بر هوش مصنوعی به بخشی از زندگی دیجیتال نوجوانان تبدیل شده اند. از هم صحبت های مجازی گرفته تا همراهان عاطفی دیجیتال، این ابزارها توانسته اند خلأ ارتباطی در نسل جدید را پر کنند. اما روانشناسان هشدار داده اند که این تعامل ها ممکن است باعث وابستگی عاطفی، کاهش مهارت های اجتماعی و افزایش افسردگی در نوجوانان شود.

به گفته دکتر «امیلی تامپسون»، روانشناس حوزه فناوری در دانشگاه UCLA، «وقتی نوجوانان احساس می کنند یک ربات آن ها را بهتر از انسان ها درک می کند، خطر انزوای اجتماعی افزایش می یابد. این روند می تواند اثرات بلندمدتی بر سلامت روان داشته باشد.»

هوش مصنوعی؛ دوست یا تهدید؟

اگرچه هوش مصنوعی در حوزه آموزش، خلاقیت و حتی درمان روانی کاربردهای مثبت زیادی دارد، اما مرز میان کمک و آسیب بسیار باریک است. چت بات هایی که برای همدلی طراحی شده اند، ممکن است ناخواسته به تقویت وابستگی عاطفی منجر شوند. به همین دلیل تصمیم Character AI برای تغییر مسیر تعامل نوجوانان از «گفت و گو» به «خلاقیت»، از نگاه بسیاری از کارشناسان، تحولی مثبت در جهت سلامت دیجیتال نسل آینده محسوب می شود.

واکنش کاربران و کارشناسان

در شبکه های اجتماعی، کاربران نظرات متفاوتی درباره این تصمیم ابراز کرده اند. برخی از والدین و متخصصان از این اقدام استقبال کرده اند و آن را «گامی مسئولانه» می دانند. اما برخی دیگر معتقدند که این محدودیت ممکن است نوجوانان را به استفاده از پلتفرم های غیررسمی و بدون نظارت سوق دهد.

یکی از کاربران در پلتفرم X (توییتر سابق) نوشت:

• «بهتر بود Character AI به جای قطع کامل ارتباط، گفت و گوهای امن و تحت نظارت برای نوجوانان طراحی می کرد.»

با این حال، به نظر می رسد هدف اصلی شرکت کاهش خطرات فوری و جلوگیری از آسیب های روانی جدی باشد تا بتواند در آینده پلتفرمی امن تر و آموزشی تر بسازد.

گامی فراتر از رقبا

Character AI از جمله استارتاپ هایی است که در سال های اخیر به سرعت رشد کرده و در کنار رقبایی مانند Replika و ChatGPT توانسته میلیون ها کاربر جذب کند. اما برخلاف دیگر پلتفرم ها، این شرکت با تمرکز بر تجربه شخصی و تعامل احساسی با هوش مصنوعی شناخته می شود. تصمیم جدید برای محدودسازی کاربران نوجوان نشان می دهد شرکت می خواهد تصویر خود را از «چت بات همراه» به «ابزار خلاقیت دیجیتال» تغییر دهد.

جمع بندی

تصمیم استارتاپ Character AI برای قطع ارتباط نوجوانان با چت بات های خود، گامی جسورانه در جهت امنیت و سلامت روانی نسل جدید است. این تصمیم نه تنها می تواند الگوی جدیدی در صنعت هوش مصنوعی ایجاد کند، بلکه فرصتی است برای بازتعریف نقش فناوری در زندگی نوجوانان؛ از گفت و گوهای احساسی به خلق خلاقانه و امن.