هشدار درباره سلامت: هوش مصنوعی جای پزشک نیست

استفاده از ابزارهای هوش مصنوعی در زندگی روزمره به شدت افزایش یافته است و بسیاری از افراد برای پرسش‌های پزشکی و سلامت به ربات‌هایی مانند ChatGPT مراجعه می‌کنند. با این حال، تجربه‌ای واقعی نشان می‌دهد که اعتماد کامل به این ابزارها می‌تواند عواقب جدی داشته باشد.

یک مرد ۶۰ ساله پس از مشورت با ChatGPT تصمیم گرفت نمک خوراکی خود را با برومید سدیم جایگزین کند. این اقدام منجر به مسمومیت با برومید شد و او به مدت سه هفته در بخش روانپزشکی بستری شد. این حادثه ممکن است در نگاه اول خنده‌دار به نظر برسد، اما پیامدهای خطرناک تکیه بر هوش مصنوعی در حوزه سلامت را نشان می‌دهد.

ربات‌های هوش مصنوعی نمی‌توانند سابقه پزشکی شما را داشته باشند

ربات‌های هوش مصنوعی به اطلاعات سلامت شخصی دسترسی ندارند. بنابراین، نمی‌توانند در مورد علائم جدید، بیماری‌های مزمن، یا نیاز شما به مراقبت فوری توصیه دقیقی ارائه دهند.

دکتر مارگارت لوزواتسکی، مدیر ارشد اطلاعات پزشکی انجمن پزشکی آمریکا، معتقد است که توصیه‌های سلامتی ربات‌های هوش مصنوعی بسیار کلی و عمومی هستند و نباید به عنوان جایگزین پزشک استفاده شوند. او افزود بهترین کاربرد این ابزارها، کمک به کاربران برای به دست آوردن اطلاعات زمینه‌ای و آماده‌سازی پرسش‌ها برای پزشک است.

اطلاعات هوش مصنوعی ممکن است قدیمی یا نادرست باشد

هوش مصنوعی مولد (Generative AI) بر داده‌هایی آموزش دیده که ممکن است تازه‌ترین توصیه‌های پزشکی را منعکس نکنند. برای مثال، مرکز کنترل و پیشگیری از بیماری آمریکا اخیراً توصیه جدیدی برای واکسن آنفولانزا صادر کرده است که برخی ربات‌های هوش مصنوعی ممکن است از آن بی‌اطلاع باشند.

یکی از خطرات بزرگ هوش مصنوعی این است که حتی وقتی اشتباه می‌کند، پاسخ‌ها قانع‌کننده و مطمئن به نظر می‌رسند. سیستم‌ها ممکن است برای پر کردن شکاف‌ها اطلاعات نادرست ارائه کنند. مطالعه‌ای در مجله Nutrients نشان داد که ربات‌های محبوب مانند ChatGPT، Gemini و Microsoft Copilot قادر به تنظیم دقیق برنامه‌های غذایی برای کاهش وزن نیستند و نمی‌توانند تعادل درشت‌مغذی‌ها را به درستی رعایت کنند.

دکتر آینسلی مک لین، مشاور هوش مصنوعی سلامت، تأکید دارد که اطلاعات هوش مصنوعی ممکن است برای هر فرد متفاوت و غیرقابل اعتماد باشد و هرگز نباید تنها بر آن تکیه کرد.

قوانین حریم خصوصی و هوش مصنوعی

ربات‌های هوش مصنوعی تحت قوانین حفظ حریم خصوصی سلامت مانند HIPAA قرار ندارند، بنابراین اطلاعات شخصی شما ممکن است به هرجایی منتقل شود. متخصصان توصیه می‌کنند اطلاعات حساس سلامت خود را در چت‌ها وارد نکنید و از هوش مصنوعی تنها برای کسب دانش کلی و زمینه‌ای استفاده کنید.

هنگام بررسی پاسخ‌های هوش مصنوعی، کاربران باید همیشه:

• منبع اطلاعات را بررسی کنند (آیا از مجلات علمی یا سازمان‌های پزشکی معتبر آمده است؟)

• تاریخ به‌روزرسانی اطلاعات را بررسی کنند

• در صورت داشتن علائم جدید، فوراً به پزشک مراجعه کنند

نکات کلیدی برای کاربران

1. توصیه‌های پزشکی هوش مصنوعی جایگزین پزشک نیست و ممکن است خطرناک باشد.

2. اطلاعات ممکن است قدیمی یا نادرست باشند و به اشتباه هدایت کنند.

3. استفاده صحیح از هوش مصنوعی شامل کسب دانش عمومی، توضیح اصطلاحات پزشکی و آماده‌سازی پرسش‌ها برای پزشک است.

4. همواره توصیه‌های AI را با پزشک خود بررسی کنید و در مورد هر اقدام درمانی صریح و صادق باشید.

جمع‌بندی

تجربه مرد ۶۰ ساله نشان می‌دهد که تکیه کامل بر ChatGPT و دیگر ربات‌های هوش مصنوعی در حوزه سلامت می‌تواند خطرناک باشد. هوش مصنوعی بهترین کاربرد خود را در اطلاعات زمینه‌ای و آموزشی دارد و هر اقدام درمانی باید تحت نظر پزشک متخصص انجام شود. کاربران باید همواره هوشمندانه و محتاط عمل کنند تا از عواقب جدی جلوگیری شود./عصرایران