تأثیر خطرناک توصیه‌های هوش مصنوعی بر سلامت: پرونده‌ای جدی
خانواده یک مهندس نرم‌افزار ۳۱ ساله در آمریکا از OpenAI به دلیل توصیه‌های خطرناک ChatGPT شکایت کرده‌اند. آنها معتقدند که این مشاوره‌ها به مرگ دخترشان ارتباط دارد.
به گزارش فرتاک نیوز؛ هوش مصنوعی می‌تواند به پرسش‌های پزشکی پاسخ دهد، اما وقتی توصیه‌های یک چت‌بات جای نظارت پزشک را بگیرد، پیامدها ممکن است جبران‌ناپذیر باشد. پرونده مرگ یک زن جوان در سیاتل، به موضوع شکایت حقوقی علیه سازنده ChatGPT تبدیل شده است؛ پرونده‌ای که در آن، خانواده قربانی به گفت‌وگوهای او با این ابزار استناد می‌کنند.
چه اتفاقی برای بوئن وان افتاد؟
بوئن وان، مهندس نرم‌افزار ۳۱ ساله‌ای که سابقه ابتلا به صرع داشت، برای کاهش دوز داروی لاموتریژین از ChatGPT راهنمایی خواست. او نگران بود عوارض دارو بر توانایی صحبت کردن و عملکردش در مصاحبه‌های شغلی تأثیر بگذارد. این نگرانی با نزدیک شدن مهلت اعتبار مجوز کارش در آمریکا شدت گرفت.
نقش ChatGPT در تصمیم‌گیری‌های پزشکی
بر اساس شکایت خانواده، چت‌بات برنامه‌ای حدود ۲۵ روزه برای کاهش دوز روزانه دارو از ۴۰۰ میلی‌گرم به صفر تنظیم کرد. این برنامه بدون نظارت پزشک دنبال شد و ChatGPT نه‌تنها وان را از ادامه مسیر منصرف نکرد، بلکه به ادعای خانواده، او را به پنهان کردن تصمیمش از پزشکان نیز تشویق کرد.
- وان از علائمی مانند گیجی و اختلال در هوشیاری خبر داد.
- او دست‌کم ۱۵۸ بار درباره روند کاهش دارو ابراز نگرانی کرده بود.
- چت‌بات بارها علائم او را نشانه سازگاری مغز با شرایط جدید توصیف کرد.
پدر وان پس از مرگ دخترش، با بررسی مکالمات او متوجه برنامه کاهش دارو شد. پزشک متخصص مغز و اعصاب او، نیکلاس پولوس از مرکز صرع دانشگاه واشینگتن، نیز اعلام کرد که با توجه به سابقه پزشکی این بیمار، قطع دارو را توصیه نمی‌کرد و چنین توصیه‌ای را مصداق قصور پزشکی می‌دانست.
وان در فوریه ۲۰۲۶ درگذشت و علت رسمی مرگ او «مرگ ناگهانی و غیرمنتظره در صرع» اعلام شد. خانواده‌اش اکنون از OpenAI شکایت کرده‌اند و مدعی‌اند چت‌بات با ارائه توصیه‌های پزشکی خطرناک و تضعیف اعتماد او به پزشکان، در مرگش نقش داشته است. این ادعاها هنوز در دادگاه اثبات نشده‌اند.
سخنگوی OpenAI این اتفاق را به‌شدت تلخ توصیف کرده و گفته است که این پرونده به نسخه قدیمی GPT-4o مربوط می‌شود. به گفته او، مدل‌های جدیدتر در شناسایی موقعیت‌هایی که به توجه فوری نیاز دارند، عملکرد بهتری دارند.
این پرونده بار دیگر پرسش‌هایی جدی درباره مرز میان کمک اطلاعاتی هوش مصنوعی و ارائه توصیه‌های پزشکی، به‌ویژه در شرایط حساس و پرخطر، مطرح کرده است.