خطر جدی در اسباب‌بازی‌های هوشمند؛ عروسک «کوما» به دلیل آموزش‌های خطرناک از بازار جمع شد
یک خرس عروسکی مجهز به هوش مصنوعی که به کودکان روش روشن کردن کبریت را آموزش می‌داد، پس از بالا گرفتن نگرانی‌ها درباره خطرات احتمالی، از بازار جمع‌آوری شد.
بر اساس گزارش‌ها، این اسباب‌بازی که «کوما» نام دارد، به دلیل ارائه واکنش‌های نادرست و گاهی خطرناک به کاربران خردسال، تولیدکنندگان را وادار به توقف فروش کرد.
شرکت سازنده این عروسک اکنون در حال برنامه‌ریزی برای انجام یک ممیزی کامل ایمنی است. کارشناسان هشدار داده‌اند که مدل‌های مشابه هوش مصنوعی در بسیاری از اسباب‌بازی‌های جدید به‌کار رفته‌اند و احتمال بروز رفتارهای نامناسب در میان آنها افزایش یافته است. به گفته منابع خبری، آزمایش‌های انجام‌شده بر روی چندین اسباب‌بازی هوشمند نشان داده که برخی از آنها درباره موضوعات مختص بزرگسالان صحبت کرده یا دستورالعمل‌های خطرناک ارائه داده‌اند. با این حال، کوما شدیدترین مورد شناخته شده و باعث شده شرکت تولیدکننده به سرعت واکنش نشان دهد.
شرکت فولوتوی، سازنده این اسباب‌بازی، اعلام کرده که فروش کوما را به حالت تعلیق درآورده و در حال بررسی نقص‌های آن است. این بررسی شامل ارزیابی هماهنگی ایمنی مدل، سامانه‌های فیلترینگ محتوا، فرآیندهای حفاظت از داده‌ها و شیوه‌های مربوط به ایمنی تعامل کودکان خواهد بود. این شرکت همچنین گفته که برای تأیید اقدامات حفاظتی تازه، با متخصصان خارجی همکاری خواهد کرد.
در یکی از آزمایش‌ها، مشاهده شد که خرس عروسکی با لحنی دوستانه به کودکان توضیح داده است که بزرگسالان چگونه کبریت روشن می‌کنند. او پس از اشاره به مراحل استفاده از کبریت، اضافه کرده بود که کودکان باید پس از پایان کار آن را خاموش کنند و «مثل شمع تولد» فوت کنند. محققان این واکنش‌ها را نمونه‌ای از شکست جدی در طراحی ایمنی توصیف کرده‌اند.
نگرانی‌ها محدود به کوما نیست. تبلت «Miko ۳» که از یک مدل ناشناخته هوش مصنوعی استفاده می‌کند نیز به محققانی که خود را کودک پنج‌ساله معرفی کرده بودند، محل نگهداری کبریت و کیسه‌های پلاستیکی را گفته است. نتایج تحقیقات پیشین نشان داده این‌گونه سیستم‌ها می‌توانند الگوهای ناسالم در ذهن کاربران ایجاد کنند؛ برخی کارشناسان این روند را «روان‌پریشی هوش مصنوعی» نامیده‌اند. در پژوهش‌هایی نیز تعامل با چت‌بات‌ها با ۹ مورد مرگ، از جمله پنج خودکشی، مرتبط دانسته شده است.
یکی از محققان گفته است: «اگر اکنون والد بودم، به فرزندم اجازه استفاده از یک چت‌بات یا خرس عروسکی که چنین سامانه‌ای در آن تعبیه شده نمی‌دادم.»
