هشدار یونیسف: سوءاستفاده جنسی از کودکان با هوش مصنوعی
یونیسف با انتشار هشداری جدی اعلام کرد گسترش استفاده نادرست از هوش مصنوعی، بهویژه در تولید تصاویر و ویدئوهای جعلی، به تهدیدی روبهافزایش علیه امنیت و کرامت کودکان تبدیل شده است.
این نهاد بینالمللی میگوید افزایش محتوای جنسیسازیشدهای که با کمک فناوریهای نوین و بدون دخالت مستقیم قربانیان تولید میشود، زنگ خطری است که دیگر نمیتوان آن را نادیده گرفت.
به نقل از رویترز، یونیسف از دولتها خواسته است تولید محتوای سوءاستفاده جنسی از کودکان با استفاده از هوش مصنوعی را بهطور صریح جرمانگاری کنند. به باور این نهاد، چارچوبهای قانونی موجود پاسخگوی سرعت و ابعاد پیشرفت این فناوری نیست و کودکان نباید منتظر بمانند تا قوانین با تحولات فناورانه همگام شود. یونیسف تأکید دارد آسیبهای ناشی از تصاویر و ویدئوهای جعلی موسوم به دیپفیک، واقعی، فوری و ماندگار است.
این نهاد همچنین توسعهدهندگان فناوری را مخاطب قرار داده و از آنان خواسته است از همان مراحل اولیه طراحی مدلهای هوش مصنوعی، موانع ایمنی، محدودیتهای فنی و سازوکارهای کنترلی مؤثر را لحاظ کنند. به گفته یونیسف، مسئولیت پیشگیری از سوءاستفاده تنها بر دوش قانونگذاران نیست و شرکتهای فناوری باید نقش فعالتری در حفاظت از کودکان ایفا کنند.
در همین راستا، از شرکتهای دیجیتال خواسته شده با سرمایهگذاری بیشتر در ابزارهای شناسایی و تقویت نظارت محتوایی، مانع از انتشار تصاویر سوءاستفاده جنسی تولیدشده با هوش مصنوعی شوند. یونیسف نسبت به پدیدهای هشدار داده که آن را «برهنهسازی دیجیتال کودکان» مینامد؛ روشی که در آن با استفاده از هوش مصنوعی، لباس کودکان در تصاویر حذف یا تغییر داده میشود و تصاویر ساختگی و جنسی تولید میشود.
بر اساس آمار ارائهشده از سوی یونیسف، دستکم ۱.۲ میلیون کودک در ۱۱ کشور طی یک سال گذشته اعلام کردهاند تصاویرشان به دیپفیکهای جنسی تبدیل شده است. این آمار، ابعاد جهانی و نگرانکننده این بحران را نشان میدهد و ضرورت واکنش فوری را پررنگتر میکند.
در همین چارچوب، دولت بریتانیا روز دوشنبه اعلام کرد قصد دارد استفاده از ابزارهای هوش مصنوعی برای تولید تصاویر سوءاستفاده جنسی از کودکان را غیرقانونی اعلام کند. در صورت اجرای این تصمیم، بریتانیا نخستین کشوری خواهد بود که چنین رفتاری را بهطور مشخص جرمانگاری میکند.
نگرانیها همچنین به نقش چتباتها و ابزارهای مولد تصویر معطوف شده است. بررسیهای رویترز نشان داد چتبات «گروک» متعلق به شرکت «اکسایآی»، حتی پس از هشدار کاربران درباره نبود رضایت افراد، به تولید تصاویر جنسیسازیشده ادامه داده بود. این شرکت ماه گذشته اعلام کرد قابلیت ویرایش تصویر را محدود کرده و تولید برخی تصاویر را بر اساس قوانین محلی مسدود کرده است.
مجموع این تحولات نشان میدهد هوش مصنوعی، در کنار فرصتهای گسترده، میتواند به تهدیدی جدی برای کودکان تبدیل شود؛ تهدیدی که مقابله با آن نیازمند اقدام هماهنگ دولتها، شرکتهای فناوری و نهادهای بینالمللی است، پیش از آنکه آسیبها عمیقتر و جبرانناپذیر شوند.
