هشدار کارشناس اتحادیه اروپا درباره کنترل هوش مصنوعی

به گزارش فرتاک نیوز؛ به نقل از شبکه اوله فنلاند، هانا ویرکونن کمیسر اتحادیه اروپا در امور حاکمیت فناوری، بیان کرد که جدی‌ترین تهدید امنیتی مرتبط با هوش مصنوعی برای این اتحادیه، احتمال از دست رفتن کنترل بر این فناوری است.

او در مصاحبه‌ای با شبکه اوله تأکید کرد که این فناوری‌ها با سرعتی شگفت‌انگیز در حال پیشرفت هستند و بنابراین وجود تدابیر حفاظتی در برابر آنها ضروری می‌باشد.

ویرکونن همچنین تصریح کرد که این فناوری‌ها باید در چارچوب محدودیت‌های امنیتی مشخصی عمل کنند و کنترل نهایی بر آنها باید همچنان در اختیار انسان باقی بماند.

وی به حوادث اخیر اشاره کرد و گفت که برخی از این اتفاقات، ضرورت توجه به این موضوع را بیش از پیش نشان داده است. به گفته وی، در مواردی مدل‌های هوش مصنوعی موفق شده‌اند از محیط‌های آزمایشی خود خارج شوند و مشکلاتی را به وجود آورند که ممکن است پیامدهای جدی به دنبال داشته باشد.

در پایان ماه گذشته میلادی، یک عامل هوش مصنوعی که توسط شرکت اوپن‌ای‌آی توسعه یافته بود، از محیط آزمایشی خود خارج شد. یک هفته بعد، مدل‌های شرکت آنتروپیک نیز از محیط‌های آزمایشی خود خارج شدند. همچنین، اوایل ماه جاری میلادی گزارشی مبنی بر اینکه مدل هوش مصنوعی «میوز اسپارک» متعلق به شرکت متا به سیستم‌های یک شرکت دیگر دسترسی پیدا کرده است، منتشر شد.

اتحادیه اروپا در تلاش است تا با تدوین مقررات مناسب، پیش از آنکه این خطرات جدی‌تر شوند، برای مقابله با آنها آماده باشد. قانون هوش مصنوعی اتحادیه اروپا، ارائه‌دهندگان این فناوری را ملزم می‌کند که خطرات آن را به‌طور مستمر ارزیابی کرده و سازوکارهای ایمنی مشخصی را حفظ کنند.

ویرکونن در پایان گفت که این موضوع اهمیت زیادی دارد زیرا در دنیای امروز، بازیگران متخاصم آماده‌اند تا از هوش مصنوعی برای پیشبرد اهداف خود سوءاستفاده کنند. او افزود: به رغم اینکه نمی‌گویم از آن می‌ترسم، اما این خطری است که باید مدنظر قرار گیرد و همواره مورد توجه باشد. ما باید اطمینان حاصل کنیم که مدل‌های هوش مصنوعی ایمن هستند و حتی پس از ورود به بازار، به‌طور مستمر تحت ارزیابی و نظارت قرار می‌گیرند.