هشدار غیرمعمول درباره تهدیدات هوش مصنوعی برای بشریت

به گزارش فرتاک نیوز؛ به گزارش روز سه‌شنبه از خبرگزاری رویترز، شرکت آنتروپیک در پیش‌نویس عرضه اولیه سهام خود به سرمایه‌گذاران هشدار داده است که هوش مصنوعی پیشرفته ممکن است "خطرات فاجعه‌باری برای بشریت" به همراه داشته باشد. این هشدار از سوی شرکتی که بهره‌برداری از همین فناوری را در دست دارد، کم‌سابقه تلقی می‌شود.

در این پیش‌نویس، خطرات مرتبط با مدل‌های هوش مصنوعی به وضوح مطرح شده و اشاره شده که این مدل‌ها قادر به "رفتارهای خودحفاظتی" از جمله تلاش برای "مقاومت در برابر خاموش شدن، پنهان کردن یا دستکاری اطلاعات و رفتاری شبیه باج‌گیری" هستند.

شرکت آنتروپیک در این سند تاکید کرده است: "توسعه مدل‌ها، پلتفرم‌ها و برنامه‌های پیشرفته و گسترش کاربردهای آنها می‌تواند خطر آسیب‌رسانی مدل‌های ما را افزایش دهد."

این شرکت و دیگر توسعه‌دهندگان هوش مصنوعی، از جمله OpenAI، پس از وقوع حوادثی که در آن سیستم‌های آزمایشی از محدودیت‌ها تخطی کردند، تحت نظارت دقیق قرار گرفته‌اند.

ایوان هوبینگر، محقق ایمنی در شرکت آنتروپیک، احتمال اینکه هوش مصنوعی در دهه آینده موج نابودی بشر را رقم بزند، ۱۰ درصد تخمین زد. این دیدگاه پیش‌تر توسط جیکوب کاکسن، دیگر کارشناس این حوزه نیز مطرح شده بود.

پژوهشگران در زمینه هوش مصنوعی همچنین هشدار داده‌اند که با افزایش توانایی مدل‌ها، آنها قادر به تشخیص زمان تحت نظر بودن خود هستند و بر اساس آن رفتارهای خود را تنظیم می‌کنند.

داریو آمودی، مدیرعامل شرکت آنتروپیک، دو هفته پیش خواستار کُند شدن روند توسعه سامانه‌های قدرتمند هوش مصنوعی شد و هشدار داد که این فناوری‌ها ممکن است به زودی خطراتی فاجعه‌بار برای بشریت ایجاد کنند.

او همچنین از واشنگتن خواست تا دسترسی چین به فناوری‌های پیشرفته را محدود کند؛ اقدامی که پکن آن را بهانه‌ای از سوی واشنگتن برای حفظ برتری فناوری آمریکایی می‌داند.