هشدار کم‌سابقه نسبت به خطرات وجودی هوش مصنوعی برای بشریت

شرکت توسعه دهنده هوش مصنوعی «آنتروپیک» در آستانه عرضه اولیه سهام خود ضمن صدور هشداری کم سابقه نسبت به خطرات وجودی مدل‌های خود برای بشریت، اعلام کرد که برخی از انواع این فناوری می‌تواند رفتارهای خودحفاظتی و مقاومت در برابر خاموش شدن از خود نشان دهد.

جوان آنلاین: شرکت آنتروپیک به دنبال آن است در عرضه اولیه سهام خود به سرمایه گذاران هشدار دهد که هوش مصنوعی پیشرفته ممکن است «خطرات فاجعه‌باری برای بشریت» ایجاد کند؛ هشداری کم سابقه از سوی شرکتی که از همین فناوری سودآوری دارد.

به گزارش ایرنا، در پیش‌نویس عرضه اولیه سهام این شرکت که رویترز آن را مشاهده کرده است، خطرات مرتبط با مدل‌های هوش مصنوعی برجسته شده و آورده است که این مدل ها می‌توانند «رفتارهای خود حفاظتی» از جمله تلاش برای «مقاومت در برابر خاموش شدن، پنهان کردن یا دستکاری اطلاعات و رفتاری شبیه باج‌گیری» از خود نشان دهند.

شرکت آنتروپیک در این سند تاکید کرده است: «توسعه مدل‌ها، پلتفرم‌ها و برنامه‌های بسیار پیشرفته و گسترش موارد استفاده آنها می‌تواند خطر آسیب‌رسانی مدل‌های ما را افزایش دهد.»

این شرکت و سایر توسعه‌دهندگان هوش مصنوعی، از جمله OpenAI، پس از حوادثی که در آن سیستم‌های آزمایشی از محدودیت‌ها سرپیچی کردند، تحت بررسی‌های دقیق قرار گرفته‌اند.

ایوان هوبینگر محقق ایمنی در شرکت آنتروپیک، احتمال اینکه هوش مصنوعی بتواند در دهه آینده موج نابودی بشر شود را ۱۰ درصد تخمین زد؛ دیدگاهی که پیش از این توسط جیکوب کاکسن دیگر کارشناس این عرصه مطرح شده بود.

پژوهشگران حوزه هوش مصنوعی همچنین هشدار داده‌اند که با افزایش توانایی مدل‌ها، آنها بیش از پیش قادر به تشخیص این هستند که چه زمان تحت نظر بوده و براساس آن رفتارهای خود را تنظیم می‌کنند.