افشای کارمند سابق دیپ‌مایند درباره ممنوعیت صحبت عمومی از خطر انقراض با هوش مصنوعی

به گفته ویشال مِینی، که بین سال‌های ۲۰۱۸ تا ۲۰۲۲ در تیم ارتباطات و سیاست‌گذاری دیپ‌مایند فعالیت می‌کرد، ارتباطات خارجی درباره احتمال انقراض انسان در هیچ سطحی از سازمان مجاز نبود.

او می‌گوید پژوهشگران برای مواجهه با پرسش‌های مربوط به این خطرات آموزش می‌دیدند که آنها را نوعی هشدار افراطی و اغراق‌آمیز معرفی کنند، با فیلم‌هایی مانند «نابودگر» مقایسه کنند و سپس بحث را به سمت کاربردهای مثبت هوش مصنوعی در حوزه‌هایی مانند سلامت و تغییرات اقلیمی هدایت کنند.

با این حال، بر اساس روایت مِینی، در داخل سازمان آگاهی وجود داشت که مسئله هم‌راستاسازی هوش مصنوعی هنوز حل نشده و تعداد متخصصانی که روی این مسئله کار می‌کردند نیز کافی نبود.

مِینی می‌گوید پس از ماه‌ها مخالفت و پیگیری، این محدودیت تا حدی کاهش یافت و انتشار مطالب مرتبط با ایمنی هوش مصنوعی، در صورتی که با چارچوبی مثبت ارائه می‌شد، امکان‌پذیر شد.

او معتقد است فاصله میان دانش داخلی سازمان‌ها و پیام‌هایی که در ارتباطات عمومی درباره خطرات هوش مصنوعی ارائه می‌شود، در حال کاهش است؛ زیرا شواهد درباره خطرات احتمالی سامانه‌های پیشرفته هوش مصنوعی بیش از گذشته قابل نادیده گرفتن نیست.

این اظهارات هم‌زمان با افزایش هشدارهای عمومی پژوهشگران ایمنی هوش مصنوعی مطرح شده است. شماری از متخصصان درباره مدل‌های ناایمن که می‌توانند امکان انجام اقدامات خطرناک را فراهم کنند و همچنین درباره سامانه‌های پیشرفته‌ای که ممکن است از کنترل انسان خارج شوند، هشدار داده‌اند.

حتی پژوهشگرانی در خود دیپ‌مایند نیز در ماه‌های اخیر نگرانی‌های مرتبط با ایمنی هوش مصنوعی را به‌صورت عمومی مطرح کرده‌اند./شارا