هشدار انگلیس درباره خطرات هوش مصنوعی!

مشاور کارگروه هوش مصنوعی نخست وزیر بریتانیا گفت که انسان‌ها تقریباً دو سال فرصت دارند تا هوش مصنوعی را قبل از اینکه بیش از حد قدرتمند شود کنترل و تنظیم کنند.
مت کلیفورد که به عنوان رئیس آژانس تحقیقات و اختراعات پیشرفته دولتی (ARIA) نیز فعالیت می‌کند، در مصاحبه با یک رسانه محلی بریتانیا تأکید کرد که سیستم‌های کنونی “با سرعت فزاینده‌ای توانمندتر می‌شوند.”
وی ادامه داد که اگر مسئولان ایمنی و مقررات را حالا در نظر نگیرند، تا دو سال دیگر سیستم‌ها «بسیار قدرتمند» خواهند شد.
کلیفورد در مورد هوش مصنوعی هشدار داد که “انواع مختلفی از خطرات” وجود دارد، چه در کوتاه‌مدت و چه در دراز‌مدت، که او آن را “بسیار ترسناک” خواند.
این مصاحبه پس از نامه سرگشاده مرکز ایمنی هوش مصنوعی، منتشر شد. در آن نامه گفته شده بود که هوش مصنوعی باید به عنوان یک تهدید وجودی مشابه با تهدیدات ناشی از سلاح‌های هسته‌ای و بیماری‌های همه‌گیر در نظر گرفته شود.

با ۱۰ هزار تومان ترید رو شروع کن!

تو ارزپلاس میتونی فقط با ۱۰ هزار تومان و با کارمزد صفر، همه ارزهای دیجیتال رو ترید کنی!

شروع

به گفته کلیفورد، تمرکز اصلی تنظیم‌کننده‌ها و توسعه‌دهندگان باید بر درک نحوه کنترل مدل‌ها و سپس اجرای مقررات در مقیاس جهانی باشد.
کلیفورد گفت که در حال حاضر بزرگ‌ترین ترس او عدم درک این است که چرا مدل‌های هوش مصنوعی اینگونه رفتار می‌کنند.
افرادی که در حال ساختن قوی‌ترین سیستم‌ها هستند، آزادانه اعتراف می‌کنند که دقیقاً نمی‌دانند سیستم‌های هوش مصنوعی چگونه رفتارهایی را از خود نشان می‌دهند.
کلیفورد تأکید کرد که بسیاری از رهبران سازمان‌های سازنده هوش مصنوعی نیز موافق هستند که مدل‌های قدرتمند هوش مصنوعی باید قبل از استقرار تحت نوعی فرآیند ممیزی و ارزیابی قرار گیرند.
مقامات اتحادیه اروپا تا آنجا پیش رفتند که پیشنهاد کردند برای جلوگیری از انتشار اطلاعات نادرست، تمام محتوای تولیدشده توسط هوش مصنوعی برچسب‌گذاری شود.