هشدار جدی سازمان ملل درباره هوش مصنوعی

به گزارش هوشمند نیوز به نقل از فارس، آنتونیو گوترش، دبیر کل سازمان ملل متحد امروز سه‌شنبه هشدار داد استفاده مخرب از سیستم‌های هوش مصنوعی می‌تواند باعث ایجاد مرگ و ویرانی‌های «وحشتناکی» شود.

به گزارش گاردین، گوترش گفت استفاده نامناسب از هوش مصنوعی برای اهداف تروریستی، مجرمانه یا دولتی می‌تواند باعث ایجاد «آسیب‌های عمیق روان‌شناختی» شود.

وی مدعی شد حملات سایبری که به وسیله هوش مصنوعی تقویت شده‌اند همین الان در حال هدف قرار دادن عملیات‌های انسان‌دوستانه سازمان ملل هستند.

دبیر کل سازمان ملل تصریح کرد: «استفاده مخرب از سیستم‌های هوش مصنوعی برای اهداف تروریستی، مجرمانه یا دولتی می‌تواند سطوح وحشتناکی از مرگ و ویرانی به بار آورده و باعث ایجاد میزان غیرقابل تصوری از روان‌زخم‌ها (تروما) و آسیب‌های عمیق روان‌شناختی شوند.»

آنتونیو گوترش که در نخستین جلسه شورای امنیت درباره هوش مصنوعی صحبت می‌کرد گفت که اختراع هوش‌های مصنوعی مولد (عبارتی که برای توصیف ابزارهایی مانند ChatGPT با قابلیت تولید متن، صدا و تصویرهای قانع‌کننده بر اساس دستورهای انسانی به کار می‌رود) می‌تواند نقطه عطفی در زمینه تولید دروغ‌رسانی و گفتارهای نفرت‌پراکنانه تلقی شده و «ابعاد جدیدی» به مداخله‌های مصنوعی در رفتار انسان‌ها اضافه کند.

  گوترش خواستار ایجاد یک نهاد جدید سازمان ملل برای مقابله با خطرات ناشی از این موضوع شد. او گفت: «هدف کلی این نهاد حمایت از کشورها برای به حداکثر رساندن مزایای هوش مصنوعی، تعدیل مخاطرات احتمالی فعلی و اجرا کردن ساز و کارهای مورد توافق بین‌المللی برای نظارت و حکمرانی خواهد بود.»

دبیرکل سازمان ملل متحد در ماه ژوئن (خرداد-تیر)، از پیشنهاد برخی از مدیران هوش مصنوعی برای ایجاد یک نهاد بین المللی دیده بان هوش مصنوعی مانند آژانس بین المللی انرژی اتمی حمایت کرده بود.

از زمان راه‌اندازی ربات گفت و گوی چت‌جی‌پی‌تی تقاضاها در چند ماه گذشته برای وضع مقررات در مورد هوش مصنوعی افزایش یافته است و این نگرانی را در میان برخی از دولت‌ها تقویت کرده است که هوش مصنوعی مولد منجر به موجی از مشکلات جدید از جمله در مورد حریم خصوصی خواهد شد.

قانونگذاران اروپایی و سازمانی تحت حمایت ایلان ماسک که در تهیه پیش نویس قانون هوش مصنوعی اتحادیه اروپا مشارکت دارند، از جمله سازمان هایی هستند که از رهبران جهان خواسته اند تا برای یافتن راه هایی جهت جلوگیری از ایجاد اختلال در هوش مصنوعی پیشرفته همکاری کنند.

گوترش ماه پیش هم گفته بود خطرات هوش مصنوعی کمتر از جنگ هسته‌ای نیست. او روز ۲۲ خرداد گفت: «از کارشناسان می‌خواهم وارد عمل شوند و هوش مصنوعی را تهدیدی وجودی برای بشریت اعلام کنند که کمتر از تهدید جنگ هسته‌ای نیست».

دبیر کل سازمان ملل اضافه کرد: «تهدید جهانی که هوش مصنوعی ایجاد کرده نیازمند اقدام جهانی آشکار و هماهنگ شده است».

وی در سخنانی با تاکید بر ضرورت هوشمندی درباره این فناوری جدید گفت: «  از کارشناسان می‌خواهم وارد عمل شوند و هوش مصنوعی را تهدیدی وجودی برای بشریت اعلام کنند که کمتر از تهدید جنگ هسته‌ای نیست».

دبیر کل سازمان ملل اضافه کرد: «تهدید جهانی که هوش مصنوعی ایجاد کرده نیازمند اقدام جهانی آشکار و هماهنگ شده است».

این در حالی است که در برخی نقاط دنیا، قانون‌گذاران در تلاش برای تدوین قوانین جدید یا سازگار کردن قوانین موجود برای کنترل استفاده از هوش‌های مصنوعی مولد هستند.

پیشتر گزارش شده بود اتحادیه اروپا در حال تهیه پیش‌نویس قانون هوش مصنوعی خود است که انتظار می‌رود در سال جاری به قانون تبدیل شود. ایالات متحده آمریکا به جای وضع قوانین جدید قصد دارد قوانین موجود خود را برای مدیریت مسائل مرتبط با هوش مصنوعی به‌روزرسانی و منطق کند.

«سم آلتمن» مدیر عامل شرکت اپن‌ای‌آی و سازنده چت‌جی‌پی‌تی ماه پیش گفته بود که سفرهای او به پایتخت‌ کشورها او را نسبت به چشم انداز هماهنگی جهانی در زمینه هوش مصنوعی کاملاً خوشبین کرده است.

آلتمن با بازدید از کشورها به دنبال سرمایه‌گذاری روی هوش مصنوعی مولد و اعمال نفوذ بر مقررات در حال رشد فناوری بوده است.

آلتمن در جمع دانشجویان توکیو اعلام کرد در ابتدای سفر فکر نمی‌کرده در کوتاه مدت امکان دستیابی به همکاری جهانی برای کاهش خطر وجودی هوش مصنوعی وجود داشته باشد، اما اکنون نسبت به این موضوع کاملاً خوشبین است.