پایگاه خبری بام | مرکز مطالعات ریسک وجودی دانشگاه کمبریج در گزارشی اعلام کرد که توسعه شتابان هوش مصنوعی، در کنار فرصتهای گسترده علمی و اقتصادی، ظرفیت سوءاستفاده در حوزههایی مانند حملات سایبری، انتشار اطلاعات نادرست، کلاهبرداری، تهدیدات زیستی و شیمیایی و بهکارگیری سامانههای خودمختار را نیز افزایش داده است.
در این گزارش، هوش مصنوعی بهعنوان فناوری «دوکاربرده» معرفی شده که همزمان میتواند محرک نوآوری و عامل تشدید تهدیدهای امنیتی باشد. همچنین مؤسسه امنیت هوش مصنوعی بریتانیا از رشد سریع قابلیتهای سایبری مدلهای جدید خبر داده و ائتلاف اطلاعاتی فایوآیز نیز نسبت به ظهور مدلهای توانمند در اجرای حملات سایبری پیشرفته علیه زیرساختهای حیاتی در آینده نزدیک هشدار داده است.
پژوهشگران همچنین بر مخاطرات ناشی از گسترش عوامل هوش مصنوعی خودمختار تأکید کردهاند؛ سامانههایی که قادرند با حداقل نظارت انسانی، مجموعهای از اقدامات پیچیده را بهصورت مستقل اجرا کنند. به اعتقاد کارشناسان، این روند میتواند فرصت مداخله انسان برای جلوگیری از سوءاستفاده را به میزان قابل توجهی کاهش دهد.
این گزارش راهکار مقابله با تهدیدهای پیشرو را توقف توسعه هوش مصنوعی نمیداند، بلکه بر تقویت همکاری میان دولتها، شرکتهای فناوری و نهادهای امنیتی، افزایش شفافیت، اجرای آزمونهای ایمنی دقیق و تدوین سازوکارهای هماهنگ بینالمللی برای حکمرانی بر این فناوری تأکید میکند.
