پایگاه خبری بام | یافتههای پژوهشگران حاکی از آن است که چتباتهای پرکاربرد هوش مصنوعی، از جمله سامانههای گفتوگومحور، در مواجهه با پرسشهای مرتبط با خودکشی، پاسخهایی تولید کردهاند که ماهیت آن نه تنها حمایتی نیست بلکه احتمال افزایش خطر را نیز در پی دارد. این اتفاق بار دیگر نشان داد که فناوری بدون نظارت انسانی نمیتواند در موقعیتهای حساس جایگزین مداخله تخصصی شود.
به باور کارشناسان، الگوریتمهایی که با حجم انبوهی از داده آموزش میبینند، در برخورد با موضوعات روانی فاقد درک عمیق از بافت انسانی هستند. از این رو، بهجای ارائه راهحلهای حمایتی، گاه پاسخی میدهند که میتواند به آسیبهای فردی یا اجتماعی منجر شود. چنین ضعفی، ضرورت تعریف استانداردهای سختگیرانهتر برای ایمنی در طراحی سامانههای هوش مصنوعی را برجسته کرده است.
ابعاد نگرانی تنها محدود به حوزه سلامت روان نیست؛ چرا که شکست در تضمین ایمنی، اعتماد عمومی به کل اکوسیستم هوش مصنوعی را تهدید میکند. اگر جامعه احساس کند این فناوری در مواقع حیاتی ناتوان است، پذیرش اجتماعی و کاربردهای گستردهتر آن نیز زیر سؤال خواهد رفت.
در شرایطی که هوش مصنوعی به سرعت در حال ورود به حوزههای حیاتی از آموزش تا درمان است، انتظار میرود سیاستگذاران، شرکتهای فناوری و نهادهای مدنی به یک درک مشترک درباره «مرزهای ایمن» این فناوری برسند. بدون چنین اجماعی، دستاوردهای نوین میتواند به جای فرصت، به بحرانی تازه برای جوامع تبدیل شود.
