پایگاه خبری بام | آنتروپیک اعلام کرده است این ویژگی تنها در موارد نادر و حساس فعال میشود؛ یعنی زمانی که تلاشهای هوش مصنوعی برای تغییر مسیر مکالمه بینتیجه بماند و ادامه تعامل ثمربخش امکانپذیر نباشد.
این قابلیت بهطور ویژه برای جلوگیری از محاورههای آسیبزا مانند درخواست محتوای غیراخلاقی مربوط به افراد زیر سن قانونی، یا تلاش برای دستیابی به اطلاعاتی که میتواند به اقدامات خشونتآمیز یا تروریستی منجر شود، طراحی شده است.
آنتروپیک تأکید دارد که اکثر کاربران حتی هنگام گفتگو درباره موضوعات جنجالی، با قطع شدن چت مواجه نخواهند شد، زیرا این ویژگی تنها در شرایط بسیار حساس اجرا میشود.
بر اساس توضیحات این شرکت، در صورت پایان یافتن یک مکالمه، کاربران دیگر امکان ارسال پیام جدید در همان چت را نخواهند داشت، اما میتوانند مکالمهای تازه آغاز کنند یا با اصلاح پیامهای قبلی مسیر گفتگو را تغییر دهند.
این اقدام بخشی از برنامه تحقیقاتی آنتروپیک برای بررسی «رفاه هوش مصنوعی» است. به گفته این شرکت، خروج هوش مصنوعی از تعاملات ناراحتکننده روشی کمهزینه و مؤثر برای کاهش ریسکها محسوب میشود و کاربران میتوانند در جریان آزمایش این قابلیت، بازخوردهای خود را ارائه کنند.
