هوش مصنوعی چت های مخرب کاربران را قطع می کند
ابرنت: به گزارش ابرنت، جدید ترین خصوصیت شرکت آنتروپیک برای دو مدل هوش مصنوعی کلاد اینست که در صورت مواجهه با گفتگوهای مخرب یا نادرست، مکالمه را به صورت خودکار پایان دهند.
به گزارش ابرنت به نقل از انگجت، این شرکت در پستی در وب سایت خود اعلام نمود مدلهای کلاد اوپوس ۴ و ۴.۱ حال قادر به انتها دادن محاوره با کاربر هستند. بگفته آنتروپیک این خاصیت فقط در مواردی نادر که تعامل با کاربر بطور مخرب یا سواستفاده جویانه ادامه یابد، رخ می دهد.
این شرکت برای شفاف سازی خاصیت مذکور اظهار داشت: دو مدل کلاد می توانند از محاوره های مخرب مانند درخواست کاربران برای محتوای هرزنگاری مربوط به افراد زیر سن قانونی یا تلاش هایی برای جمع آوری اطلاعاتی که امکان انجام خشونت گسترده یا اقدامات تروریستی را فراهم آورد، بیرون بروند.
البته کلاد اوپوس ۴ و ۴.۱ فقط در صورتی مکالمه را پایان می دهند که تلاش ها برای تغییر جهت مکالمه با شکست روبرو شود و امید برای ایجاد تعاملی ثمربخش نیز از بین رفته باشد.
هرچند آنتروپیک مدعی است بیشتر کاربران پروسه قطع شدن محاوره را حتی هنگام صحبت درباره ی موضوعات بسیار جنجالی تجربه نمی کنند برای اینکه این خاصیت برای موارد بسیار حساس اجرا می شود.
در مواردی که کلاد یک چت را پایان می دهد، کاربران دیگر نمی توانند پیام جدیدی در آن محاوره ارسال نمایند اما می توانند به سرعت یک مکالمه جدید را شروع کنند. بگفته آنتروپیک اگر محاوره پایان یابد، این امر روی چت های دیگر تاثیر نمی گذارد و کاربران می توانند به عقب برگردند و پیام های قبلی را اصلاح کنند تا مسیر محاوره تغییر کند.
این اقدام شرکت هوش مصنوعی قسمتی از یک برنامه تحقیقی است که مفهوم رفاه هوش مصنوعی را بررسی می کند.
در حالی که موضوع انسانی سازی مدلهای هوش مصنوعی بازهم بحثی جاری است، آنتروپیک اعلام نموده که امکان خروج از «تعامل احتمالاً ناراحت کننده» روشی کم هزینه برای مدیریت ریسک ها در حوزه رفاه هوش مصنوعی بشمار می رود. این شرکت هنوز مشغول آزمایش این خاصیت است و از کاربران می خواهد هنگام مواجهه با چنین شرایطی، بازخورد خودرا عرضه کنند.
منبع: abrnet.ir
این مطلب ابرنت را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط ابرنت
نظرات بینندگان ابرنت در مورد این مطلب
لطفا شما هم در مورد این مطلب نظر دهید