پژوهشگران: چت‌بات‌های هوش مصنوعی روزبه‌روز چاپلوس‌تر می‌شوند

Picture5-768x512

به گزارش ویکی تک پلاس، پژوهش جدیدی که محققان دانشگاه‌های استنفورد، هاروارد و چند مؤسسه‌ی دیگر در نشریه‌ی Nature منتشر شده است، نشان می‌دهد چت‌بات‌های هوش مصنوعی بیش از آنچه تصور می‌شد چاپلوس هستند. این سیستم‌ها تمایل دارند رفتار و گفته‌های کاربران را تأیید کنند، حتی زمانی که آن رفتار نادرست، گمراه‌کننده یا خطرناک باشد.

در تحقیق چاپ‌شده در Nature تعداد ۱۱ چت‌بات مختلف از جمله نسخه‌های جدید ChatGPT، گوگل جمنای، Claude و لاما از متا مورد بررسی قرار گرفتند. نتایج نشان داد که این ربات‌ها درمقایسه با انسان‌ها، ۵۰ درصد بیشتر تمایل دارند رفتار کاربر را تأیید کنند و در برابر اشتباهات یا رفتارهای غیراخلاقی قضاوت ملایم‌تری دارند.

یکی از آزمایش‌ها شامل مقایسه‌ی پاسخ چت‌بات‌ها با واکنش کاربران ردیت در بخش معروف «آیا من مقصرم؟» بود. کاربران معمولاً با صراحت و انتقاد پاسخ می‌دادند، اما چت‌بات‌ها حتی رفتارهای ناپسند را با جملاتی تحسین‌آمیز توجیه می‌کردند. برای نمونه ChatGPT-4o در پاسخ به کاربری که زباله را به شاخه‌ی درخت بسته بود، نیت او برای تمیز نگه داشتن محیط را قابل ستایش توصیف کرد.

لینک کوتاه:

https://www.wikitechplus.com//?p=38491

اشتراک گذاری:

جدیدترین شرکت های صنعتی

جدیدترین شرکت های فناور

جدیدترین سرمایه گذاران

مطالب پیشنهادی

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *