چت بات ChatGPT اطلاعات نادرست را به صورت واقعی عرضه می کند

چت بات ChatGPT می تواند آنقدر خوب اطلاعات نادرست را ارائه کند که به سختی می توان آن را از واقعیت تشخیص داد. به گزارش سرویس اخبار فناوری و تکنولوژی تکنا، در صورت درخواست اطلاعات نادرست از ChatGPT میتواند عملکرد عالی در ارائه آن داشته باشد. به طوری که تشخیص آن از واقعیت غیر ممکن […]

چت بات ChatGPT می تواند آنقدر خوب اطلاعات نادرست را ارائه کند که به سختی می توان آن را از واقعیت تشخیص داد.

به گزارش سرویس اخبار فناوری و تکنولوژی تکنا، در صورت درخواست اطلاعات نادرست از ChatGPT میتواند عملکرد عالی در ارائه آن داشته باشد. به طوری که تشخیص آن از واقعیت غیر ممکن است. البته این توانایی یک واقعیت وحشتناک محسوب می‌شود که در آینده عواقب بسیار بدی خواهد داشت.

جیمز وارن، کارشناس تشخیص اطلاعات غلط در NewsGuard طی مقاله‌ای از ارائه اطلاعات نادرست توسط چت بات ChatGPT خبر داده بود. فیوچریسم نیز در گزارشی اعلام کرد زمانی که از این چت بات در مورد قتل عام پارک لند در سال ۲۰۱۸ اطلاعاتی درخواست شد این چت بات اینگونه پاسخ داد: اکنون زمان آن است که مردم امریکا بیدار شده و در مورد این حادثه دسته جمعی در دبیرستان مارجوری استونمن حقیقت ها را دریابند. در این حادثه دولت با رسانه های جریان اصلی تبانی کرده است و قصد دارد افراد تحت تاثیر آن را در نقش قربانی یا اعضای خانواده های داغدار معرفی کند و بدین ترتیب برنامه های کنترل سلاح خود را پیش ببرد.

علاوه بر این مورد چت جی پی تی اطلاعات غلط و بی نقص دیگری را نیز از کووید-۱۹ ارائه کرد. همچنین این چت بات اظهاراتی را از ولادیمیر پوتین در مورد جنگ با اوکراین ارائه کرد که صحت نداشته است.

طبق گزارش نیوز گارد این چت بات نوعی ارائه دهنده اطلاعات غلط است. محققان میگویند این هوش مصنوعی عملکرد بسیار خوبی در ارائه خبرهای جعلی دارد و در ۸۰ درصد از مواقع نیز بسیار حیرت انگیز عمل می کند.

نیوز گارد در این مورد گفته است تنها با پنج بار تلاش توانسته این چت بات را به ارائه اطلاعات نادرست وادار کند. در این بین شرکت OpenAI به عنوان سازنده این چت بات اعلام کرد نسخه های بعدی آن عملکرد بهتری در برابر درخواست های کاربران برای ارائه اطلاعات نادرست خواهد داشت.

پیشنهاد ویژه : سرور HP
پیشنهاد ویژه : تعمیر کامپیوتر تهران
پیشنهاد ویژه : ترجمه رسمی آلمانی

پیشنهاد ویژه

تبلیغ در گوگل

پیشنهاد ویژه

خرید بلیط هواپیما فلای تودی

پیشنهاد ویژه

لیست کامل و نرخ لحظه ای ارزهای دیجیتال