توانایی AI در نوشتن اخبار جعلی باورکردنی و مخرب

AI همچنان در نوشتن مطالب متقاعد کننده بهتر و بهتر می شود و این امر سبب شده است تا خالقین آن به این فکر بیفتند که آیا می بایست این فناوری را منتشر کنند یا خیر. الون ماسک الگوریتمی را ابداع کرده که توانایی تولید اخبار جعلی باورکردنی در رابطه با هر موضوعی با استفاده از جملات مختلف به عنوان نقطه آغاز را دارد. این الگوریتم ابتدا به عنوان زبان عمومی AI با توانایی پاسخگویی به پرسش ها، خلاصه سازی داستان ها و ترجمه متن طراحی شده بود، اما پس از مدتی کوتاه محققین پی بردند که این الگوریتم می تواند برای اهدافی شیطانی  مانند نشر اطلاعات و اخبار کذب در ابعاد بزرگ بکار گرفته شود. بر اساس گزارش MIT Technology Review، با توجه به این امر، تیم سعی در طراحی «نسخه ای ساده» از AI کنونی برای عموم دارد.

خوشبختانه این فناوری دارای ضعف هایی است و مکررا داستان هایی را می نویسد که سرقت ادبی به حساب می آیند، تنها دارای انسجام ظاهری هستند و فقط گاهی به هدف خود می رسند. به هر روی، جک کلارک از OPENAI هشدار داد که می توان ظرف یک یا دو سال سیستمی با قابلیت تولید اخبار جعلی که نیازمند به بررسی کامل به منظور تکذیب اخبار است را ساخت.

و این مشکل اصلیست. اگرچه OPENAI بر اصول اخلاقی تاکید دارد و آگاهانه این اخبار جعلی را نمی سازد، اما تنها یک سازمان است. نگرانی بزرگتر این است که یک شرکت بی توجه به اخلاقیات یا دولتی متخاصم بتوانند یک AI  قدرتمند با توانایی نشر اخبار کاذب در ابعاد بزرگ را بسازند. شبکه های اجتماعی به موفقیت هایی در مبارزه با اخبار جعلی دست یافته اند، اما اگر با طغیان اطلاعات جعلی تولید شده ماشینی روبرو شوند، نبردی سخت را تجربه خواهند کرد. برای دیدن خبرهای دیگر به صفحه فناوری مراجعه کنید.