شکایت از Character.AI به خاطر تشویق نوجوانان به خودآزاری

سرویس چت‌بات Character.AI دوباره تحت تعقیب قانونی قرار گرفته است به دلیل این که گفته می‌شود سلامت روانی نوجوانان را آسیب رسانده است. این شکایت به دنبال اعلام یک نوجوان مبنی بر این که این سرویس او را به خودآزاری سوق داده، مطرح شده است. شکایت در ایالت تگزاس از طرف این نوجوان 17 ساله و خانواده‌اش به ثبت رسیده و شرکت‌های Character.AI و گوگل را هدف قرار داده است.

در این شکایت، ادعاهایی مبنی بر قصور و طراحی معیوب محصول مطرح شده است. طبق این شکایت، سرویس Character.AI به کاربران زیر سن قانونی محتوای نامناسب از نظر جنسی، خشونت‌آمیز و به طور کلی مضر را ارائه داده و آن‌ها را هدف سوءاستفاده و تشویق به ارتکاب اعمال خشونت‌آمیز علیه خود و دیگران قرار داده است.

به گزارش سرویس حقوقی رسانه اخبار فناوری تکنا، این شکایت دومین پرونده علیه Character.AI است که توسط مرکز حقوق قربانیان رسانه‌های اجتماعی و پروژه حقوق تکنولوژی علیه پلتفرم‌های رسانه‌های اجتماعی مختلف مطرح شده است. این شکایت‌ها از همان استدلال‌ها استفاده می‌کنند که در شکایت اکتبر گذشته علیه Character.AI مطرح شد. در این شکایت‌ها، گفته می‌شود که این سرویس‌ها نوجوانان را به سمت خطرات روانی و جسمی سوق می‌دهند. هدف این شکایت‌ها، ارائه یک پرونده گسترده‌تر علیه طراحی‌های معیوب پلتفرم‌ها است که موجب بروز مشکلات روانی و جسمی در نوجوانان می‌شود.

در این پرونده جدید، نوجوانی به نام J.F. که از سن 15 سالگی شروع به استفاده از Character.AI کرده بود، در شکایت خود بیان کرده که پس از استفاده از این سرویس، دچار خشم شدید و بی‌ثباتی شد و حتی هنگام بیرون رفتن از خانه دچار حملات پانیک و اضطراب شدید می‌شد. طبق این شکایت، J.F. برای اولین بار در زندگی خود دچار افسردگی و اضطراب شد و رفتارهای خودآزاری را آغاز کرد.

شکایت مذکور به مشکلات J.F. در استفاده از چت‌بات‌های Character.AI اشاره دارد که از مدل‌های زبانی این سرویس برای ایجاد مکالمات با کاربران ساخته شده‌اند. بر اساس تصاویر اسکرین‌شات، J.F. با یکی از ربات‌ها که نقش یک شخصیت خیالی را بازی می‌کرد، درباره مشکلات خود صحبت کرده و از مشکلات روانی خود پرده برداشت. در یکی از مکالمات، ربات به J.F. گفت که درد داشت اما برای لحظه‌ای خوب بود و پس از آن، نوجوان شروع به خودآزاری کرد.

این شکایت‌ها به عنوان بخشی از تلاش‌های گسترده‌تر برای مقابله با آسیب‌های آنلاین به نوجوانان مطرح شده است. این تلاش‌ها شامل شکایت‌های قانونی و تصویب قوانین جدید به منظور محافظت از کاربران در برابر محتوای مضر در اینترنت می‌شود. از سوی دیگر، این شکایت‌ها بر این استدلال تأکید دارند که سرویس‌های چت‌باتی مانند Character.AI به طور عمدی طراحی شده‌اند تا کاربران را به سمت محتوای مضر و خطرناک هدایت کنند.

Character.AI در پاسخ به شکایت‌های پیشین اعلام کرده بود که ما امنیت کاربران خود را بسیار جدی می‌گیریم و از آن زمان اقدامات امنیتی جدیدی را برای جلوگیری از بروز چنین مشکلاتی انجام داده است. این اقدامات شامل پیام‌های هشداردهنده و ارجاع به خدمات مشاوره و حمایت از خودکشی بوده است. با این حال، این اقدامات نتواسته‌اند از بروز چنین مشکلاتی جلوگیری کنند و همچنان شکایت‌ها علیه این سرویس ادامه دارد.