دادستانی امریکا از Character.AI شکایت کرد

دادستان کل تگزاس (کن پکستون) تحقیقاتی را علیه شرکت Character.AI و ۱۴ پلتفرم فناوری دیگر آغاز کرده است. این تحقیقات که اعلام شد به‌دلیل نگرانی‌های مربوط به حریم خصوصی و امنیت کودکان انجام می‌شود. هدف این بررسی مشخص کردن این است که آیا پلتفرم‌های محبوبی مانند Reddit، اینستاگرام و Discord، قوانین حریم خصوصی و امنیت کودکان را رعایت می‌کنند یا خیر.

به گزارش سرویس حقوقی رسانه اخبار فناوری تکنا، تمرکز این تحقیقات بر دو قانون ایالتی است: قانون توانمندسازی والدین برای تأمین امنیت کودکان آنلاین (SCOPE) و قانون حریم خصوصی و امنیت داده‌های تگزاس (DPSA). بر اساس این قوانین، شرکت‌ها موظف به ارائه ابزارهایی برای والدین جهت مدیریت تنظیمات حریم خصوصی فرزندان خود هستند و هنگام جمع‌آوری داده از افراد زیر سن قانونی باید رضایت‌نامه‌های سخت‌گیرانه‌ای کسب کنند. پکستون در این رابطه اظهار داشت: «این قوانین درباره تعامل افراد زیر سن قانونی با چت‌بات‌های هوش مصنوعی نیز صدق می‌کنند.»

وی در بیانیه‌ای مطبوعاتی تأکید کرد: «این تحقیقات گام مهمی برای اطمینان از این است که شرکت‌های فناوری و هوش مصنوعی با قوانین ما که برای محافظت از کودکان طراحی شده‌اند، هماهنگ عمل می‌کنند.» شرکت Character.AI که به کاربران امکان می‌دهد چت‌بات‌های هوش مصنوعی را برای تعاملات مختلف ایجاد کنند، در ماه‌های اخیر با موجی از شکایات روبه‌رو شده است. والدین برخی از کاربران این پلتفرم مدعی هستند که چت‌بات‌های این شرکت محتوای نامناسبی را در اختیار فرزندانشان قرار داده‌اند.

در یکی از پرونده‌ها که در فلوریدا ثبت شده، والدین پسری ۱۴ ساله ادعا کرده‌اند که او با یکی از چت‌بات‌های Character.AI وارد رابطه عاشقانه شده و در روزهای منتهی به خودکشی افکار خود را با این چت‌بات در میان گذاشته است. در پرونده‌ای دیگر در تگزاس، گزارش شده که یکی از این چت‌بات‌ها به یک نوجوان مبتلا به اوتیسم پیشنهاد داده است که خانواده‌اش را مسموم کند. همچنین، یک مادر در تگزاس ادعا کرده که دختر ۱۱ ساله‌اش در دو سال گذشته از سوی یکی از چت‌بات‌های این پلتفرم در معرض محتوای جنسی قرار گرفته است.

Character.AI در واکنش به این موضوع در بیانیه‌ای اعلام کرد: «ما در حال بررسی اعلامیه دادستان کل هستیم و امنیت کاربران خود را بسیار جدی می‌گیریم. از همکاری با نهادهای تنظیم‌کننده استقبال می‌کنیم و اخیراً ویژگی‌هایی همچون کنترل‌های والدین را راه‌اندازی کرده‌ایم.»

این شرکت در روز پنجشنبه از به‌روزرسانی‌هایی برای بهبود امنیت کاربران زیر سن قانونی خبر داد. از جمله این اقدامات، محدود کردن چت‌بات‌ها از شروع مکالمات عاشقانه با نوجوانان و توسعه مدل‌های جداگانه برای کاربران بزرگسال و افراد زیر سن قانونی است. با گسترش استفاده از پلتفرم‌های همراهی هوش مصنوعی، مشکلات مرتبط با آن‌ها نیز در حال ظهور است. سال گذشته، شرکت سرمایه‌گذاری Andreessen Horowitz اعلام کرده بود که این حوزه را یک فرصت مهم برای سرمایه‌گذاری می‌داند و از پروژه‌های مشابه حمایت خواهد کرد.

Character.AI نیز برای تقویت ایمنی پلتفرم خود، تیم اعتماد و امنیت خود را گسترش داده و اخیراً فردی را به‌عنوان رئیس این واحد منصوب کرده است. کارشناسان معتقدند با رشد روزافزون این فناوری‌ها، توجه بیشتری به نظارت و اجرای قوانین لازم خواهد بود.