پلتفرم Character.AI از ۲۵ نوامبر (۴ آذر) دسترسی کاربران زیر ۱۸ سال را به طور کامل مسدود کرد. این اقدام یکی از سختگیرانه‌ترین سیاست‌ها در میان چت‌بات‌ها محسوب می‌شود و در پاسخ به نگرانی‌های مرتبط با سلامت روان کودکان و نوجوانان اجرا شد.

این محدودیت شامل حساب‌های پیشین کاربران زیر ۱۸ سال نیز می‌شود و حدود ۲ میلیون نفر از ۲۰ میلیون کاربر ماهانه را تحت تأثیر قرار می‌دهد. بیانیه مربوطه ابتدا در ۲۱ نوامبر منتشر شد و از ۲۵ نوامبر به اجرا رسید.

پیش‌زمینه تصمیم Character.AI

این تصمیم پس از چندین شکایت حقوقی اعمال شد. مهم‌ترین آن‌ها پرونده نوجوان ۱۴ ساله‌ای در فلوریدا بود که به گفته مادرش، وابستگی عاطفی شدیدی به چت‌بات الهام‌گرفته از سریال «Game of Thrones» پیدا کرده بود.

مدیرعامل Character.AI، کاراندیپ آناند، در مصاحبه با وبسایت TechCrunch گفت: «ما متوجه شدیم که حتی در عملکرد صحیح چت‌بات‌ها، نوجوانان گاهی از آن‌ها به شیوه‌های مشکل‌ساز استفاده می‌کنند.»

پیش از این، محدودیت زمانی روزانه برای کاربران نوجوان اعمال شده بود: ابتدا دو ساعت و سپس یک ساعت، تا اینکه امروز دسترسی کامل مسدود شد.

واکنش کاربران و تاثیرات روانی

مسدودسازی دسترسی نوجوانان با واکنش گسترده‌ای همراه بود. بسیاری از کاربران در شبکه‌های اجتماعی ناراحتی و بحران عاطفی خود را اعلام کردند.

یک کاربر در ردیت نوشت: «وقتی نمی‌توانم با دوستانم یا درمانگرم صحبت کنم، از این اپلیکیشن استفاده می‌کنم.» کاربر دیگری افزود: «روزها برایش گریه کردم.»

به گزارش وال‌استریت ژورنال، نوجوانانی مانند اولگا لوپز ۱۳ ساله احساس «غم، خشم و سردرگمی» کردند. متخصصان سلامت روان می‌گویند این واکنش‌ها نشان‌دهنده طراحی اعتیادآور چت‌بات‌ها است. دکتر نینا واسان از استنفورد گفت: «ناتوانی نوجوان در جدا شدن از چت‌بات، ضعف شخصیتی نیست؛ فناوری دقیقاً طبق طراحی خود عمل می‌کند.»

اقدامات حمایتی و قانونی

Character.AI اعلام کرده که با سازمان‌های Koo و ThroughLine همکاری می‌کند تا منابع سلامت روان را برای نوجوانانی که دسترسی خود را از دست داده‌اند، فراهم کند. در بیانیه رسمی آمده است: «حذف دسترسی آسان نیست اما اقدام درست و ضروری است.»

این تصمیم همزمان با نگرانی‌های نظارتی در صنعت هوش مصنوعی رخ می‌دهد. چت‌بات‌های دیگر مانند ChatGPT نیز با شکایات مرتبط با سلامت روان و خودکشی روبه‌رو بوده‌اند. ایالت کالیفرنیا قانون جدیدی تصویب کرده که اپراتورهای چت‌بات را ملزم به اجرای پروتکل‌های پیشگیری از خودکشی و هشداردهی به کاربران نوجوان می‌کند. این مقررات از ژانویه ۲۰۲۶ لازم‌الاجرا خواهند شد.

نتیجه‌گیری

مسدودسازی کاربران زیر ۱۸ سال در Character.AI یک گام مهم برای حفاظت از سلامت روان نوجوانان است. این اقدام، ضمن محدود کردن دسترسی، همراه با منابع حمایتی ارائه می‌شود و الگوی مشابهی در سایر پلتفرم‌های هوش مصنوعی ایجاد خواهد کرد.

Character.AI با اجرای این سیاست، نشان داد که امنیت و سلامت کاربران نوجوان، اولویت اصلی شرکت است و تجربه‌ای امن‌تر از تعامل با چت‌بات‌ها فراهم می‌کند.

منبع: پیوست