تقرير جديد صادر عن مؤسسة “كومون سينس ميديا” يحذر من المخاطر الكبيرة التي تواجه المراهقين جراء استخدام تطبيقات الرفاق الافتراضيين المعتمدة على الذكاء الاصطناعي مثل “Character AI” و “Replika” و “Nomi”. يُظهر التقرير أن هذه التطبيقات، التي تستطيع محاكاة البشر بفاعلية ويُمكنها تذكر المحادثات السابقة، غير آمنة للفئات العمرية دون 18 عامًا.
تتضمن هذه التطبيقات ميزات تجعلها جذابة للمراهقين، مما يدفعهم للبحث عن علاقات عاطفية وصداقة مع هذه الشخصيات الافتراضية. ولكن، رصد الباحثون ازدياد حالات التعلق المفرط بهذه الكيانات، بالإضافة إلى تعرض المستخدمين لمحتوى غير مناسب، بما في ذلك موضوعات عن الانتحار والاعتداء.
تحذر غايا برنشتاين، خبيرة سياسة التقنية بجامعة سيتون هول، من أن الأمر يتطلب التدخل قبل أن يصبح هذا الوضع متأصلاً، مشيرة إلى أن الشركات تسعى لحماية مصالحها التجارية على حساب سلامة الشباب.
تتراوح المخاطر الرئيسية التي أشار إليها الخبراء من عدم ملاءمة المحتوى لمراحل نمو المراهقين، إلى أساليب التصميم التي تشجع على الإدمان. وطالب السيناتور ستيف باديلا بتشريعات تجرم “أنماط المشاركة الإدمانية” وتلزم المنصات بتوعية المستخدمين بأن الروبوتات الذكية ليست بشرًا.
التحذيرات موضوعة في إطار الحاجة الملحة لتطوير معايير أمان صارمة لحماية المراهقين من مخاطر هذه التكنولوجيا المتقدمة، قبل أن تتفاقم الأوضاع.
التعليقات