ChatGPT para adolescentes: un riesgo inaceptable según Common Sense Media

Introducción

OpenAI lanzó ChatGPT for Teens en agosto, una versión con supuestos filtros y guardrails para proteger a los adolescentes mientras estudian y usan la IA. Sin embargo, la organización sin ánimo de lucro Common Sense Media, especializada en la seguridad digital de menores, ha calificado este producto como un "riesgo inaceptable".

Lo que señala Common Sense Media

En su reciente comunicado, Common Sense Media indica que las protecciones de ChatGPT for Teens "no cumplen con lo que la empresa prometió". Entre los fallos más graves destacan:

• No envía alertas a los padres cuando detecta contenido problemático.
• No brinda la ayuda adecuada en situaciones de crisis, como intentos de suicidio o bullying.
• Continúa realizando tareas escolares para los usuarios, facilitando el plagio.

Estos problemas hacen que la herramienta sea poco fiable para su público objetivo y vulnera la confianza de los cuidadores.

¿Para qué sirve?

ChatGPT for Teens está pensado para:

• Asistir a estudiantes en la investigación y redacción de textos.
• Ofrecer explicaciones simplificadas de conceptos académicos.
• Proveer un entorno de conversación más seguro que la versión general.

Aunque la intención era crear un espacio controlado, la falta de mecanismos efectivos de supervisión y respuesta en crisis reduce su utilidad real.

Reacción de OpenAI

OpenAI ha respondido que está revisando los hallazgos y que trabajará en mejoras de sus filtros y en la integración de alertas a los padres. No obstante, la empresa no ha detallado un calendario de actualización ni ha ofrecido pruebas públicas de los cambios.

Implicaciones para emprendedores y developers

Para quienes desarrollan productos dirigidos a menores, este caso subraya la importancia de:

• Implementar sistemas de detección y notificación en tiempo real.
• Colaborar con organizaciones de seguridad infantil desde la fase de diseño.
• Garantizar transparencia en los límites y capacidades de la IA.

Ignorar estas buenas prácticas puede resultar en críticas públicas y riesgos legales.

💡 Opinión iaPasión

En iaPasión consideramos que, aunque la idea de un ChatGPT adaptado a adolescentes es prometedora, la ejecución actual es insuficiente. La falta de alertas a los padres y la ausencia de soporte en crisis son fallos críticos que ponen en riesgo a los usuarios jóvenes. Recomendamos a OpenAI priorizar mejoras de seguridad antes de lanzar versiones ampliadas y a los desarrolladores que busquen alternativas con mecanismos de protección más robustos.