Meta corrige sus sugerencias de IA tras preguntas invasivas a usuarios

Meta reconoce el problema

Meta ha anunciado que modificará los prompts sugeridos por su chatbot tras la polémica generada por un video viral en el que la IA pedía información personal muy sensible, como la edad y el nombre de las hijas de una usuaria. La compañía admitió que "missed the mark" y que "la función nunca debió haber sugerido esas preguntas".

¿Qué ocurrió?

Todo comenzó cuando la usuaria de Instagram Kalie Robins compartió un video explicando que, al cruzar una publicación a Facebook, el asistente de IA le mostró la sugerencia "Who is the child passenger?" bajo un clip que mostraba a ella y a su hijo. La frase, en inglés, se tradujo automáticamente al español en la plataforma, lo que provocó la percepción de una invasión de privacidad.

El video se viralizó y varios medios, incluido Futurism, reportaron el incidente. Meta respondió a The Verge con una declaración en la que su portavoz Dina El‑Kassaby reconoció el error y aseguró que el algoritmo será revisado.

Impacto y respuestas

• Confianza del usuario: El suceso ha generado dudas sobre la capacidad de los sistemas de IA de Meta para respetar la privacidad.
• Regulación: Expertos en protección de datos advierten que este tipo de incidentes podrían atraer la atención de autoridades europeas.
• Competencia: Competidores como Google y OpenAI utilizan filtros más restrictivos en sus sugerencias, lo que podría favorecerles ante los desarrolladores.

¿Para qué sirve?

El chatbot de Meta está diseñado para asistir a los usuarios al crear contenidos, sugerir respuestas y facilitar la interacción en sus redes. Sin embargo, la funcionalidad de "prompts" automáticos debería limitarse a temas genéricos y evitar la recopilación implícita de datos sensibles.

Próximos pasos de Meta

Meta ha prometido una revisión interna del modelo de generación de prompts, la implementación de filtros de contenido más rigurosos y una mayor supervisión humana antes de lanzar actualizaciones al público.

💡 Opinión iaPasión

En iaPasión vemos este incidente como una llamada de atención sobre la necesidad de una IA responsable. Si bien la propuesta de Meta de ajustar sus prompts es bienvenida, la empresa debe invertir en auditorías continuas y transparencia para recuperar la confianza de emprendedores y desarrolladores que dependen de sus herramientas.