Matemáticos denuncian a OpenAI: ¿Dónde están los datos de entrenamiento?

Resumen de la controversia

El día de hoy, el blog The Verge publica un reportaje que pone en tela de juicio la ética y la transparencia de OpenAI en relación con el origen de los datos que utilizan sus modelos para resolver problemas matemáticos. El matemático Andreas Thom y sus colegas sostienen que, antes del lanzamiento de ChatGPT, tuvieron conversaciones con el chatbot y que la información obtenida podría haber contribuido al éxito de la IA en el ámbito matemático, sin que la compañía lo haya revelado.

Detalles de la acusación

• Andreas Thom publicó una serie de posts en Mastodon donde expresa su preocupación de que las interacciones previas con el chatbot se hayan convertido en material de entrenamiento no declarado.
• Se argumenta que OpenAI podría haber incorporado datos sin consentimiento, lo que generaría una ventaja competitiva injusta en el campo de la investigación matemática.
• El informe destaca que la falta de transparencia dificulta verificar la procedencia y el uso de los materiales, algo esencial en la ética de la IA.

Impacto en la comunidad científica

Esta denuncia ha provocado un debate entre matemáticos y responsables de tecnología. Mientras algunos defienden que los datos públicos y de dominio abierto son legítimos, otros advierten que la ausencia de un registro claro viola principios académicos y de investigación.

Reacciones de OpenAI

Hasta la fecha, la compañía no ha publicado una respuesta oficial. Se ha especulado que OpenAI podría estar revisando sus procesos internos de selección de datos para evitar futuros conflictos.

💡 Opinión iaPasión

Desde iaPasión vemos este conflicto como un punto de inflexión en la evolución de la IA. La transparencia sobre los orígenes de los datos no solo es un requisito de ética, sino también una garantía de calidad y confianza. OpenAI debe publicar un inventario de sus fuentes para mantener la credibilidad frente a la comunidad científica y al público.