Modelos abiertos de IA acercan a los límites de la innovación, pero hay un problema de seguridad
Los modelos de IA de código abierto impulsan la innovación, pero su creciente potencia plantea serios retos de seguridad que deben abordarse ahora.
Una nueva reporte de SaferAI ha encontrado que el modelo GLM-5.2 de Z.ai supera las capacidades de los modelos de frontera de IA, pero carece de mitigaciones de seguridad clave, lo que renueva las preocupaciones sobre si los modelos abiertos poderosos podrían superar a las regulaciones y protecciones.
Cabe destacar que a medida que los modelos de IA se vuelven más complejos y avanzados, las posibles fallas de seguridad pueden tener consecuencias graves. Por lo tanto, es fundamental que los desarrolladores y expertos en IA trabajen juntos para garantizar la seguridad y la confiabilidad de estos modelos.
¿Para qué sirve? El GLM-5.2 es un modelo de lenguaje de aprendizaje automático que utiliza la técnica de aprendizaje por peso abierto (open-weight) para mejorar su rendimiento y eficiencia.El modelo tiene como objetivo superar las capacidades de los modelos de frontera de IA y demostrar que los modelos abiertos pueden ser tan efectivos como los modelos cerrados.
Aunque el GLM-5.2 muestra un gran progreso en términos de rendimiento, la falta de mitigaciones de seguridad generó preocupaciones sobre el control de este modelo potente. Es esencial que los desarrolladores y expertos en IA trabajen juntos para garantizar la seguridad y la confiabilidad de estos modelos.