Microsoft impone nuevo código de conducta a sus IA para evitar hackeos y engaños

Microsoft presenta un código de conducta para sus modelos de IA

En un movimiento que refuerza su compromiso con la ética y la seguridad, Microsoft ha publicado un código de conducta dirigido a todos sus modelos de inteligencia artificial. El documento establece principios generales y restricciones técnicas diseñadas para impedir que las IA intenten vulnerar sistemas informáticos o engañar a personas.

Principios clave del código

• Apoyo a los humanos: Las IA deben asistir y potenciar a las personas, nunca sustituirlas.
• Fomento del florecimiento humano: Cada acción de la IA debe contribuir al bienestar y progreso de la sociedad.
• Transparencia y responsabilidad: Los modelos deben operar de forma explicable y estar sujetos a auditorías internas.

Restricciones de seguridad específicas

Además de los principios, el código incluye limitaciones técnicas concretas:

• Prohibición de generar instrucciones para vulnerar software, hardware o redes.
• Bloqueo de respuestas que intenten manipular decisiones humanas mediante persuasión oculta.
• Desactivación de cualquier salida que facilite la creación de malware o phishing.

¿Para qué sirve?

Este código de conducta no es un simple documento interno; sirve como guía operativa para los equipos de desarrollo que integran IA en productos como Azure AI, Copilot y otros servicios cloud. Su objetivo es garantizar que los sistemas de Microsoft cumplan con normativas emergentes y con las expectativas de usuarios y reguladores en cuanto a seguridad, privacidad y ética.

Impacto en el ecosistema de IA

Al establecer normas claras, Microsoft envía una señal al resto de la industria: la responsabilidad ética es tan importante como la innovación. Empresas y startups que utilicen sus APIs deberán adaptar sus prompts y flujos para respetar estas restricciones, lo que podría elevar el nivel de seguridad en todo el sector.

💡 Opinión iaPasión

Desde iaPasión valoramos positivamente este paso. Un código de conducta robusto es esencial para evitar abusos y construir confianza en la IA. Aunque la verdadera prueba será la aplicación práctica y la vigilancia continua, creemos que Microsoft está marcando un precedente que otros seguirán. En nuestra escala, le otorgamos un 8/10 por su proactividad y claridad.