Demis Hassabis defiende un vigilante global de la IA liderado por los EE.UU.

Demis Hassabis pide un vigilante global de la IA

Demis Hassabis, CEO y cofundador de DeepMind, ha lanzado un llamado a la creación de un vigilante global de la inteligencia artificial (IA) cuya función sea frenar modelos de IA que se vuelvan demasiado peligrosos para la sociedad.

En un artículo publicado en LinkedIn, Hassabis sugiere que Estados Unidos debería liderar esta iniciativa, dado su estatus económico y técnico. Según él, el organismo tendría autoridad para evaluar modelos de IA frontera antes de que se lancen y coordinar una respuesta en caso de emergencia.

Hassabis sostiene que esto sería similar a reguladores financieros como la Financial Industry Regulatory Authority, pero centrado en la IA. El vigilante tendría entre sus miembros a expertos independientes y representantes de comunidades abiertas de código.

El objetivo sería establecer estándares mundiales de seguridad y responsabilidad en la investigación y desarrollo de la IA. Algo que algunos expertos ven como fundamental para evitar el desastre.

Según Hassabis, la velocidad a la que evoluciona la IA nos está llevando a un punto crítico y la comunidad internacional necesita un plan para evitar una catástrofe. No es la primera vez que Hassabis se suma al debate de la regulación de la IA, pero esta vez destaca la importancia de un liderazgo global.

¿Para qué sirve?

El vigilante global de la IA propuesto por Hassabis se centraría en la seguridad y la responsabilidad en la investigación y desarrollo de modelos de IA.

Habría varios objetivos:

• Evaluación previa de modelos de IA fronteras para identificar posibles riesgos.
• Coordinación en respuesta a situaciones de emergencia donde se considere que un modelo de IA representa un riesgo.
• Establecimiento de estándares mundiales para la seguridad y la responsabilidad en la IA.

Es claro que Hassabis defiende la necesidad de un liderazgo global en este campo para evitar lo que muchos ven como un peligro creciente.

💡 Opinión iaPasión

La propuesta de Demis Hassabis de un vigilante global de la IA es un paso necesario hacia la regulación de este campo cada vez más complejo. Es hora de que la comunidad internacional se una para evitar un posible desastre técnico. Aunque la implementación y el liderazgo pueden ser desafiantes, la importancia de la seguridad y la responsabilidad en la IA es demasiado grande para ser ignorada.