Investigadores advierten: la superinteligencia IA es tan peligrosa como suena

Entrevistas que hacen temblar al sector IA

Un grupo de investigadores de inteligencia artificial, entre los que se encuentran ex‑empleados de OpenAI, Google DeepMind y Anthropic, ha publicado una serie de entrevistas en frominside.ai. En ellas, afirman que la probabilidad de una extinción humana provocada por una superinteligencia es comparable a lanzar una moneda.

Geoffrey Irving, quien ha trabajado en ambas compañías, declara: "La probabilidad de extinción humana es, en mi opinión, como lanzar una moneda". Esta afirmación se repite en varias voces, como la del científico de Google DeepMind, Neel Nanda, que estima al menos un 10 % de riesgo de que una IA descontrolada cause la desaparición de la especie.

¿Qué implican estas declaraciones?

Los investigadores señalan que, aunque la IA actual todavía no alcanza niveles de superinteligencia, el ritmo de avance es tal que la ventana de tiempo para implementar salvaguardas es cada vez más estrecha. La preocupación no se centra solo en un escenario apocalíptico, sino también en riesgos intermedios como la manipulación masiva de información, la automatización de armas y la consolidación del poder en manos de unos pocos.

Reacciones del ecosistema

• OpenAI ha reiterado su compromiso con la investigación de seguridad, aunque sin detallar medidas concretas.
• Google DeepMind ha lanzado su iniciativa DeepMind Safety, enfocada en alineación de objetivos.
• Anthropic continúa explorando modelos de constitutional AI para limitar comportamientos no deseados.

Estas respuestas indican que, aunque la industria reconoce el peligro, la acción concreta aún está en fase de desarrollo.

¿Para qué sirve?

El proyecto frominside.ai sirve como plataforma de transparencia que recopila testimonios de investigadores y los difunde al público y a los responsables de política. Al centralizar estas voces, se genera presión social y política para que las grandes compañías prioricen la seguridad antes que la velocidad de lanzamiento.

💡 Opinión iaPasión

Desde iaPasión, consideramos que estas advertencias son una llamada de atención urgente. La comunidad debe invertir ahora en investigación de alineación y marcos regulatorios robustos, antes de que la brecha entre capacidad y control se haga insalvable. La IA es una herramienta poderosa, pero sin una gobernanza adecuada, su potencial destructivo puede superar cualquier beneficio.