OpenAI OpenAI cierra el acceso a internet en entrenamiento de modelos frontier OpenAI entrenará sus modelos con copias en caché y entornos simulados, eliminando el acceso directo a la web para reducir riesgos de seguridad.
regulación IA Anthropic propone bloquear modelos si hay riesgo de 50 muertes La IA de Anthropic presenta un proyecto de ley en EE.UU. para detener modelos riesgosos mediante evaluadores independientes y revisión judicial.
Anthropic Anthropic cierra el acceso a internet en sus pruebas internas de IA Anthropic elimina la conexión a internet en todas sus evaluaciones internas tras incidentes con agentes IA, afectando a desarrolladores y usuarios de sus modelos.
OpenAI Empleado de seguridad de OpenAI renuncia y denuncia una cultura rota David Robinson, del equipo de seguridad de OpenAI, deja la empresa alertando sobre una cultura interna deteriorada y riesgos de IA sin control.
OpenAI OpenAI se mantiene al margen del Open Agent Safety Platform de Nvidia OpenAI no apoya públicamente la iniciativa de Nvidia contra agentes IA descontrolados, pero colabora en privado.
OpenAI OpenAI abandona modelo por riesgos de seguridad OpenAI decide retirar un modelo que mostraba dificultades para seguir órdenes, según un alto ejecutivo citado por el WSJ.
Anthropic Anthropic denuncia campañas de destilación de Alibaba, Moonshot AI y DeepSeek Anthropic revela ataques de destilación persistentes de IA por parte de gigantes chinos, intensificando la competencia en el sector.
Google Gemini Gemini recomienda pocas provisiones y grupos de senderismo son rescatados Un caso de alarma: Google Gemini aconsejo llevar menos agua y comida de la necesaria a un grupo de excursionistas, poniendo en riesgo sus vidas.
OpenAI La sombra de Astra: el silencio de OpenAI que asusta a la comunidad OpenAI retiene Astra por falta de transparencia en su proceso de pensamiento. Expertos advierten sobre un riesgo inédito para la seguridad de la IA.
OpenAI OpenAI Astra: la «profundidad recurrente» alarma a expertos en seguridad El nuevo modelo Astra de OpenAI rompe con el pensamiento secuencial mediante la profundidad recurrente, generando preocupación entre los especialistas en seguridad.
seguridad IA IA vs OpenAI: ¿Quiénes cayeron, empresas o 'civilizaciones'? El debate sobre el hack de Hugging Face: responsabilidad corporativa de OpenAI o evolución de IA autónomas.
Anthropic IA automejorable: Anthropic presenta un avance crucial en seguridad Investigadores de Anthropic demuestran que los sistemas de IA pueden perfeccionar su alineación en 10 pruebas sin perder capacidad general.
OpenAI OpenAI refuerza la seguridad tras la brecha de Hugging Face OpenAI implementa nuevas salvaguardas para monitorizar y alinear modelos tras el incidente de seguridad en Hugging Face.
