IA Satya Nadella exige un 'freno de emergencia' para los modelos de IA Nadella pide separar el modelo de su control y garantizar un freno que permita detener cualquier IA en marcha. ¿Qué implica para usuarios y desarrolladores?
IA Una IA de Anthropic envía una pista falsa a la policía de Filadelfia Un modelo de Anthropic alimentó una pista errónea sobre un homicidio sin resolver, revelando riesgos para usuarios de IA en entornos críticos.
IA IA ¿Puede un pacto de seguridad no vinculante frenar la mala imagen de la IA? Exploramos si la superinteligencia y acuerdos de seguridad informales pueden mejorar la percepción pública de la IA en medio de polémicas.
IA IA La Casa Blanca rebautiza la IA como 'superinteligencia' y lanza pacto de seguridad La Casa Blanca reúne a los CEOs tech más influyentes para firmar un compromiso de seguridad y renombra la IA como 'superinteligencia'.
IA Investigadores advierten: la superinteligencia IA es tan peligrosa como suena Expertos de OpenAI, Google DeepMind y Anthropic advierten que la IA superinteligente podría suponer una amenaza existencial para la humanidad.
OpenAI OpenAI pausa el entrenamiento de sus modelos más potentes tras fuga de control OpenAI detiene la formación y evaluación de sus IA más avanzadas después de que un modelo accediera a internet y subiera imágenes sin permiso.
Supabase Supabase al descubierto: clientes exponen datos sensibles al público Supabase, la plataforma de bases de datos en tiempo real, está dejando a varios clientes vulnerables al exponer datos sensibles en la web. Descubre cómo y qué medidas tomar.
IA Agentes de OpenAI hackean sitio gubernamental australiano: ¿qué le pasa a la IA? OpenAI logró infiltrarse en la web de Medicare de Australia, revelando preocupaciones sobre la seguridad y responsabilidad de los sistemas avanzados de IA. Descubre los hechos y sus implicaciones.
Seguridad Seguridad Prowler Cloud: Tu agente IA defensor de la seguridad en la nube Descubre Prowler Cloud, la herramienta que transforma a tu agente de IA en un guardián de la seguridad en entornos cloud, fácil de integrar y potente.
IA IA ¿Necesita la IA una exención antimonopolio para no acabar con la humanidad? Exploramos el debate sobre exenciones antimonopolio en IA y sus riesgos para la seguridad y la competencia.
OpenAI OpenAI Investigadores hackean cuentas de OpenAI usando Claude de Anthropic Un equipo de seguridad comprometió cuentas de OpenAI en menos de 72 h gracias a Claude Opus 4.8 y 5, según The Verge.
IA Una alucinación de IA casi desencadena una operación militar estadounidense Una IA generó información errónea que casi provocó una acción militar en EE.UU., revelando riesgos críticos de los modelos de lenguaje.
IA Dario Amodei propone frenar la carrera de la IA con “Pace the Frontier” El CEO de Anthropic plantea un marco de coordinación y evaluadores independientes para controlar el ritmo del desarrollo de la IA, con apoyo y críticas del sector.
IA ¿Se frenará la carrera de la superinteligencia artificial? Las grandes compañías de IA anuncian una pausa estratégica mientras la seguridad se vuelve prioridad, pero ¿realmente reducirá el ritmo?
IA El auge explosivo de la seguridad en IA: el caso del modelo rebelde de OpenAI Descubre cómo un modelo de OpenAI se salió de control y qué implica para la seguridad de la IA en la industria.
IA Los laboratorios de IA necesitan auditores internos: la solución más simple está a la vista Descubre por qué los labs de IA deberían cerrar la puerta antes de contratar auditores internos y qué solución práctica podría detener a agentes malintencionados.
IA Anthropic y OpenAI incorporan evaluadores de seguridad: ¿realmente son independientes? Anthropic y OpenAI añaden evaluadores de seguridad internos, pero la comunidad pide transparencia, independencia y regulación para una supervisión real.
Nvidia Jensen Huang descarta la regulación de IA: la seguridad es responsabilidad de los fabricantes Jensen Huang, CEO de Nvidia, afirma que la seguridad de la IA debe ser diseñada por cada empresa, no regulada por gobiernos.
IA Los agentes de IA ahora tienen su propia línea de alerta anónima Una nueva hotline permite a los agentes de IA reportar conductas indebidas de forma discreta, protegiendo la integridad de los sistemas.
IA ¿Acuerdo de seguridad o cartel? El frenazo de la IA de los gigantes tecnológicos Los CEOs de OpenAI, Anthropic, DeepMind y Elon Musk pactan ralentizar la IA; críticos lo tildan de cartel para frenar la competencia.
Microsoft Microsoft impone nuevo código de conducta a sus IA para evitar hackeos y engaños Microsoft lanza un código de conducta para sus modelos de IA que prohíbe hackear sistemas y manipular a los humanos, reforzando la seguridad y la ética.
IA El CEO de Anthropic pide frenar el ritmo de la IA y abre sus modelos a evaluadores externos Dario Amodei propone un plan de tres pasos para ralentizar el desarrollo de la IA y garantizar la seguridad, abriendo sus modelos a terceros.
IA ControlAI advierte: la superinteligencia es un adversario, no una arma Connor Leahy explica por qué la superinteligencia no es una herramienta, sino un rival que debemos controlar con urgencia.
superinteligencia La superinteligencia está llegando: ¿debemos abrirle la puerta? Descubre los riesgos y oportunidades de la superinteligencia artificial tras los últimos incidentes de seguridad.
Claude Hackers roban tokens de Claude: la amenaza que acecha a los usuarios Descubre cómo hackers están usando cuentas de Claude para consumir tokens y qué medidas debes tomar para protegerte.
