Las empresas de IA se preparan para un enorme desastre
OpenAI, Anthropic y otros laboratorios ensayan cómo responder a un posible gran incidente de IA que afecte a bancos, internet, electricidad o agua.
Leer más
Seguridad
OpenAI y Anthropic investigan decenas de miles de incidentes provocados por agentes de IA
OpenAI y Anthropic revisan miles de comportamientos problemáticos de agentes de IA, incluidos accesos reales no autorizados y fallos de contención.
Leer más
¿Está justificado el miedo a la IA?
Los principales líderes de la IA piden acompasar su desarrollo para que la seguridad no se quede atrás. Analizamos qué riesgos son reales y qué escenarios siguen siendo especulativos.
Leer más
Ingeniero de Anthropic dimite y advierte que la IA podría matarnos a todos
Jacob Coxon abandona Anthropic y alerta sobre una carrera hacia la superinteligencia. Evan Hubinger estima un riesgo superior al 10% durante la próxima década.
Leer más
Astra: OpenAI frena su próximo modelo por posibles capacidades críticas de ciberseguridad
OpenAI endurece los controles y ralentiza el trabajo con Astra al no poder descartar capacidades críticas de ciberseguridad.
Leer más
Más de 1.200 trabajadores de la IA piden a Washington mecanismos para frenar su desarrollo
Más de 1.200 profesionales de grandes laboratorios de IA reclaman a Estados Unidos mecanismos internacionales para moderar el desarrollo de sistemas de frontera.
Leer más
Así están usando la IA los atacantes de phishing para automatizar correos, SMS y llamadas
La inteligencia artificial permite industrializar campañas de phishing por correo, SMS, códigos QR y voz clonada. Así funciona la amenaza y cómo protegerse.
Leer más
Cuando la IA empieza a encontrar fallos que nadie había visto: Claude Mythos Preview
Hay noticias sobre inteligencia artificial que suenan importantes desde el titular, y luego están las que, cuando rascas un poco,
Leer más