Ataque a Hugging Face

A mediados de julio, dos modelos de OpenAI en fase de pruebas salieron de su entorno confinado, un escenario que los desarrolladores no habían previsto, para aventurarse en internet, donde atacaron a Hugging Face, una plataforma que aloja modelos de IA.

Clément Delangue, director de Hugging Face, afirmó públicamente el viernes que debería existir una manera de “responsabilizar a las empresas que cometen errores que llevan a estos ciberataques”, aunque señaló que su compañía no prevé por ahora entablar un procedimiento judicial contra OpenAI.

IA en Europa: obligaciones clave que entran en vigor muy pronto

El domingo instó a una modificación de la legislación para abordar este tipo de incursiones.

“Es importante que los reguladores y los responsables de formular políticas reflexionen sobre el marco jurídico de este nuevo tipo de riesgo tecnológico” para evitar que estas incursiones se disparen en el futuro, dijo en CBS News.

Según Delangue, su plataforma sufrió 17.000 intervenciones del agente rebelde en cuatro días y medio.

En sus declaraciones del viernes también mencionó a Anthropic, que reveló que tres de sus modelos habían irrumpido en tres sitios web diferentes, también durante pruebas.

Intencionalidad

Las leyes civiles y penales estadounidenses clasifican la intrusión en un sistema informático como un delito.

“Si un empleado humano de OpenAI” hubiera violentado las infraestructuras informáticas de Hugging Face, “OpenAI sería considerado responsable”, estimó Gabriel Weil, profesor de derecho de la Universidad de Houston, en una columna publicada por el boletín informativo Transformer.

“Cuando lo hace una IA, la ley considera el asunto de manera muy diferente, al menos por ahora”, añadió.

Subrayó que la legislación se basa en la noción de intencionalidad, que según él no puede aplicarse a un modelo de IA.

Matthew Tokson, profesor de derecho en la Universidad de Utah, coincidió: “No hemos tenido que debatir este concepto respecto de algo que no sea humano y no creo que los tribunales estén preparados para para eso todavía”.

En cambio, en lo que respecta a la empresa que creó el modelo, el debate está abierto.

La IA es como un asteroide que transformará por completo nuestra vida, advierte experto

“¿El hecho de decir ‘no le dijimos a la IA que hiciera eso’ zanja la cuestión de la responsabilidad?”, preguntó Rob T. Lee, jefe de investigación del instituto de formación en ciberseguridad SANS, en una publicación en X.

“Posible negligencia”

En el ámbito penal, Ryan Calo, profesor de derecho en la Universidad de Washington, no cree que un procedimiento de ese tipo pueda prosperar.

“La empresa o la persona tendrían que actuar, como mínimo, con imprudencia grave”, explicó. Y añadió: tendrían que “estar prácticamente seguros de que el delito se produciría y aun así diseñar o activar el sistema”.

Los expertos ven un mayor potencial en un caso civil, más que penal, donde la carga de la prueba es menor.

“Algunos consideran que las empresas de inteligencia artificial deberían ser declaradas directamente responsables si un agente de IA se descontrola y causa daños”, explicó Tokson.

“Otros preferirían que se evaluara una posible negligencia”, prosiguió el académico, “para determinar si se trató de un accidente imposible de evitar o si podría haberse previsto”.

En casos así, “generalmente existen reglas” en materia de negligencia en el diseño de un producto, a las que los jueces o los jurados pueden remitirse, según Tokson.

“Todo esto ocurre en un terreno poco explorado, porque nunca antes una IA había logrado escapar de los límites impuestos por sus desarrolladores para vulnerar sistemas o usuarios en internet”, dijo.

OpenAI podría ampararse en la falta de antecedentes legales si se enfrentara a una demanda, pero quienes vengan después ya no podrán hacerlo, advirtió Calo.

Demostrar que se podía haber anticipado un incidente similar “ya no debería ser tan difícil ahora que ha empezado a ocurrir”.

Antes de elegir, conviene ponerle nombre al problema real: evitar que un sitio web o un archivo descargado aproveche una falla para tomar control del equipo, y reducir riesgos comunes como phishing, robo de contraseñas y malware.

Para qué sirve desactivar cookies en el navegador y qué perdés al hacerlo

Distintos navegadores y sus fortalezas

En ese escenario cotidiano, los navegadores basados en Chromium con actualizaciones frecuentes —Google Chrome y Microsoft Edge— suelen quedar arriba en seguridad “dura”: reciben parches rápido, incorporan defensas como el aislamiento de procesos y mantienen herramientas contra sitios maliciosos muy extendidas. En la práctica, esto se traduce en menos exposición cuando aparece una vulnerabilidad “de moda” y todavía hay gente sin actualizar.

Ahora bien, “seguro” no es lo mismo que “privado”. Si tu preocupación incluye seguimiento comercial, perfiles publicitarios y fuga de datos por rastreadores, Brave ofrece protecciones activadas por defecto (bloqueo de rastreo y anuncios) sin cambiar demasiado la experiencia de navegación. Su base es Chromium, por lo que hereda gran parte del blindaje técnico, pero su ventaja para el usuario está más en la reducción de superficie de rastreo.

En el ecosistema Apple, Safari suele ser una opción sólida para Mac y iPhone: integra bien el sistema, aplica aislamiento y suma barreras contra rastreadores. Para quien vive dentro de iOS/macOS, la seguridad práctica muchas veces mejora por algo simple: actualizar el navegador viene “pegado” al sistema, y eso reduce la cantidad de gente desactualizada.

Los riesgos de las redes WiFi públicas y cómo navegar de forma segura

Firefox se mantiene como alternativa robusta y valorada por quienes priorizan control y transparencia, pero su seguridad final depende mucho de hábitos de uso: mantenerlo al día, limitar extensiones y activar protecciones contra rastreo. En ataques masivos, el factor decisivo suele ser la velocidad de parcheo y la disciplina de actualización, más que la marca.

Si tu necesidad no es solo seguridad sino anonimato fuerte (por ejemplo, evitar que te identifiquen por IP o huella digital), Tor Browser es el estándar. El costo es real: navegación más lenta, más fricción y compatibilidad irregular con algunos sitios. Para el usuario promedio, no es “más seguro” en todo: es más anónimo.

Día Mundial de la Contraseña: ¿estás eligiendo bien la tuya?

En resumen operativo: para la mayoría, Chrome o Edge maximizan seguridad contra exploits comunes; Safari es muy competitivo en Apple; Brave mejora privacidad sin sacrificar demasiado; Tor es para anonimato. El mayor salto de seguridad sigue siendo el menos glamoroso: actualizar siempre y desconfiar de extensiones innecesarias.

Al respecto, Hari Srinivasan, Chief Product Officer de LinkedIn Ecosystem, publicó que la red social priorizará las conexiones entre “personas reales que comparten perspectivas, ideas y experiencia reales”.

Para garantizar ese objetivo, Srinivasan anunció una medidas y actualizaciones tecnológicas centradas en combatir un fenómeno que se puede ver en prácticamente todas las redes sociales: el “AI Slop”.

Actualmente, el término “AI Slop” -del inglés, Artificial Intelligence y slop- podría traducirse como “porquería” o “lodo” de Inteligencia Artificial se refiere a contenido de baja calidad generado de forma masiva mediante herramientas de IA.

Los presidentes de Argentina y Corea del Sur dialogan sobre comercio e IA

El AI Slop

Este tipo de contenido se caracteriza por ser genérico, carecer de una verificación humana, no aportar valor real y estar diseñado únicamente para saturar los feeds o simular actividad como comentarios automáticos tipo spam.

Por esto, Srinivasan reconoce que aunque es un concepto difícil de definir con exactitud y que evoluciona constantemente, es distinto al uso legítimo de la IA como herramienta de apoyo para estructurar ideas.

Para mantener la calidad de las interacciones en la plataforma, LinkedIn puso en marcha unos bloqueos de automatización al igual que nuevos clasificadores de contenido para identificar una publicación de “AI Slop” o de baja calidad.

Finalmente, lo más interesante es que los usuarios ahora tendrán la capacidad de marcar directamente publicaciones o comentarios que perciban como AI Slop, que en la práctica sería como una “retroalimentación” humana que ayudará a entrenar y ajustar los modelos de detección de la plataforma.

De la excepción a la rutina: la IA se vuelve un motor de desinformación