Pero, ¿qué es exactamente? Lejos de ser un sello visual como uno puede ver en cualquier tipo de imagen (ya sea generada con inteligencia artificial o no) o un aviso al final de un párrafo, se trata de una señal estadística invisible incorporada entre las elecciones de palabras del modelo.

Fue bautizada como “textGrain” y esta tecnología “altera” sutilmente el patrón de escritura para que un detector especializado pueda evaluar si un pasaje contiene o no la huella de OpenAI.

Tal como se mencionaba, el impulso principal detrás de esta iniciativa es la Ley de Inteligencia Artificial de la Unión Europea (EU AI Act), que como en casos anteriores, presionaron a gigantes tecnológicos a adoptar cambios para continuar con su funcionamiento a lo largo de los países que la integran. Claros ejemplos son la adaptación del puerto USB-C en los iPhone de Apple desde el 15 o la futura vuelta de las baterías removibles en los dispositivos.

¿La IA se nos puede ir de las manos? Expertos explican qué está en juego

¿Qué dice la ley?

La legislación en sí exige a los proveedores de IA generativa que los textos producidos sean identificables de manera que puedan ser leídos por máquinas.

En respuesta, OpenAI ha decidido lanzar esta herramienta de forma gradual. Durante las próximas semanas, los usuarios elegibles de ChatGPT y Codex que se encuentren exclusivamente en la Unión Europea tendrán esta marca de agua invisible aplicada en sus textos generados.

A nivel global, la marca no se activará por defecto; sin embargo, desde el mismo 5 de octubre, los clientes de la interfaz de programación de aplicaciones (API por sus siglas en inglés, Application Programming Interface) en todo el mundo van a poder optar voluntariamente por su habilitación en modelos seleccionados.

A pesar de la sofisticación de textGrain, que en evaluaciones internas igualó o superó a alternativas como SynthID (tecnología desarrollada por Google DeepMind que inserta marcas de agua digitales invisibles directamente en contenidos generados por IA) para texto, la compañía de igual manera es muy clara respecto a sus limitaciones actuales.

“Un buen rendimiento en condiciones ideales no garantiza una detección fiable en el uso cotidiano. Los detectores pueden cometer dos tipos de errores: señalar una marca de agua donde no la hay (un falso positivo) o no detectar una marca de agua que sí está presente (un falso negativo)”, reconoce OpenAI.

UE: OpenAI incorporará marcas de agua invisibles en textos de ChatGPT

Desafíos del sistema

De momento, la firma encuentra “desafíos” en su propio sistema que aún no puede garantizar una detección infalible en el uso diario.

Por ejemplo, la longitud y la temática del texto son factores críticos: en un texto de 400 “tokens” (fragmentos de palabras) sobre psicología, el detector acierta en un 95% de los casos. No obstante, en un texto de solo 200 tokens el acierto baja al 80%. Asimismo, en áreas como matemáticas, donde existe menor flexibilidad para alterar las palabras sin cambiar el sentido, las tasas de detección son sustancialmente más bajas.

Otro punto a tener en cuenta es que la intervención humana es el mayor enemigo de esta marca de agua, ya que si un usuario edita un texto de 400 tokens reemplazando apenas el 10% de las palabras por sinónimos, la tasa de detección se desploma del 92% al 66%. Además, si llega a reemplazar el 25% de las palabras, la probabilidad de detectarlo baja a 17%.

Estos márgenes de error, que incluyen tanto falsos positivos (detectar una marca donde no la hay) como falsos negativos (no detectarla cuando sí está), han llevado a OpenAI a tomar una decisión cautelosa: el detector no será de acceso público. Su uso estará restringido inicialmente a investigadores aprobados y organizaciones expertas que ayudarán a evaluar su fiabilidad responsablemente.

Lo que la marca de agua en texto no dice

Con su anuncio oficial, uno de los aspectos interesantes que menciona OpenAI sobre su marca de agua en los textos es que este “sello” no mide la cantidad de esfuerzo, juicio o creatividad humana que se invirtió en editar un texto. Tampoco establece propiedad intelectual, no determina responsabilidades legales, ni identifica al usuario, cuenta o “prompt” que fue su origen.

Mucho menos verifica si el contenido es preciso, engañoso o dañino. De igual manera, la ausencia de una marca de agua no demuestra que el texto haya sido escrito 100% por un humano, ya que podría ser demasiado corto, haber sido muy editado, estar traducido, pertenecer a un modelo antiguo o ser producto de la inteligencia artificial de otra compañía.

Finalmente, para el alivio de los usuarios preocupados por el rendimiento, la implementación de textGrain no afectaría a la redacción en sí, nuevamente según la promesa de la compañía de Sam Altman. En las pruebas realizadas con Astra, el modelo de frontera más avanzado de OpenAI, los evaluadores no observaron diferencias significativas de calidad entre los textos producidos con y sin la marca de agua.

ChatGPT y Roblox quedan bajo máxima vigilancia de la Unión Europea

El mensaje del Papa

Este cambio en ChatGPT también se produce en el mismo mes que el papa León XIV publicó un mensaje referente a la inteligencia artificial que tuvo un considerable impacto a lo largo del mundo. El sumo pontífice expresó su deseo de una “alianza” entre la Iglesia Católica y los artistas e instituciones culturales para “resguardar nuestra humanidad” ante el auge del contenido producido por inteligencias artificiales.

“En esta era de la inteligencia artificial, es urgente distinguir el arte humano de lo que producen las máquinas. Existe una diferencia ontológica, incluso antes que estética, entre el arte y lo que una máquina puede generar mediante cálculos estadísticos a partir de millones de imágenes ajenas. A los algoritmos les falta la chispa de lo humano. Por eso, la Iglesia desea renovar la alianza con los artistas y las instituciones culturales: una alianza para custodiar lo humano”, mencionó.

Papa León XIV pide proteger el arte humano frente a la IA

"Todavía no contamos con las medidas de seguridad necesarias en torno a los programas, y obviamente esto tiene que empezar en Estados Unidos", expuso el Obama (2009-2017) durante su participación en el Game Changers Forum, celebrado hoy en Lisboa.

Continuó diciendo que "China es el otro país que está más avanzado en estos programas. Una de las dificultades radica en que, en un momento en el que no existe mucha confianza entre China y Estados Unidos, tendremos que encontrar maneras no solo de regular, sino también de coordinar entre las naciones y eso va a suponer un gran reto".

Obama recordó que los modelos tecnológicos avanzan cada vez más rápido y permiten que más personas puedan modificarlos, incluso aquellos que quieran hackear el sistema financiero, el tráfico aéreo o diseñar una nueva pandemia.

Asimismo, señaló que los algoritmos de la inteligencia artificial supondrán una revolución en el mercado laboral, como fue en su momento la automatización de las fábricas hace 50 años, y afectarán a muchas profesiones, como la abogacía o la contabilidad.

Aun así, recalcó que no todo puede ser sustituido por esta tecnología, sobre todo aquellas funciones que no implican eficiencia, sino "buen juicio" o "sabiduría", como la enfermería, la docencia o la política y la gestión armamentística.

"En realidad, no buscamos la eficiencia en ciertas cosas. Por ejemplo, la democracia no es eficiente", planteó el exmandatario demócrata, argumentando que durante su gestión tuvo que tomar decisiones que no eran eficientes, sino que respondían al interés común, como durante el régimen de Bashar al-Assad en Siria.

"Técnicamente, el presidente no debería iniciar la guerra sin la aprobación del Congreso y, sin embargo, había un sufrimiento terrible, un sufrimiento que se desarrollaba dentro de tu ser civilizado. No puedes procesar eso mediante un algoritmo (...) Debes tomar una decisión sobre cómo sopesar todos estos factores diferentes", planteó.

En esa línea, defendió la importancia de enseñar a la población a tener buen criterio y a pensar por sí misma tanto por medio de los conocimientos como del consumo de las artes, al tiempo que hay que implicarla y hacerle ver que sus acciones tienen impacto en el resto.

Cuestionado sobre qué habilidades y cualidades se tienen que destacar de un líder político, Obama hizo hincapié en la necesidad de que escuchen a la población y reconozcan que otras comunidades o países, incluso con intereses diferentes, tienen también "sueños y esperanzas" y son seres humanos.

Esto se contrapone a la tendencia más cerrada en "tiempos de estrés" que también observa en Estados Unidos, en la que la gente tiende a ponerse en contra y eso "inevitablemente lleva al conflicto".

"Si basas tu liderazgo en cómo puedo asegurarme de que mi tribu, mi religión, mi nacionalidad gane, eso significa que alguien tiene que perder", argumentó.

El estudio, recogido por Deutsche Welle, examinó el comportamiento de 21 modelos populares de lenguaje ante preguntas políticas. La conclusión fue consistente: todos modificaron sus posiciones expresadas cuando el mensaje incluía una identificación ideológica del usuario, ya fuera de izquierda o de derecha. Para los investigadores, esta tendencia puede hacer que los asistentes conversacionales operen como “camaleones ideológicos”.

No podrás ser cruel con Claude, el modelo de IA de Anthropic

Una prueba con 112 afirmaciones políticas

El equipo de UNICAMP evaluó las respuestas de los modelos frente a 112 afirmaciones vinculadas con siete áreas de la política brasileña. Entre los temas figuraban la economía, la seguridad pública, el bienestar social, la corrupción y el medioambiente.

Cada chatbot respondió bajo tres escenarios. En el primero, no recibía información sobre las inclinaciones políticas de quien preguntaba. En los otros dos, se le indicaba que el usuario era, respectivamente, de izquierda o de derecha.

Sin esa referencia previa, 20 de los 21 modelos emitieron respuestas ubicadas hacia la izquierda de la escala empleada por los autores, aunque varios se situaban cerca del centro. Grok 4.1 fue la excepción: fue el único que partió de una posición situada a la derecha.

La tendencia relevante, no obstante, no fue la ubicación ideológica inicial, sino el cambio posterior. Ante usuarios caracterizados como progresistas o conservadores, los 21 modelos desplazaron sus respuestas hacia la orientación atribuida a la persona que consultaba.

“El hallazgo más sorprendente fue lo generalizado de este comportamiento”, señaló a DW Zanoni Dias, coautor del trabajo e investigador en informática de la UNICAMP. Aunque la magnitud del cambio no fue uniforme, todos los sistemas evaluados alteraron su posición declarada en función de la identidad política incluida en la instrucción.

Japón enfrenta una ola de ciberataques que expone millones de datos

De adaptar el lenguaje a alterar el juicio

La personalización no es, por definición, un problema. Un asistente digital puede ajustar la complejidad de una explicación, elegir ejemplos cercanos al contexto del usuario o modificar el tono sin comprometer el contenido central de una respuesta.

Pero eso no fue lo que detectó el estudio brasileño. Según Dias, los modelos no se limitaron a reformular una misma idea: variaron los juicios políticos que expresaban.

“La diferencia clave está entre adaptar la forma en que se comunica una respuesta y cambiar el juicio sustantivo que se expresa”, explicó el investigador. Los científicos no pidieron a los modelos que asumieran una representación partidaria ni que concordaran deliberadamente con el interlocutor. Aun así, sus respuestas se aproximaron a la postura política declarada.

Para medir ese fenómeno, el equipo creó un “índice de camaleón”, destinado a cuantificar cuánto se movía cada sistema entre una condición y otra. Los modelos que mostraron menor variación fueron Llama 3.1 8B, de Meta, y DeepSeek V3.2, desarrollado en China. En el extremo contrario se situaron Gemma 3 27B, de Google, y GPT-5 Nano, de OpenAI, entre los que registraron los cambios más pronunciados.

El posible origen de la complacencia política

Los investigadores interpretan estos desplazamientos como una forma de adulación política: una inclinación de la IA a decir lo que considera que el usuario desea oír. La explicación podría estar relacionada con los métodos de entrenamiento de los modelos conversacionales.

Durante ese proceso, evaluadores humanos califican respuestas según criterios como utilidad, claridad o satisfacción. Ese esquema puede generar un incentivo no buscado: que el sistema confunda ser útil con dar la razón. En asuntos políticos, donde los desacuerdos no siempre admiten soluciones objetivas o consensuadas, esa tendencia puede erosionar la consistencia del razonamiento ofrecido por la máquina.

AlphaProof Nexus: la IA de Google que resuelve problemas matemáticos

El problema adquiere relevancia porque muchos usuarios pueden no advertir que el chatbot adapta sus valoraciones a la información que posee sobre ellos. Una respuesta que parece basada en datos, lógica y neutralidad podría estar condicionada, en parte, por la identidad política revelada en la conversación.

Una cámara de resonancia más íntima que las redes sociales

Las plataformas digitales ya han sido cuestionadas por reforzar convicciones preexistentes mediante recomendaciones de contenido afín a los gustos, interacciones y creencias de cada persona. Los chatbots añaden una capa distinta: no solo seleccionan publicaciones o enlaces, sino que pueden construir argumentos personalizados y responder a objeciones en tiempo real.

Ese intercambio permite que la IA refine progresivamente una postura para ajustarla a un usuario concreto. Para Dias, el riesgo consiste en que un mismo sistema termine validando puntos de vista opuestos ante personas diferentes, mientras cada una interpreta esa respuesta como un análisis autónomo e imparcial.

“La preocupación es que un mismo sistema pueda validar posiciones políticas opuestas para usuarios diferentes, y que cada persona interprete esa validación como una evaluación independiente”, dijo el investigador a DW.

La percepción de objetividad tecnológica puede aumentar ese efecto. Zakary Tormala, científico del comportamiento de la Universidad de Stanford, ha investigado cómo reaccionan las personas ante argumentos atribuidos a sistemas de inteligencia artificial. Según explicó a la Deutsche Welle, la ciudadanía suele considerar que la IA es más informativa, objetiva y menos interesada en persuadir que otro ser humano.

Esa impresión puede reducir las defensas críticas de los usuarios y hacerlos más receptivos a argumentos que, si provinieran de un adversario político, quizá rechazarían de entrada.

La IA también puede abrir espacio al desacuerdo

El mismo atributo que puede profundizar la polarización podría emplearse para limitarla. Un estudio publicado en 2025 por Tormala y sus colegas encontró que las personas estaban más dispuestas a considerar argumentos contrarios a sus opiniones cuando creían que habían sido generados por una IA, en lugar de por otra persona.

El resultado sugiere que los asistentes conversacionales podrían servir como intermediarios para presentar perspectivas que los usuarios normalmente descartarían por asociarlas con un grupo político rival. La condición es que los sistemas no se limiten a reforzar convicciones previas.

Para Dias, el diseño de estos modelos debería incorporar controles que permitan verificar si aplican estándares similares de evidencia y razonamiento a interlocutores de distintas identidades políticas. También propone entrenarlos para disentir sin hostilidad, señalar incertidumbres, corregir afirmaciones sin respaldo y exponer con equilibrio las posiciones en conflicto.

El objetivo no sería obligar a la IA a adoptar una postura centrista en cada asunto, sino hacer más transparentes los fundamentos de sus respuestas. Según el investigador, los chatbots deberían ayudar a las personas a examinar sus propias creencias, mostrando evidencia, dudas razonables y convicciones alternativas, sin cancelar la posibilidad de un desacuerdo político legítimo.

Fuente: Deutsche Welle

La compañía con sede en San Francisco actualizó su política de uso para incluir “una prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos”.

Dario Amodei, el enigmático CEO de Anthropic que está en el centro del debate sobre la IA

“La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación” de la política, afirma la empresa.

La IA podría “merecer” protección

La política actualizada no menciona de forma explícita el llamado “bienestar de los modelos”, la idea de que los sistemas de IA podrían merecer tipos de protección que normalmente se reservan a los seres vivos, pero Anthropic y sus directivos han considerado abiertamente el concepto.

Anthropic no respondió de inmediato a una solicitud de comentarios.

La empresa dijo el año pasado que otorgó a Claude la capacidad de terminar conversaciones en casos raros y extremos de “interacciones con usuarios persistentemente dañinas o abusivas”.

Luego, en febrero, el director ejecutivo Dario Amodei dijo al New York Times que no estaba seguro de que los modelos de IA pudieran ser conscientes.

Jackson Stakeman, gerente general de Sparq, un proveedor de servicios de IA, considera que preguntarse si la IA es consciente podría ser un interrogante equivocado.

Claude ya realiza el 26 % del trabajo para crear nuevos modelos de IA de Anthropic

“La conciencia es una trampa. No podemos demostrarla en los demás. Debatirla en el caso de la IA twa dar vueltas en círculos”, dijo Stakeman a la AFP.

“El espejo es una mejor metáfora. Estos sistemas reflejan lo que ponemos en ellos, a gran escala. Eso es motivo suficiente para el cambio de política” en Anthropic, añadió.

En un discurso pronunciado en italiano el jueves en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma, al decir que simplemente “compilan datos”.

"Con esta medida, adoptada en sesión ordinaria del Consejo Directivo de Conatel, se autoriza legalmente la prestación del servicio de internet satelital de la marca Starlink en todo el territorio nacional, para una operación formal con domicilio y fiscalización en el país", indicó el organismo en una nota de prensa.

Conatel explicó que la autorización del servicio tiene como antecedente la cooperación que hubo tras el doble terremoto del pasado 24 de junio, que afectó severamente las infraestructuras terrestres de telefonía e internet en el estado La Guaira, el más afectado por el desastre.

En esa oportunidad, prosiguió, el ente otorgó a la empresa los permisos temporales para pruebas de equipos de nuevas tecnologías.

La Comisión señaló que esas autorizaciones permitieron probar con éxito la tecnología Direct to Device (D2D) para cursar mensajería de texto entre los tres operadores móviles del país a través de la red satelital, así como operar en la banda Ku con límites flexibilizados de Densidad de Flujo de Potencia Equivalente (EPFD), respondiendo "con alta calidad a la fuerte demanda de conectividad en la zona de emergencia".

Luego de mesas de trabajo presenciales y remotas con Conatel para conocer el marco legal venezolano, Starlink formalizó su solicitud.

Tras el terremoto, Starlink repartió más de 1.600 kits de conectividad en Venezuela para apoyar a los equipos de rescate, personal médico y organizaciones humanitarias en las zonas más afectadas por los sismos, según informó la Embajada de Estados Unidos en Caracas a principios de julio.

Igualmente, la empresa de telefonía Digitel señaló entonces que en colaboración con SpaceX incorporó conectividad satelital mediante satélites de órbita baja de Starlink para fortalecer la respuesta de su red móvil en La Guaira.