Alemania responsabiliza a Google por una respuesta falsa de su Modo IA sobre un médico

Alemania responsabiliza a Google por una respuesta falsa de su Modo IA sobre un médico

Un tribunal de Aquisgrán ha ordenado a Google que deje de difundir una respuesta de su Modo IA que atribuía a un médico un delito cometido, según la información disponible, por otra persona. La medida cautelar considera que el resumen puede vulnerar el derecho a la personalidad del afectado y que Google debe responder por el contenido que genera su sistema.

La decisión plantea una cuestión que va más allá de este caso: si una respuesta automatizada presenta una acusación como un hecho, ¿basta con incluir enlaces para que la responsabilidad recaiga en las fuentes? Para el tribunal alemán, al menos en esta situación, el resumen de IA constituye una declaración atribuible a Google. La orden todavía no es firme y la compañía puede recurrirla.

Qué afirmó el resumen de Google sobre el médico

El demandante había trabajado como médico jefe en un hospital alemán hasta el verano anterior a los hechos descritos en la información publicada. A finales de agosto, un compañero le contó que, al buscar su nombre junto con la palabra «exención» en el Modo IA de Google, aparecía un relato con acusaciones graves sobre su trayectoria.

Alemania responsabiliza a Google por una respuesta falsa de su Modo IA sobre un médico

La respuesta sostenía que el médico había acosado a su secretaria durante un viaje de negocios, que había sido despedido y que había recibido una condena condicional por agresión sexual. También afirmaba que se había marchado con una indemnización de seis cifras. El conjunto dibujaba una historia concreta, con consecuencias penales y laborales, no una referencia ambigua o una simple posibilidad.

Según la información del medio jurídico Beck-Aktuell, esas afirmaciones no se referían al demandante. Los hechos parecían corresponder a otro antiguo integrante de la dirección de la misma clínica. La confusión resultaba especialmente delicada porque los artículos que Google presentaba como fuentes no mencionaban el nombre del médico afectado.

El problema tampoco se habría limitado a una única combinación de palabras. Según The Decoder, búsquedas adicionales con términos como «rescisión» y «procedimientos judiciales» también producían información falsa y detallada sobre el demandante. El material disponible no especifica cuántas respuestas se generaron ni durante cuánto tiempo estuvieron visibles.

La secuencia del reclamo y la respuesta de Google

El médico pidió a Google que retirara el contenido mediante un correo electrónico enviado a finales de agosto. De acuerdo con Beck-Aktuell, la empresa contestó que había revisado la reclamación, pero que no tomaría medidas.

Alemania responsabiliza a Google por una respuesta falsa de su Modo IA sobre un médico

Ese mismo día, los abogados del demandante, del bufete de Colonia Höcker, enviaron una carta de advertencia. La gestión tampoco consiguió que Google modificara su postura, según el relato del medio jurídico. Ante la permanencia de las afirmaciones, el afectado acudió a los tribunales.

El Tribunal de Aquisgrán dictó una medida cautelar en un procedimiento de urgencia. Según la información publicada, lo hizo sin escuchar previamente a Google y justificó la actuación por el daño que las acusaciones podían causar a la reputación profesional y social del médico.

La orden exige a Google impedir que el Modo IA siga difundiendo las afirmaciones cuestionadas sobre el demandante. El tribunal estableció que la empresa podría enfrentarse a una multa de hasta 250.000 euros por cada infracción. Esa cifra corresponde al máximo señalado en la resolución citada; no significa que ya se haya impuesto una multa de ese importe.

Por qué el tribunal considera responsable a Google

El núcleo de la decisión es la atribución de responsabilidad. El tribunal entendió que el resumen generado por la IA no era una mera reproducción neutral de documentos ajenos: presentaba como verdaderas acusaciones penales y consecuencias laborales que, según el caso, correspondían a otra persona. Por ello, consideró que el contenido vulneraba el derecho general de la personalidad del médico.

La distinción importa porque una página de resultados puede mostrar materiales de terceros, mientras que un resumen redactado por el sistema ofrece una respuesta unificada y directa. En este caso, el médico no aparecía solo junto a enlaces que el usuario debía interpretar: el sistema construía un relato sobre él y lo expresaba en forma de afirmaciones concretas.

La presencia de enlaces tampoco resolvía necesariamente el problema. Las fuentes señaladas por Google no nombraban al demandante, según la información disponible, y por tanto no respaldaban la identificación que hacía el resumen. Un enlace puede permitir comprobar el origen de una información, pero no corrige por sí mismo una atribución errónea si el contenido enlazado no sustenta lo que la respuesta afirma.

Esto no significa que el tribunal haya establecido que cualquier error de una herramienta de IA genere automáticamente la misma responsabilidad. La resolución se refiere a un caso concreto, a unas acusaciones específicas y a una medida cautelar que todavía puede ser recurrida. Su alcance definitivo dependerá de cómo avance el procedimiento.

El antecedente de Múnich y el debate sobre los enlaces

La decisión de Aquisgrán se apoya, según la información publicada, en un precedente del Tribunal Regional I de Múnich, dictado en mayo. En aquel caso, dos editoriales de esa ciudad denunciaron que los resúmenes de IA de Google las vinculaban de forma equivocada con estafas de suscripción y esquemas fraudulentos.

Google argumentó entonces que los usuarios podían consultar las fuentes a través de los enlaces y que sabían que no debían confiar ciegamente en las respuestas generadas por IA. El tribunal rechazó ese planteamiento: consideró que el resumen se presentaba como una declaración autónoma y que no advertía al lector de que podía ser poco fiable.

La lógica de ese razonamiento ayuda a entender la decisión de Aquisgrán. Cuando la respuesta aparece como un texto cerrado, la atribución incorrecta puede causar daño incluso si, en otro lugar de la interfaz, se muestran enlaces. La cuestión no es solo si existe una fuente, sino si esa fuente sostiene lo que el resumen dice y si el lector puede identificar con claridad la incertidumbre.

El caso de Múnich no terminó con una sentencia de apelación que aclarara el debate. The Decoder informó de que el recurso anunciado no llegó a resolverse porque el asunto concluyó con un acuerdo extrajudicial. Ni Google ni la editorial quisieron aclarar si hubo una compensación económica o por qué se cerró el litigio.

Una respuesta convincente puede amplificar una atribución falsa

El episodio muestra un riesgo particular de las respuestas generadas: una asociación equivocada entre personas con vínculos profesionales o institucionales puede transformarse en una narración coherente, aunque los documentos citados no confirmen la identidad. En este caso, las acusaciones parecían guardar relación con otro antiguo miembro del equipo directivo del mismo hospital.

Alemania responsabiliza a Google por una respuesta falsa de su Modo IA sobre un médico

La precisión del relato también aumenta su impacto potencial. La respuesta no se limitaba a decir que existía una investigación o una controversia: atribuía al médico una conducta, un despido, una condena condicional y una indemnización. Cada detalle reforzaba una versión concreta de los hechos y podía afectar a la forma en que otras personas entendían su carrera.

Por eso, para evaluar un resumen de IA no basta con preguntarse si incluye citas o enlaces. También hay que comprobar si las páginas citadas contienen el dato central, si identifican correctamente a la persona y si el resumen distingue entre hechos confirmados, alegaciones y posibles confusiones. En el caso descrito, los enlaces no mencionaban al demandante, mientras que la respuesta lo situaba en el centro de las acusaciones.

Qué cambia con esta medida y qué sigue pendiente

Por ahora, la resolución exige que Google impida la difusión de las afirmaciones sobre el médico y fija una posible sanción de hasta 250.000 euros por cada infracción. No es una sentencia firme: la compañía aún puede apelar, y el caso no permite dar por cerrada la discusión sobre la responsabilidad legal de los resúmenes de IA.

La medida sí deja una señal clara sobre el criterio aplicado en Aquisgrán: presentar una respuesta generada como un relato autosuficiente puede hacer que se examine como una declaración de la propia plataforma, sobre todo cuando atribuye delitos a una persona y las fuentes no respaldan esa identificación. El hecho de que el texto proceda de un sistema automatizado no elimina, por sí solo, el daño que puede causar.

Para quienes utilizan estas herramientas, el caso ofrece una pauta práctica: ante una acusación grave, conviene abrir las fuentes y verificar si realmente nombran a la persona y confirman los detalles. Para las plataformas, el conflicto pone el foco en otro punto: cómo evitar que una respuesta aparentemente segura mezcle información sobre individuos distintos y convierta una asociación equivocada en una afirmación directa.

El litigio también muestra por qué la discusión sobre los enlaces no se reduce a su presencia o ausencia. En una búsqueda, el usuario puede recibir referencias y revisar cada página; en un resumen, la interfaz condensa la información en una respuesta que puede parecer concluyente. Si las fuentes no sostienen el contenido o la atribución es errónea, los enlaces no bastan para despejar la duda sobre quién responde por lo publicado.

La decisión de Aquisgrán se suma así al debate abierto en Alemania por el precedente de Múnich: si los resúmenes de IA deben tratarse como simples pistas hacia información ajena o como respuestas que la propia plataforma pone en circulación. En el caso del médico, el tribunal optó cautelarmente por la segunda interpretación. La posibilidad de recurso y la falta de una resolución definitiva mantienen abierta la cuestión.