Los problemas que empieza a acarrear la IA: columna del Dr. Federico Álvarez Larrondo
En diálogo con "Ecos de Mañana", programa que se transmite de 7.30 a 9.30 horas por LU9 Mar del Plata, el columnista y abogado especialista en Inteligencia Artificial, Federico Álvarez Larrondo, habló sobre los inconvenientes que deja ver últimamente la IA en diferentes ámbitos, sobre todo la salud.
:format(webp):quality(75)/https://lu9mardelplatacdn.eleco.com.ar/contenido/noticias/original/1776701868.jpeg)
Una enfermedad que nunca existió se coló en la inteligencia artificial y llegó a ser citada en papers científicos oficiales. El caso, que se reveló de manera completa en las últimas semanas, fue analizado en LU9 Radio Mar del Plata por el especialista en tecnología Dr. Federico Álvarez Larrondo, quien advirtió sobre los riesgos concretos del uso de IA generativa en áreas sensibles como la medicina.
La historia comenzó el 15 de marzo de 2024, cuando una profesora sueca que investiga el impacto de la inteligencia artificial en la ciencia médica decidió hacer una prueba: inventar una enfermedad, publicarla como preprint -un documento antes de su publicación formal- e incorporar imágenes generadas por IA. La llamó "Bing Sonia" (o "Vic Sonia"), la vinculó a síntomas oculares asociados a la exposición a pantallas, y la lanzó a la red académica.
El preprint, que incluía datos falsos y personas inventadas, fue incorporado por los modelos de IA como información válida. Para 2025, un grupo de investigadores indios publicó un trabajo oficial donde citaban la supuesta enfermedad como un caso real bajo estudio. Habían tomado la información que les devolvía la IA generativa sin ir a verificar el paper original.
En abril de 2026 se reveló que ese paper originario era falso, que la IA se había alimentado de él y que la investigación india -que lo replicó- fue dada de baja por la revista que la había publicado.
El equipo de LU9 realizó pruebas consultando a distintos modelos sobre la existencia de la enfermedad. Los resultados fueron distintos según la arquitectura de cada herramienta.
Gemini identificó de inmediato que se trataba de una información falsa, creada en el marco de una investigación sueca. Esto se debe a que su sistema busca en la web en tiempo real, lo que le permitió detectar la anomalía. Géminis (también probado) tuvo una primera respuesta equivocada, pero al insistir reconoció que la información estaba cuestionada por una publicación reciente.
ChatGPT, en cambio, construyó una patología alternativa: relacionó la enfermedad con una supuesta dependencia emocional al propio chat y se la atribuyó a la investigadora sueca. Álvarez Larrondo fue directo sobre lo que eso implica:
El especialista subrayó que el término técnico "alucinación" en IA se refiere a cuando el sistema inventa información. Pero en este caso, el problema es distinto: la IA no inventó, sino que no verificó.
Álvarez Larrondo advirtió que este escenario es especialmente riesgoso en el campo de la salud, donde investigadores están publicando trabajos con datos generados por IA sin cruzarlos con fuentes primarias. "Estamos creando información basura y en campos como la medicina eso tiene consecuencias reales", señaló.
La investigadora sueca consultó a un comité de ética antes de publicar el preprint falso. La conclusión fue que no había otra manera de probar la hipótesis sin lanzar el material a la red académica real. El documento incluía advertencias internas de que todo era ficticio, pero eso no impidió que la IA lo procesara como dato válido.
Para Álvarez Larrondo, el caso expone una grieta estructural: los modelos de IA se entrenan con la mayor cantidad posible de información disponible -"buena, mala, pésima", en sus palabras- sin depuración suficiente. Y hay además un incentivo perverso en el ecosistema académico: investigadores que recurren a IA generativa para producir más publicaciones y mejorar su posicionamiento en buscadores como Google Scholar.
Álvarez Larrondo cerró la reflexión con un mensaje que apunta a la formación profesional en todas las áreas del conocimiento: la validación de la información, una práctica históricamente propia del periodismo, hoy resulta indispensable para cualquier disciplina que use IA como fuente.
