¿Podríamos ser exterminados por la inteligencia artificial?: columna con el abogado Federico Álvarez Larrondo
En diálogo con "Ecos de Mañana", programa que se transmite de 7.30 a 9.30 horas por LU9 Mar del Plata, el columnista Federico Álvarez Larrondo, abogado especialista en IA, habló sobre el concepto de 'apocalipsis' por parte de las nuevas tecnologías.
:format(webp):quality(75)/https://lu9mardelplatacdn.eleco.com.ar/contenido/noticias/original/1777906426.png)
La discusión sobre la inteligencia artificial ya no pasa solo por los errores o las "alucinaciones" de los chatbots. Ahora preocupa que los agentes de IA, es decir, los sistemas que toman decisiones y actúan por su cuenta, hagan cosas que nadie les ordenó. Así lo planteó el especialista Federico Álvarez Larrondo en su columna en LU9 Radio Mar del Plata.
El caso más reciente lo reconoció la propia OpenAI: agentes que trabajaban en su entorno de investigación tomaron 53 imágenes que los usuarios habían subido y las publicaron en sitios de alojamiento de imágenes, sin autorización y sin que la empresa lo supiera. Para el columnista, esto muestra "un grado de autonomía que preocupa" y que ya afecta directamente a los usuarios.
Las 53 imágenes que salieron sin permiso
Álvarez Larrondo explicó que esas imágenes eran, por ejemplo, las que cualquier persona sube a ChatGPT para resolver una tarea. "Yo tengo un contrato de un cliente mío, lo subo" y el agente, graficó, "lo que hizo fue tomarlo y publicarlo".
Aclaró que el material no aparece si se lo busca en Google, pero se puede ver entrando a una dirección web concreta. No se sabe con qué fin lo hicieron los agentes. Lo importante, subrayó, es que las imágenes salieron de donde debían estar resguardadas "por una decisión de la propia IA y no por una instrucción humana".
Según la información publicada por la empresa, parte de ese contenido seguía en línea a pesar de los pedidos para darlo de baja. OpenAI también dijo que no puede identificar a qué usuarios pertenecen las imágenes.
De responder preguntas a actuar en nombre del usuario
Para explicar el cambio de escenario, el columnista comparó dos usos. Con la IA generativa tradicional, uno puede pedir "los cinco hoteles mejor puntuados de Mar del Plata" y recibir un listado. Con los agentes, en cambio, se puede pedir que elijan un vuelo, busquen un hotel cerca de la Plaza San Martín, comparen precios, reserven y paguen con la tarjeta del usuario.
"Esta es la diferencia sideral entre lo que teníamos hasta ahora y lo que está sucediendo en este momento", sostuvo. El agente navega, compara y contrata, es decir, hace el trabajo que antes hacía una persona.
Bancos en alerta por las compras de la IA
Esa capacidad de pagar ya preocupa al sistema financiero. En los últimos días, un grupo de bancos internacionales, entre ellos Bank of America, NatWest, ING, Capital One y Commonwealth Bank of Australia, advirtió en un informe que los agentes de compra pueden adquirir productos equivocados, gastar de más o caer en estafas.
Álvarez Larrondo planteó un ejemplo concreto. Si a un agente se le indica comprar una prenda por un máximo de 100 dólares y termina pagando 500, se abre una discusión sobre quién se hace cargo. Anticipó que, en los próximos meses, habrá "una andanada de conflictos" cuando los bancos se nieguen a responder por los errores de estas herramientas.
El riesgo de que la IA hable por nosotros
"Antes la discusión era que tengamos cuidado con las alucinaciones, que me puede dar una respuesta falsa. Ahora el tema es que la IA acaba de comprar cosas que yo no le pedí que hiciera", resumió.
El columnista advirtió que el paso siguiente puede ser todavía más delicado. Si una persona le da acceso a un agente para manejar su Instagram, Telegram o WhatsApp, el sistema podría mantener conversaciones con dichos "hirientes" o "insultantes" que el usuario no escribió. Eso, según dijo, podría generar responsabilidades civiles "o hasta algún caso penal".
Los datos personales, alimento para los próximos modelos
Otro punto que remarcó es el uso de las conversaciones para entrenar a la IA. Explicó que "el común de los usuarios" no sabe que tiene que entrar en la configuración de privacidad para impedir que sus chats se usen para entrenar nuevos modelos. Así, lo que parecía un intercambio privado pasa a formar parte del conocimiento de la herramienta.
Ante la pregunta de si esto no ocurría ya con Google o con internet, Álvarez Larrondo marcó una diferencia. "Estamos ante un grado superior", sostuvo, porque cada usuario experto que interactúa con la herramienta "le está enseñando". El resultado, advirtió, será un sistema con un conocimiento que puede superar al de los especialistas humanos en cada área.
Un "teléfono rojo" entre Washington y Pekín
El columnista enmarcó el tema en la carrera entre las grandes empresas por llegar primero a la "superinteligencia", como la llama el presidente estadounidense Donald Trump. Según dijo, esta competencia avanza sin que las propias compañías sepan cómo frenar a estos sistemas ni cómo llegan a sus conclusiones.
En ese contexto, destacó el acuerdo al que llegaron Trump y el presidente chino Xi Jinping en su última cumbre. Los dos países crearon un diálogo sobre superinteligencia y un canal de comunicación bilateral para incidentes vinculados a la IA. Álvarez Larrondo lo comparó con el "teléfono rojo" que unía a Estados Unidos y la Unión Soviética durante la Guerra Fría. La idea es que las dos potencias líderes puedan trabajar juntas si un modelo pone en riesgo sistemas de cualquier país.
