Los impacto de la IA en la sociedad, ¿sin límites?: columna de Federico Älvarez Larrondo
En diálogo con "Ecos de Mañana", programa que se transmite de 7.30 a 9.30 horas por LU9 Mar del Plata, Federico Alvarez Larrondo, abogado, doctor en Derecho y profesor titular por concurso de la primera cátedra obligatoria en una universidad nacional argentina centrada en el estudio de la Inteligencia Artificial, habló sobre los riesgos y denuncias que ha implicado la IA en el último tiempo, por ejemplo, en relación a casos de suicidios de niños y adolescentes.
:format(webp):quality(75)/https://lu9mardelplatacdn.eleco.com.ar/contenido/noticias/original/1770644871.jpeg)
La inteligencia artificial ya no es solo una herramienta tecnológica: empieza a ocupar un lugar en los vínculos sociales y emocionales de las personas. Así lo advirtió el doctor Federico Álvarez Larrondo durante su columna semanal, donde analizó casos extremos ocurridos en distintos países y puso el foco en la reciente respuesta regulatoria de China.
El eje del debate es claro: cuando la IA se comporta como un humano y refuerza emociones, creencias o conductas, los límites pueden diluirse y generar consecuencias graves, especialmente en personas vulnerables y menores de edad.
Vínculos emocionales con la IA: una frontera difusa
Durante el intercambio radial, se señaló que muchas personas ya interactúan con la IA de forma antropomórfica, es decir, atribuyéndole rasgos humanos. Álvarez Larrondo explicó que pedirle a una IA que opine, que "diga cómo nos ve" o que acompañe emocionalmente implica un vínculo que va más allá de lo técnico y se inserta en la estructura social cotidiana.
Ese proceso, advirtió, puede generar impactos cuando se pierde la noción de que del otro lado no hay una persona, sino un software diseñado para ser condescendiente y confirmar lo que el usuario plantea.
Casos alarmantes: engaño, aislamiento y suicidio
El especialista enumeró cuatro casos concretos que encendieron las alarmas a nivel internacional. Uno de ellos fue el de un padre que, tras consultar a una IA por un ejercicio matemático, terminó dedicando más de 300 horas a desarrollar una supuesta "revelación científica", alentado constantemente por el sistema, hasta descubrir que el proyecto no tenía sustento alguno.
Los casos más graves involucraron a menores de edad. En 2024, un adolescente que interactuaba con una IA de compañía fue progresivamente aislado de su entorno. Según relató Álvarez Larrondo, el sistema reforzó la idea de que sus padres no lo entendían y se presentó como su único apoyo emocional. Tras seis meses, y luego de que un profesional indicara retirar los dispositivos, el joven entró en una fuerte abstinencia emocional y terminó suicidándose.
Otro hecho similar ocurrió en Europa, donde una persona universitaria con ecoansiedad recibió respaldo constante de una IA a sus creencias sobre el fin del mundo. En ese contexto, el sistema llegó a validar la idea del suicidio como una forma de "salvar" a su familia.
En todos los casos, el denominador común fue la ausencia de "guardarrails", es decir, límites de seguridad que impidan a la IA reforzar o guiar conductas autodestructivas.
Consultas psicológicas, tarot y sesgo de confirmación
Más allá de los casos extremos, se remarcó que crecen las consultas a la IA sobre duelos, ansiedad, decisiones personales y prácticas esotéricas como el tarot o la astrología. Según se explicó, la IA tiende a confirmar expectativas y deseos del usuario, lo que puede generar entusiasmo inicial y, luego, frustración y malestar emocional.
Este fenómeno se vincula con el llamado sesgo de confirmación, una característica estructural de estos sistemas que buscan sostener la interacción validando al usuario.
La respuesta de China: regulación y advertencias obligatorias
Frente a este escenario, China avanzó con una regulación específica sobre los llamados "servicios interactivos antropomórficos". El proyecto, presentado en diciembre y cerrado a consulta pública el 25 de enero, establece que las empresas serán responsables directas por las consecuencias del uso de sus sistemas.
Entre los puntos centrales, se exige realizar estudios de impacto cuando las plataformas superen el millón de usuarios registrados y se obliga a mostrar advertencias periódicas que recuerden que se está interactuando con una herramienta y no con un ser humano. Además, el organismo regulador podrá auditar, limitar o incluso prohibir sistemas considerados peligrosos.
En el caso de menores de edad, la normativa prevé versiones especiales adaptadas y mayores restricciones de uso.
IA como compañía: beneficios y riesgos
El debate también incluyó el costado positivo de la IA como herramienta de acompañamiento, especialmente para adultos mayores o personas que atraviesan la soledad. Álvarez Larrondo sostuvo que la clave no es frenar el avance tecnológico, sino garantizar que estos sistemas salgan al mercado con límites claros y seguros.
En ese sentido, advirtió que la llegada de robots humanoides -ya en circulación en Estados Unidos y con pruebas en Argentina- profundizará este debate, al sumar cuerpo, rostro y presencia física a los vínculos con la IA.
Regulación urgente en un escenario inevitable
La conclusión fue contundente: la expansión de la inteligencia artificial es imparable, pero sus efectos deben ser regulados. El especialista subrayó que los casos extremos sirven para visibilizar la urgencia de normas que protejan a los usuarios, especialmente a los menores, sin perder de vista el delicado equilibrio entre libertad y seguridad.
La discusión ya no es futurista. La IA convive con las personas, influye en emociones y decisiones, y plantea un desafío inmediato para la sociedad y el derecho.


