El “gemelo” que mira a la sociedad: innovación pública, datos sensibles y el riesgo de decidir a oscuras

El anuncio sonó futurista, pero la pregunta que quedó flotando fue profundamente terrenal: ¿qué puede hacer el Estado con los datos de la sociedad cuando los combina con inteligencia artificial?

El Ministerio de Capital Humano presentó semanas atrás  el llamado Gemelo Digital Social, una herramienta que, según la comunicación oficial, permitiría simular escenarios, anticipar impactos y diseñar políticas públicas a partir del procesamiento de grandes volúmenes de información. La idea fue presentada por el Gobierno como un salto hacia un Estado capaz de anticiparse a los problemas. Sin embargo, el entusiasmo oficial chocó rápidamente con una ola de inquietudes públicas: especialistas, dirigentes opositores y organizaciones vinculadas a derechos digitales advirtieron sobre la falta de precisiones, el posible uso de datos sensibles, la ausencia de una regulación específica y los riesgos de avanzar hacia sistemas automatizados sin controles democráticos claros.

El debate no es menor. En un país atravesado por discusiones sobre ajuste, asistencia social, acceso a derechos, seguridad, educación y salud, la posibilidad de que el Estado construya modelos predictivos sobre la vida social despierta expectativas, pero también sospechas. La inteligencia artificial puede ayudar a mejorar decisiones públicas. Pero también puede consolidar sesgos, clasificar personas o volver opacos procesos que deberían ser explicables.

En diálogo con InfoMiBa, el especialista en Inteligencia Artificial Elisandro Santos buscó ordenar una discusión que, por momentos, quedó atrapada entre el marketing tecnológico y el temor a una vigilancia masiva.

 

Qué es un gemelo digital social

Para empezar desde cero, Santos explicó que el concepto de “gemelo digital” no nació con la política social ni con el Gobierno argentino. Hace años se utiliza en la industria para crear representaciones virtuales de fábricas, ciudades, redes energéticas o sistemas de transporte, con el objetivo de anticipar fallas, probar escenarios y mejorar decisiones.

“El concepto de gemelo digital existe hace años en la industria. Por ejemplo, se usa para crear representaciones virtuales de fábricas, ciudades o sistemas energéticos y así poder anticipar problemas o mejorar decisiones”, señaló.

La novedad, y también el punto delicado, aparece cuando ese concepto se traslada del mundo físico al mundo social. Ya no se trata de simular el funcionamiento de una máquina, una autopista o una red eléctrica, sino de modelar comportamientos humanos, trayectorias sociales, variables económicas, educativas, laborales o territoriales.

“En principio, no parecería tratarse de una copia digital exacta de cada ciudadano, sino más bien de un sistema que podría integrar distintos tipos de información para modelar comportamientos sociales o prever escenarios posibles. Aun así, todavía faltan definiciones técnicas concretas para entender el verdadero alcance del proyecto”, sostuvo Santos.

Ese punto es clave: el problema no es solamente qué promete la herramienta, sino qué tan claro está su verdadero funcionamiento, y hasta ahora, la explicación pública dejó más preguntas que certezas.

 

El dato sensible detrás de la promesa tecnológica

 

Cualquier herramienta predictiva necesita datos, y en ese marco, cuando el Gobierno habla de información social, educativa, laboral o territorial, la pregunta inevitable es qué bases concretas podrían alimentar el sistema. ¿Datos de empleo; educación; salud? ¿Subsidios, localización geográfica; acceso a servicios? ¿Información proveniente de organismos públicos y también de actores privados?

Santos planteó que, en términos generales, un sistema de este tipo podría trabajar con variables vinculadas al empleo, la educación, la distribución geográfica, el transporte, las estadísticas sanitarias, los indicadores socioeconómicos, los subsidios o el acceso a servicios; pero tambiér advirtió que el problema no está solo en la existencia de datos, sino en el nivel de detalle, el modo de uso y la posibilidad de identificar personas.

“El problema es que todavía no se explicó públicamente con precisión qué bases concretas se utilizarían ni cuál sería el nivel de detalle de esa información”, afirmó.

A partir de allí aparecen las preguntas que el Gobierno todavía no respondió con la claridad necesaria: si los datos serán anónimos, si estarán agregados estadísticamente, si existirá posibilidad de identificar ciudadanos, quién tendrá acceso, cómo se almacenará la información y si habrá auditorías externas.

Para Santos, el debate exige evitar dos simplificaciones: una es asumir automáticamente que cualquier uso estatal de datos equivale a vigilancia masiva, y la otra es creer que, por utilizar inteligencia artificial, una herramienta se vuelve neutral, objetiva o infalible. “Sería ingenuo pensar que porque algo utiliza inteligencia artificial automáticamente es neutral o infalible”, advirtió.

 

Política pública o control social

 

La diferencia entre una política pública asistida por IA y un sistema de control social, explicó el especialista, no está solamente en la tecnología utilizada, sino también en los límites institucionales, la transparencia, los objetivos y la posibilidad de auditar el funcionamiento del sistema.

Usar inteligencia artificial para políticas públicas podría implicar, por ejemplo, prever necesidades hospitalarias, detectar zonas vulnerables ante inundaciones, optimizar el tránsito o analizar el impacto de una medida económica en distintas regiones. Ese tipo de herramientas ya existe en distintas partes del mundo y puede aportar valor real. Pero otra cosa muy distinta sería utilizar modelos automatizados para clasificar individuos, asignar perfiles de riesgo o condicionar el acceso a derechos sin supervisión humana ni vías de reclamo.

“Una cosa sería analizar tendencias generales para mejorar políticas públicas. Otra muy distinta sería construir sistemas que evalúen ciudadanos individualmente mediante algoritmos difíciles de auditar”, diferenció Santos.

En esa frontera aparece la línea roja, teniendo en cuenta que no necesariamente cuando se incorpora tecnología, sino cuando las personas dejan de saber cómo son evaluadas o cuando una decisión pública pasa a depender de un sistema automático que nadie puede explicar ni cuestionar.

 

La sombra de los grandes sistemas de datos

 

El debate argentino quedó atravesado también por referencias internacionales: en los últimos días circularon comparaciones con modelos de monitoreo y puntuación social en China, advertencias sobre sistemas automatizados que afectaron a familias en Países Bajos y menciones al poder global de empresas dedicadas al análisis masivo de datos, como Palantir Technologies, fundada entre otros por Peter Thiel, quien -recordemos- se encuentra instalado en Argentina desde hace unas semanas.

La sola mención de ese universo alcanza para encender alarmas: datos sensibles, predicción, Estado, empresas privadas y decisiones públicas forman una combinación que necesita controles muy superiores a una campaña de comunicación.

Santos fue cuidadoso en ese punto y si bien no afirmó que el proyecto argentino vaya necesariamente en esa dirección, pero sí marcó por qué el contexto internacional obliga a discutir reglas antes de avanzar. “Eso no significa automáticamente que cualquier proyecto estatal vaya en esa dirección. Pero sí muestra por qué muchos especialistas insisten en la necesidad de reglas claras y supervisión independiente”, expresó.

 

Qué significa transparencia algorítmica

 

El concepto clave, entonces, es transparencia algorítmica. Sin vueltas, apela a que la ciudadanía pueda saber qué hace el sistema, con qué datos funciona, quién lo desarrolló, quién lo entrena, qué margen de error tiene, si intervienen empresas privadas, si sus recomendaciones son automáticas o supervisadas y qué mecanismos existen para corregir errores.

“No hace falta que todos los ciudadanos sepan programar inteligencia artificial. Pero sí parecería razonable que cualquier persona pueda conocer cuestiones básicas”, explicó Santos.

La frase más pedagógica del especialista resume buena parte del problema: “Los algoritmos no son magia. Son sistemas creados por humanos, entrenados con datos humanos y potencialmente afectados por errores o sesgos humanos”.

Ese punto resulta central entendiendo que la inteligencia artificial aprende de datos existentes. No obstante, si esos datos arrastran desigualdades, omisiones o prejuicios históricos, el sistema puede reproducirlos o incluso amplificarlos. Por eso, una herramienta presentada como “técnica” puede terminar tomando decisiones profundamente políticas, no porque tenga ideología propia, sino porque opera sobre información construida por sociedades desiguales.

 

Regular no es frenar la innovación

 

El riesgo no siempre aparece por mala fe sino también puede surgir por modelos mal entrenados, bases incompletas, errores estadísticos o falta de supervisión. En sistemas estatales, esos errores no son abstractos y pueden impactar sobre personas que necesitan un subsidio, un turno médico, una vacante educativa, una asistencia social o una respuesta administrativa.

Por eso Santos remarcó que las buenas intenciones no alcanzan. La implementación de sistemas de inteligencia artificial en áreas sensibles debería estar acompañada por información pública clara, auditorías independientes, límites explícitos sobre los datos utilizables, trazabilidad de las decisiones, protocolos de protección y anonimización, además de revisión humana cuando una determinación automatizada pueda afectar derechos.

“Creo que antes de implementar sistemas de este nivel sería importante contar con varias garantías mínimas”, sostuvo.

Entre esas garantías mencionó, en primer lugar, información pública clara y técnicamente precisa sobre qué hace exactamente el sistema, además auditorías independientes con participación académica, técnica u organismos externos. También límites sobre qué datos pueden utilizarse, mecanismos de trazabilidad para reconstruir cómo el sistema llegó a una conclusión, protocolos fuertes de protección de datos y un punto fundamental: derecho a revisión humana y posibilidad de apelación.

“Las buenas intenciones por sí solas probablemente no alcancen, no necesariamente porque exista mala fe, sino porque la tecnología ya tiene demasiado impacto como para depender únicamente de confianza política o empresarial”, remarcó.

Argentina no cuenta todavía con una regulación específica e integral sobre inteligencia artificial. Ese vacío vuelve más urgente el debate atendiendo que en Europa, por ejemplo, la discusión avanzó hacia normas que clasifican los sistemas según su nivel de riesgo y exigen controles más estrictos para aplicaciones sensibles. En el caso argentino, el anuncio del Gemelo Digital Social parece haber llegado antes que las explicaciones, antes que el marco legal y antes que la discusión democrática sobre sus límites.

Santos no propone frenar la innovación, al contrario, considera positivo que el país discuta tecnologías emergentes y modernización del Estado, pero insiste y enfatiza en que la pregunta correcta no es inteligencia artificial sí o no, sino bajo qué reglas, con qué controles y con qué garantías.

“Regular bien no necesariamente frena la innovación. En muchos casos incluso podría fortalecerla, porque genera confianza social y legitimidad pública”, señaló.

 

Ni entusiasmo ciego ni rechazo automático

 

El punto de cierre de Santos sintetiza el equilibrio que falta en la discusión pública: la inteligencia artificial no es, por sí misma, una amenaza inevitable ni una solución milagrosa. Todo depende de cómo se implemente, qué datos utilice, quién la controle y qué capacidad real tengan las personas para entender, reclamar o corregir sus efectos.

“Porque la misma herramienta que podría ayudar a optimizar recursos públicos y mejorar decisiones también podría generar problemas si funciona sin controles claros o sin explicaciones suficientes sobre cómo opera”, sostuvo.

Y el debate, agregó, no se limita al Estado. También alcanza a otros actores con enorme poder sobre la vida cotidiana de las personas.

“Esto no aplica solamente para gobiernos. También aplica para grandes empresas tecnológicas, bancos, plataformas digitales y redes sociales que hoy manejan enormes volúmenes de información y algoritmos muy influyentes”, advirtió.

La discusión, entonces, no debería quedar atrapada entre quienes celebran cualquier avance tecnológico como si fuera una solución automática y quienes rechazan toda innovación por temor a sus usos indebidos. El desafío es más complejo: construir capacidades estatales modernas sin resignar derechos, privacidad ni control ciudadano.

“Creo que es positivo que Argentina discuta innovación y tecnologías emergentes. Quedarse afuera de esa conversación también podría tener costos importantes. Pero justamente porque estas herramientas son cada vez más poderosas, cuanto mayor es su capacidad de análisis y predicción, mayor debería ser también el nivel de transparencia, explicaciones públicas y supervisión independiente”, planteó Santos.

El Gemelo Digital Social puede ser una herramienta útil para anticipar problemas y diseñar mejores políticas públicas. Pero también puede convertirse en una caja negra si el Estado no explica qué información usará, cómo funcionará el sistema, quién lo auditará y qué garantías tendrán las personas frente a errores o decisiones automatizadas.

“Hoy todavía falta bastante información concreta para sacar conclusiones definitivas. Y quizás justamente la postura más razonable sea esa: evitar tanto el entusiasmo ciego como el rechazo automático, esperar más precisiones técnicas y discutir seriamente qué controles deberían existir antes de implementar sistemas de este tipo”, concluyó.

En tiempos en que la política busca mostrarse eficiente a través de la tecnología, la pregunta de fondo sigue siendo profundamente democrática: quién mira los datos, para qué los mira, quién controla al que mira y qué puede hacer un ciudadano si el sistema se equivoca. Porque si el futuro social se va a diseñar con IA - y ya está entre nosotros-, lo mínimo exigible es que no sea decidido a oscuras.