En el reciente debate presidencial de Ecuador, la inteligencia artificial (IA) emergió como una de las palabras más repetidas por los candidatos. Desde promesas de combatir la delincuencia hasta mejorar la eficiencia estatal, la IA fue presentada como la solución mágica para resolver problemas estructurales del país. Sin embargo, como abogado especializado en sistemas automatizados e IA, no puedo evitar cuestionar: ¿estamos ante propuestas serias o simplemente frente a un discurso populista que explota el atractivo de esta tecnología sin entender sus desafíos?
Hablar de IA en política puede resultar tentador. Es un tema que suena innovador, moderno y alineado con las tendencias globales. Pero cuando se menciona sin especificidad ni un conocimiento profundo, se convierte en una herramienta retórica vacía. En el debate, muchos candidatos mencionaron la IA sin detallar cómo planean implementarla, qué problemas específicos abordarán o cómo enfrentarán los riesgos asociados.
Publicidad
Más de 9 millones interesados en el debate
La realidad es que implementar la IA en el sector público no es tan sencillo como parece. Requiere algo más que voluntad política; exige una infraestructura sólida, datos confiables y un marco regulatorio robusto. Y aquí es donde las propuestas presentadas fallan: ignoran los desafíos técnicos, éticos y legales que conlleva esta tecnología.
Para entender por qué estas promesas pueden quedarse en el aire, es importante destacar algunos de los principales retos que enfrenta la implementación de IA en el contexto gubernamental:
Publicidad
Primero, la calidad y gestión de datos. La IA depende completamente de los datos que la alimentan. Si las bases de datos están desactualizadas, son inconsistentes o contienen sesgos históricos, los resultados serán inexactos o incluso perjudiciales.
Segundo, sesgo algorítmico y discriminación. La IA no es neutral; hereda los sesgos presentes en los datos con los que se entrena. En países con desigualdades estructurales como Ecuador, esto podría traducirse en decisiones discriminatorias contra ciertos grupos sociales.
Tercero, privacidad y protección de datos. Los sistemas de IA gubernamentales requieren manejar grandes volúmenes de información personal. Sin regulaciones claras ni medidas adecuadas para proteger estos datos, existe un alto riesgo de violaciones a la privacidad.
Cuarto, transparencia y explicabilidad. Muchos sistemas de IA funcionan como “cajas negras”, lo que significa que sus procesos internos son difíciles de entender incluso para expertos, por no decir imposibles. Esto plantea serios problemas cuando se trata de justificar decisiones automatizadas que afectan a los ciudadanos.
Las intenciones de los presidenciables
A nivel global, el uso de la IA en el sector público sigue siendo objeto de intensos debates y regulaciones:
Como la prohibición del profiling. El AI Act de la UE aborda directamente el uso indebido de la IA al prohibir explícitamente prácticas como el scoring social y la manipulación subliminal. O los efectos de enfriamiento (chilling effects), es decir, el uso de IA en vigilancia y seguridad pública puede llevar a la autocensura y restricción de libertades. Y la privacidad y protección de datos; el caso Clearview AI en varios países ha puesto de manifiesto los riesgos de la recopilación masiva de datos biométricos sin consentimiento.
La IA se presenta como la panacea en el discurso político ecuatoriano, pero esta retórica ignora una realidad fundamental: a nivel mundial, la IA enfrenta desafíos complejos y sin resolver al día de hoy. Proponer su implementación como si fuera una solución simple y perfecta no solo demuestra un profundo desconocimiento, sino que subestima gravemente los costos y riesgos inherentes a su desarrollo y aplicación.
Ni por el país, ni por la patria
Es crucial que los votantes y la sociedad en general exijan a los candidatos propuestas basadas en un entendimiento profundo de la tecnología y sus implicaciones. La verdadera innovación en el gobierno no viene de promesas grandilocuentes, sino de un enfoque mesurado, informado y ético hacia las nuevas tecnologías.
Como firme defensor de la implementación tecnológica para mejorar la eficiencia y eficacia gubernamental, reconozco que Ecuador está avanzando en la dirección correcta al considerar estas ideas innovadoras y con la reciente puesta en marcha de la Superintendencia de Datos Personales. No obstante, es crucial enfatizar que la inteligencia artificial no es una panacea que resolverá instantáneamente todos nuestros desafíos estatales. Su implementación conlleva una complejidad significativa y costos sustanciales, aspectos que siguen siendo objeto de debate y análisis a nivel mundial. Por ello, resulta preocupante observar cómo algunas campañas políticas continúan promoviendo estas tecnologías como soluciones milagrosas, capaces de resolver mágicamente todos los problemas del Estado sin ofrecer fundamentos sólidos o planes de implementación realistas.
Esta retórica no solo es engañosa, sino que perpetúa un peligroso populismo tecnológico que simplifica excesivamente los desafíos reales que enfrentamos en la modernización de nuestras instituciones públicas. (O)
Carlos Puente Rosero, abogado y magíster en International Tax Law, Guayaquil