Por: Dra. Norma Julieta del Río
Zacatecas, Zac.-La inteligencia artificial llegó para quedarse. La utilizamos para trabajar, estudiar, buscar información, tomar decisiones y acceder a servicios. Los gobiernos también comienzan a incorporarla para procesar datos, automatizar trámites y diseñar políticas públicas.
Pero frente a este avance hay una pregunta que no podemos perder de vista: ¿hasta dónde queremos permitirle llegar?
La inteligencia artificial puede contribuir a mejorar nuestras democracias, pero únicamente si ocupa el lugar que le corresponde: ser una herramienta al servicio de las personas y no un sustituto de ellas.
Puede ayudar a escuchar mejor las demandas ciudadanas, traducir información, reducir barreras de acceso, analizar grandes cantidades de datos e incluso incorporar voces que durante años no han sido tomadas en cuenta. Lo que no puede hacer es sustituir la voluntad de la sociedad, reemplazar el debate público ni asumir la responsabilidad de las decisiones que corresponden a las autoridades.
Porque detrás de cada algoritmo hay personas, decisiones, intereses y datos.
Y aquí debemos detenernos. Durante años hemos escuchado que la tecnología es neutral. No necesariamente. Los sistemas de inteligencia artificial son diseñados por personas, alimentados con información y utilizados dentro de determinados contextos económicos, políticos y sociales. Por eso también pueden reproducir errores, prejuicios, desigualdades y formas de exclusión.
Una decisión automatizada puede ser más rápida, pero no necesariamente más justa.
Un servicio público puede digitalizarse y seguir excluyendo a millones de personas que no tienen acceso a internet, dispositivos o conocimientos suficientes para utilizarlo.
Un algoritmo puede analizar miles o millones de datos, pero eso no significa que deba decidir por nosotros.
Por ello, hablar de inteligencia artificial no puede reducirse a celebrar sus beneficios o advertir sus riesgos. Necesitamos hablar de derechos.
¿Quién responde cuando un algoritmo utilizado por una autoridad se equivoca? ¿Qué datos personales utiliza? ¿De dónde los obtuvo? ¿Durante cuánto tiempo los conserva? ¿Podemos conocer los criterios mediante los cuales tomó una decisión? ¿Existe una persona responsable a quien podamos reclamar?
Son preguntas que deberán formar parte de la nueva conversación pública.
La alfabetización digital también será fundamental. No basta con aprender a utilizar herramientas de inteligencia artificial; necesitamos aprender a cuestionarlas, entender sus alcances y reconocer sus límites. Una ciudadanía digitalmente preparada debe saber utilizar la tecnología, pero también exigir explicaciones sobre ella.
Y los gobiernos tienen una responsabilidad todavía mayor.
No podemos permitir que bajo el argumento de la innovación se construyan nuevas cajas negras dentro de la administración pública. Si un sistema tecnológico interviene en decisiones que afectan derechos, recursos públicos o servicios, debe existir transparencia, supervisión y rendición de cuentas.
La innovación no puede convertirse en una nueva forma de opacidad.
Tampoco podemos diseñar políticas públicas sobre inteligencia artificial sin escuchar a quienes recibirán sus consecuencias. Regular desde los escritorios, sin sociedad civil, academia, especialistas, empresas y ciudadanía, aumenta el riesgo de generar normas alejadas de la realidad.
La discusión sobre inteligencia artificial nunca ha sido exclusivamente tecnológica. En el fondo estamos hablando de qué sociedad queremos construir y cuánto poder estamos dispuestos a entregar a los sistemas tecnológicos.
Las próximas décadas traerán herramientas mucho más avanzadas que las que hoy conocemos. Por eso las leyes tampoco podrán permanecer inmóviles. Será necesario revisar constantemente sus efectos, corregir decisiones y establecer nuevos límites cuando sea necesario.
No se trata de estar a favor o en contra de la inteligencia artificial. Esa discusión ya resulta insuficiente.
Se trata de decidir para qué queremos utilizarla, quién la supervisará, quién responderá por sus errores y cuáles serán los límites que nunca deberá cruzar.
La democracia del futuro no dependerá de tener el algoritmo más poderoso. Dependerá de contar con sociedades informadas, instituciones abiertas, autoridades responsables y ciudadanos capaces de preguntar, cuestionar y participar.
La tecnología puede acompañarnos y ayudarnos a construir mejores gobiernos. Pero hay una frontera que debemos defender desde ahora:
la inteligencia artificial puede ampliar nuestra voz, pero jamás debe sustituirla.