La intersección entre inteligencia artificial y derechos humanos no es un debate puramente técnico: es una pregunta sobre quién controla las herramientas que determinan acceso a justicia, participación ciudadana y distribución de oportunidades. Una jornada internacional convocará a especialistas para analizar cómo los sistemas algorítmicos penetran áreas sensibles como la administración de justicia, la inclusión de personas con discapacidad y la gobernanza democrática, en un contexto donde la desigualdad tecnológica amplifica brechas históricas. El encuentro plantea interrogantes urgentes: ¿pueden las mismas tecnologías que prometen eficiencia perpetuar sesgos estructurales? ¿Qué salvaguardas institucionales existen cuando algoritmos toman decisiones sobre derechos fundamentales?
El momento político de la inteligencia artificial en políticas públicas
La incorporación de inteligencia artificial en el diseño de políticas públicas no ocurre en vacío. Durante la última década, gobiernos de distintas latitudes adoptaron sistemas de predicción de riesgo en justicia penal, algoritmos de asignación de recursos en salud y herramientas automatizadas de verificación de elegibilidad en programas sociales. Estas aplicaciones, presentadas inicialmente como instrumentos de eficiencia administrativa, revelaron patrones de discriminación racial, de género y socioeconómica cuando organizaciones de derechos civiles documentaron sesgos sistemáticos en sus resultados. El caso estadounidense es paradigmático: sistemas de evaluación de riesgo de reincidencia como COMPAS asignaban puntajes más altos a acusados afroamericanos, incluso cuando variables de riesgo eran idénticas a las de acusados blancos.
Este contexto explica por qué la jornada internacional prioriza la intersección entre IA y justicia. No se trata solo de evaluar tecnología, sino de examinar cómo decisiones de diseño algorítmico reflejan y amplifican relaciones de poder existentes. La agenda incluye discapacidad y desigualdad porque ambos ejes exponen vulnerabilidades específicas: sistemas de reconocimiento facial fallan desproporcionadamente con personas de piel oscura y mujeres; interfaces de voz digital excluyen a usuarios con impedimentos del habla; plataformas de empleo algorítmicas penalizan lagunas laborales que correlacionan con responsabilidades de cuidado no remunerado, recayendo principalmente en mujeres.
La convergencia temporal con crisis de legitimidad democrática añade urgencia. En contextos donde la participación ciudadana enfrenta desafección y la gobernanza democrática se erosiona por desinformación y polarización, la opacidad de sistemas algorítmicos que median información y servicios públicos se convierte en riesgo sistémico. La jornada busca abordar cómo garantizar transparencia y rendición de cuentas cuando decisiones públicas dependen de cajas negras tecnológicas.
Actores y tensiones en la regulación de la IA
El debate sobre inteligencia artificial y derechos humanos involucra actores con intereses divergentes. Por un lado, gobiernos buscan aprovechar eficiencias prometidas por automatización de procesos, reducción de costos administrativos y velocidad en análisis de grandes volúmenes de datos. Ministerios de justicia exploran IA para agilizar tramitación de casos; agencias de bienestar social para detectar fraude en prestaciones; autoridades electorales para monitorear desinformación. Estos usos responden a presiones fiscales y demandas de modernización estatal.
Por otro lado, organizaciones de derechos humanos y grupos de defensa de libertades civiles documentan cómo esos mismos sistemas generan discriminación algorítmica, erosionan privacidad mediante vigilancia masiva y concentran poder en corporaciones tecnológicas que diseñan herramientas sin supervisión democrática. La Unión Europea aprobó en 2024 la Ley de Inteligencia Artificial, primer marco regulatorio integral que clasifica aplicaciones según nivel de riesgo y prohíbe usos considerados inaceptables, como sistemas de puntuación social o reconocimiento biométrico en tiempo real en espacios públicos. Estados Unidos, en contraste, mantiene aproximación sectorial fragmentada, con normas estatales dispares y ausencia de legislación federal comprehensiva.
América Latina presenta panorama heterogéneo. Brasil avanzó proyecto de ley que establece requisitos de transparencia y evaluación de impacto para sistemas de alto riesgo; Chile incorporó protección de derechos digitales en su proceso constituyente; México debate regulación de datos biométricos en contexto de expansión de programas sociales digitalizados. La jornada internacional reúne especialistas de estas jurisdicciones para contrastar aproximaciones regulatorias y extraer lecciones sobre balance entre innovación y salvaguardas de derechos.
Otro actor crítico son comunidades afectadas. Personas con discapacidad enfrentan barreras cuando diseño de IA ignora principios de accesibilidad universal: sistemas de validación de identidad que requieren reconocimiento facial excluyen a usuarios con movilidad reducida que no pueden posicionar cámaras en ángulo específico; chatbots de atención ciudadana carecen de compatibilidad con lectores de pantalla. La participación de estas comunidades en diseño y evaluación de sistemas no es gesto cosmético sino requisito para evitar que tecnología reproduzca exclusión histórica bajo apariencia de neutralidad técnica.
Escenarios posibles en la gobernanza de la inteligencia artificial
Los próximos años presentan bifurcaciones en cómo sociedades democráticas incorporarán IA en políticas públicas. Un primer escenario contempla consolidación de marcos regulatorios robustos inspirados en el modelo europeo, con requisitos obligatorios de evaluación de impacto en derechos humanos antes de despliegue de sistemas en áreas sensibles, registros públicos de algoritmos utilizados en administración pública y mecanismos de apelación humana para decisiones automatizadas. Este camino requiere capacidad institucional para auditoría técnica y voluntad política para rechazar aplicaciones que no superen escrutinio, incluso si prometen ahorros fiscales inmediatos.
Un segundo escenario involucra captura regulatoria donde normativas se diseñan para legitimar prácticas existentes sin transformar fundamentalmente asimetrías de poder. Gobiernos adoptarían estándares laxos de transparencia que satisfacen apariencia de accountability sin habilitar escrutinio efectivo; corporaciones tecnológicas participarían en procesos de consulta diseñando autorregulación voluntaria que evita obligaciones vinculantes. Este desenlace es plausible en contextos donde presión por transformación digital excede capacidad de sociedad civil y academia para auditar sistemas complejos.
Un tercer escenario contempla fragmentación normativa creciente, con jurisdicciones adoptando estándares incompatibles que dificultan interoperabilidad y generan arbitraje regulatorio. Empresas desplegarían versiones diferenciadas de productos según mercado, concentrando innovación responsable en regiones con regulación fuerte mientras externalizan riesgos hacia contextos con protecciones débiles. Esta dinámica ya ocurre en privacidad de datos, donde compañías ofrecen controles granulares a usuarios europeos bajo GDPR mientras mantienen prácticas extractivas en países sin legislación equivalente.
La urgencia de integrar ética y diseño tecnológico
La jornada internacional materializa reconocimiento creciente de que inteligencia artificial no es destino inevitable sino conjunto de elecciones de diseño susceptibles de intervención democrática. Incorporar especialistas en discapacidad, desigualdad y participación ciudadana junto a expertos técnicos señala comprensión de que evaluación de IA no puede reducirse a métricas de precisión estadística, sino que debe interrogar a quién beneficia, quién asume riesgos y qué estructuras de poder se refuerzan o cuestionan. El desafío no es detener innovación tecnológica sino subordinarla a imperativos de justicia social y accountability democrática, asegurando que herramientas diseñadas para servir a sociedades no perpetúen las exclusiones que prometen resolver.
Fuentes
Con información de delfino.cr
