APUNTE.COM.DO.- La directora ejecutiva del Observatorio DATALAWRD, Emely García, planteó la necesidad de que la implementación de la inteligencia artificial (IA) en las entidades públicas vaya acompañada de mecanismos eficaces de protección.
García subrayó que se debe asegurar la defensa de los datos personales, la privacidad y los derechos esenciales de la población, con el fin de impedir que las decisiones automatizadas pongan en riesgo las garantías democráticas en el país.
“La legitimidad de la IA pública comienza antes del algoritmo: comienza en los datos”, afirmó García.
La especialista indicó que el acceso de una institución pública a cierta información no la faculta para emplearla sin control en sistemas de inteligencia artificial, en la elaboración de perfiles de ciudadanos o en la generación de decisiones automatizadas.
Durante su participación en el congreso internacional, García también alertó sobre los peligros de confiar en exceso en los resultados que producen las herramientas de inteligencia artificial.
Explicó que esa conducta puede llevar a que los servidores públicos acepten las sugerencias de los algoritmos sin verificar su exactitud, los posibles fallos, los sesgos o las repercusiones sobre los derechos de las personas.
“La inteligencia artificial puede asistir al Estado, pero la responsabilidad jurídica y democrática de decidir sigue siendo humana”, manifestó la directora ejecutiva del Observatorio DATALAWRD.
La especialista sostuvo que la preparación de los funcionarios no debe reducirse al uso técnico de las herramientas, sino que debe abarcar temas como la protección de datos personales, los derechos fundamentales, la transparencia, la responsabilidad administrativa y la prevención de sesgos algorítmicos.
Advirtió que la falta de capacitación del personal estatal podría hacer que las instituciones dependan en exceso de las recomendaciones automatizadas, sin contar con la capacidad para detectar errores o posibles violaciones de derechos.
Explicó que estos instrumentos permitirían determinar qué datos se emplearon, de qué manera intervino el sistema tecnológico, quién supervisó los resultados y quién debe responder por las decisiones tomadas.
Sostuvo que una inteligencia artificial responsable no debe medirse solo por su habilidad para generar resultados exactos o agilizar trámites administrativos, sino también por la posibilidad de que sus decisiones puedan ser explicadas, supervisadas, auditadas y cuestionadas.