Entrevista al Dr. Mirko A. Maldonado-Meléndez sobre el avance de la Inteligencia Artificial (IA), su implementación en el sector público, retos y desafíos

Director: Lic. Nivardo Córdova Salinas
15 de Febrero del 2024

PRH: ¿Cree ustedes que se ha puesto de moda la temática en torno a la IA? ¿Es un término recurrente más allá del ámbito académico y empresarial? [arriba] 

MMM: Sí, claro, podríamos decir que ello es así, no solo entre científicos e investigadores, sino incluso en el ámbito público. Sin embargo, los orígenes de la IA se remontan a trabajos e investigaciones que datan de inicios del siglo pasado: Alan Turing, J.Carthy, M.Minsky, A.Newell, H.Simon, G. Hinton y otros científicos y creadores de las ideas precursoras sobre la IA, en un esfuerzo de la humanidad por reproducir los procesos mentales (de aprendizaje e inteligencia) a programas y máquinas computacionales que puedan emularlos, a fin de que puedan levar a cabo tareas que normalmente requieren la inteligencia humana. Es artificial, sí. Pero, ¿podemos afirmar que es una “inteligencia”?. A veces tengo mis dudas.

PRH: Y ya entrando en materia, desde la perspectiva legal, ¿cómo ve el avance de la IA en LATAM y sobre todo en el Perú? [arriba] 

MMM: Se van evidenciando avances, aunque todavía a paso lento y de manera disímil entre los países de LATAM, pues si bien se han sentado los pilares, aun existen tareas pendientes, como el perfeccionamiento de normas legales en temas de ciberseguridad, interoperabilidad, protección de datos, teletrabajo, entre otros. En materia de desarrollo y utilización de las tecnologías disruptivas, parece ser que solo el privado lleva la delantera y es el llamado a liderar este cambio de paradigma tecnológico (pues, está dedicado a optimizar sus recursos en el sector y los tiempos para maximizarlos), es por ello que los estados y sus administraciones terminan siendo el “pariente pobre”, que no se ha modernizado a la misma velocidad, manteniendo sus tradicionales principios, procesos y procedimientos analógicos, para un mundo de realidades virtuales o cuando menos híbridas.

Las razones de esta lentitud del sector público pueden achacarse a diversos factores, tales como la falta de decisión política, el aspecto presupuestal, la priorización de ciertos proyectos de inversión pública, el cálculo de los grupos de poder y de presión, sumado a la falta de capacidades, competencias y ausencia de conocimiento de las autoridades y funcionarios de turno, que ignoran las grandes ventajas que conlleva una administración pública innovadora, resiliente, acorde a los cambios sociales, que incorpora las tecnologías disruptivas y la IA en sus procesos.

PRH: ¿Cree que se le ha dado una “carta en blanco” al privado en el Perú, para el uso indiscriminado de la IA? [arriba] 

MMM: Indudablemente que la ausencia de legislación suficiente en material de supervisión ex ante, respecto de los creadores de la IA, podría considerarse una especie de cheque en blanco, ya que la norma ha sido pensada en primer lugar en el privado con fines comerciales y luego en el Estado y su rol tuitivo de los derechos fundamentales de los ciudadanos.

Ante la tiranía de lo inmediato y el imperio de los algoritmos, donde el uso de los datos personales es crucial, la función de protección de los derechos individuales debe estar más presente que nunca. Sin datos no hay oxígeno para IA. La gran minería de datos tiene que contar con un marco de protección en ciberseguridad, solo recordemos que en sistemas capitalistas, los datos le pertenecen al privado, frente a sistemas comunistas y dictatoriales, donde los datos le pertenecen al Estado. Finalmente, en sistemas mediterráneos (como el nuestro) los datos personales, constitucionalmente, nos pertenecen a los ciudadanos y tienen una garantía por parte de los poderes públicos.

Ante esta situación, el privado tiene “cancha libre” para hacer uso y abuso de esta falta de conocimiento de los derechos fundamentales o de normas desarrolladoras de estos derechos en entornos digitales. Observemos, por ejemplo, la implantación de los llamados biométricos faciales (usados por el privado) en los centros laborales, bajo la excusa del control de asistencia al centro de trabajo, que termina degenerando en un mecanismo de control y vigilancia personal excesivo por el uso y disposición de la imagen personal, que se entrega a terceros (privados, encargados de administrar los sistemas de control de personal) sin observar la regulación estatal que obliga a tener un oficial de cumplimiento de protección de datos acreditado a la ANPD del Ministerio de justicia e incluso la calibración por parte del INACAL de los equipos biofaciales, el mismo que no debiera estar sujeto a tercerización. El Estado tiene que “ponerse las pilas” para poder fiscalizar y multar a los infractores de la normatividad de datos personales y no ser permisivos ni invasivos de la privacidad de la imagen personal, obligando al trabajador a “renunciar” por escrito (vía contrato de trabajo) al derecho a su imagen, a su identidad biométrica.

PRH: Volviendo al sector público, ¿considera que el uso de la IA ya viene siendo un aliado estratégico para el Estado? [arriba] 

MMM: Pienso que sí, sin duda alguna, de hecho, si partimos de la tesis que la administración pública sirve al interés general con objetividad, transparencia, neutralidad, cumpliendo el principio de legalidad, entonces la IA será entonces una garantía estos preceptos mencionados.

Más aun si la ratio legis de nuestra actual legislación alude que ella se crea: “en favor del bienestar social y económico”, para la mejora de los servicios públicos, de la educación y los aprendizajes, la salud, la justicia, la seguridad ciudadana, la seguridad digital, la economía, la inclusión, los programas sociales, la seguridad y la defensa nacional”.

El problema que veo aquí, más allá que es una norma sin reglamento aún, es el mecanismo de supervisión del cumplimiento normativo y el aspecto ético en el tratamiento escrupuloso de los datos, que viene ser el oxígeno de los algoritmos y estos últimos a su vez de la IA, que ayuda a tomar decisiones basadas en datos o predicciones algorítmicas. Ya se han ido sentando las bases en normas supranacionales en LATAM, como por ejemplo Carta iberoamericana de principios y derechos en entornos digitales y el borrador de Carta iberoamericana de IA en la Administración pública que, junto al novísimo reporte de Naciones Unidas sobre la gobernanza de la IA, son instrumentos orientativos (no vinculantes) que sirven de verdaderas guías a seguir que acompañarán al proceso de transformación digital que deberán consolidar cada uno de los Estados.

PRH: ¿Cuáles son los posibles riesgos que tiene la aplicación la IA generativa? [arriba] 

MMM: Aunque la ley peruana que promueve el uso de la IA, la técnica de redacción hace entrever, que es meramente declarativa, pues aún no existe reglamento de la ley está en fase de co-creación por parte del ejecutivo, se deja en manos del privado un espacio bastante amplio de libertad, para que tensione ciertos derechos fundamentales que son inherentes a la persona, pudiendo presentarse un amplio margen de impunidad al permitir un espacio no regulado, que va en contra de los derechos fundamentales como son: la intimidad, el honor, la imagen, y la comisión de delitos relacionados con la pornografía y la libertad sexual.

PRH: Ante todo esto que nos comenta, ¿Cómo percibe a la burocracia ante estos cambios tecnológicos y retos disruptivos en el siglo XXI? [arriba] 

MMM: La veo posicionada en modo “autoprotectivo”, o mejor dicho actuando a la usanza de la “burocracia-defensiva”, fenómeno que se caracteriza por una falta de actuación, de parálisis, fundada en el miedo (o temor) del funcionario o servidor público timorato de las posibles consecuencias para su continuidad en el puesto, que podría traer el uso de la IA en el sector público. Al hilo de lo mencionado, los funcionarios no actúan entonces de acuerdo al interés general en su trabajo, dejando hacer o dejando pasar, es decir tomando medidas defensivas, como la dilación de los procesos, la prórroga de los plazos, el letargo o el entorpecimiento de las propias funciones que son asignadas en sus instrumentos de gestión.

PRH: ¿Cómo ve en 10 o 15 años el sector estatal y sobre todo los servicios que brinda el Estado? [arriba] 

MMM: Eso depende, en mucho, de la visión política del gobernante en espacio y tiempo. Probablemente pasaremos a un estadío más evolucionado del homo sapiens administrativo, rumbo a una administración algorítmica interoperable, que apueste por una administración resiliente a cambios tecnológicos y desmaterializando la infraestructura física (las oficinas) pasando a un teletrabajo en el sector estatal (un grupo nutrido de trabajadores públicos), con regulaciones más actualizadas en materia del internet de las cosas, vehículos autónomos, además con oficinas gubernamentales en el Metaverso y realidades inmersivas, para capacitaciones y entrenamientos de los funcionarios públicos y/o cuerpo de seguridad del estado, entres otros avances.

PRH: Muchas gracias doctor por la entrevista, hasta otra oportunidad. [arriba] 

MMM: A ustedes, que son curiosos en este proceso de transformación digital que abarca a la IA y otras tecnologías.