El proceso de transformación digital del sector público ofrece posibilidades de avances extraordinarios en la solución de las demandas de la sociedad, con el potencial de mejorar la capacidad de respuesta y eficacia de la acción gubernamental en beneficio de la democracia. Para ello, es fundamental que la gestión de los datos de los ciudadanos -que implica múltiples riesgos- se realice de forma que genere confianza ciudadana en el funcionamiento de todo el proceso.
Un desafío que se enfrentó para abrir nuevos caminos en esta realidad fue la creación de marcos normativos que dieran sustento legal a la recolección, tratamiento y uso de datos, con la constitución de organismos capaces de resolver conflictos y promover la mejora constante. Otro reto se enfoca al tema de la soberanía de los datos, que se refiere a la necesidad de proteger los datos nacionales y regular su flujo entre países con diferente legislación.
Si bien estandarizar las regulaciones nacionales podría ayudar con la seguridad de los datos, lo cierto es que cada país enfrenta una realidad diferente. En naciones como EE. UU., por ejemplo, incluso existen leyes estatales sobre el tema, lo que lo hace más complejo y difícil. En este sentido, como ocurre con otras agendas transnacionales, si no es posible crear un marco legal único, al menos se debe intentar que los gobiernos se comprometan a observar principios comunes que sirvan de guía a los agentes reguladores.
Entre 2019 y 2020, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) creó un grupo de trabajo para recopilar lineamientos para la gestión ética de datos por parte del sector público a partir de las buenas prácticas identificadas entre sus miembros. El resultado final fue una lista de diez principios que deberían influir en los códigos y prácticas de gestión de datos.
- Gestionar los datos con integridad.
- Conocer y observar las normas existentes sobre acceso, uso e intercambio de datos.
- Incorporar consideraciones éticas de datos en el proceso de toma de decisiones sobre temas en esta área.
- Supervisar y mantener el control sobre las entradas de datos, en particular las que se utilizan para informar sobre el desarrollo y la capacitación de los sistemas de IA, y adoptar un enfoque basado en el riesgo para la automatización de decisiones.
- Ser específico sobre el propósito de usar los datos recopilados.
- Establecer límites claros en el acceso, uso compartido y uso de datos.
- Ser transparente, inclusivo y abierto a la sociedad.
- Publicar datos abiertos y sus códigos fuente.
- Establecer controles individuales y colectivos sobre tus propios datos.
- Ser proactivo en la gestión de riesgos y permanezca disponible para el control externo.
El núcleo de esta discusión no es nuevo e involucra temas que son recurrentes cuando se piensa en el funcionamiento de la administración pública. Existe la necesidad de que el uso de datos ciudadanos esté al servicio del público y tenga como objetivo la entrega de bienes públicos, minimizando el riesgo de abuso – uso de datos con fines electorales, por ejemplo – o corrupción, como la venta ilícita de información para uso privado.
El debate, sin embargo, va más allá. Es necesaria una discusión sobre nuevos aspectos éticos que inciden en las políticas públicas basadas en datos para evitar distorsiones que puedan conducir a la profundización de la discriminación y la injusticia.
Recientemente se hizo famoso que el gobierno brasileño tomó conocimiento de millones de “invisibles”, es decir, personas que ni siquiera estaban en los registros sociales, en los registros de trabajadores, es decir, ¡sobre los cuales no había datos! Las decisiones de política pública realizadas con datos sin este público tenderían a no alcanzar los resultados previstos e incluso agudizarían una situación de desigualdad.
Igualmente, se conocen intentos fallidos de utilizar inteligencia artificial para identificar a sospechosos de delitos. Como las bases de datos estaban contaminadas por sesgos discriminatorios, el software también actuó en base a prejuicios y comenzó a crear más situaciones de injusticia en lugar de disminuirlas. Los criterios para el ingreso de datos debían revisarse sobre la base de suposiciones éticas cuidadosas.
Una arquitectura de datos ética, por lo tanto, es una discusión que involucra temas sobre privacidad, protección de datos, transparencia, intercambio y objetivos, cubriendo todo su ciclo, conectando a las partes interesadas y toda la variedad de políticas públicas. Su objetivo debe ser la creación de una guía de prevención y gestión de crisis, consolidándose como una iniciativa para gestionar la reputación de las propias iniciativas de gobierno digital, garantizando la confianza ciudadana y, en consecuencia, el respaldo de legitimidad necesario para su continuidad y profundización.
Diogo Brunacci es director de asuntos corporativos en Oracle Latinoamérica
