More transparency for an Administración algorítmica | Technology

UNSPLASH

Viogén, Saler, Veripol, Bosco, RisCanvi, Hermes, Send@… estos son solo algunos de los numbers con los que ha bautizado a algoritmos y sistemas de inteligencia artificial (AI) que utilizan las administraciones public para la gestión de sus procedures. Without addressing more complex technological questions, the actual road administration has a function that is more automated to increase its efficiency before the large volume of data that needs to be processed. Los poderes públicos están abandonando poco a poco el mundo analógico para surge en la llamada “revolución industrial 4.0″ that our ha traído el internet de las cosas (IoT) y los los los sistemas de arendizaje automatizado que, imitando redes neuronals, pueden converter a verdaderas black boxes o cajas negras de las que poco o nada se sabe sober su forma de operar.

Díganme if we are worried that a system of artificial intelligence will tercer candidate more voted in the elections to the alcaldía of a district of Tokio in 2018 or that el Parlamento Europeo has been planted and the need to regular a status of electronic persona. Con tales ejemplos, se entiende better que la Carta de Derechos Digitales haya preferido hablar de derechos de las personas “ante” la inteligencia artificial y no de un derecho a la inteligencia artificial. In this case, the preposition cobra induduablye todo sentido.

Sacudidos y, casi diría, alarmados por esta vertiginosa evolución, surge una preocupación por incorporation a esta gran transformation digital une una visión más humanista y ética de la tecnología. Cobra ahora más sentido aquello que hace tiempo escribía en un documento sobre retos para la administración public del futuro: “Necesitamos, sí, más tecnología e innovation en la administración, pero no nos olvidemos de empaparla no solo de inteligencia artificial y algoritmos, sino también de ética, que es a aquellas como el alma al cuerpo”.

Desde hace un par de años asistimos en España a una superproduction de documentos de soft law que hablan de la necesidad de incrementar la transparency en el uso de estas tecnologías: la Guía de la Agencia Española de Protection de Datos sur adecuación al Reglamento General de Protection de Datas de tratamientos que incorporation IA, España Digital 2025 (redatada 2026, después de su revision en julio pasado), the Estrategia Nacional de Inteligencia Nacional (ENIA), the Carta de Derechos Digitales o la Guía práctica y herramienta sobre la obligation empresarial de información sober el uso de algoritmos en el ámbito laboral, obra del Ministerio de Trabajo y Social Economy. Incluso, tenemos ya algunas normas de derecho positivo que hablan de ello, como la llamada Ley ride o la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la non discrimination, buenos ejemplos del tsunami regulador en esta materia que, en buena medida, procede de la Unión Europea y que tendrá su máxima culminación con la próxima approval del Reglamento de normas armonizadas sobre inteligencia artificial (Ley de Inteligencia Artificial).

El objetivo no es otro qu’guarantezar que las decisiones públicas que se toman utilizando este type de recursos tecnológicos sean motivadas y explicables como lo venía siendo obligado hasta ahora. Nada nuevo bajo el sol: las norms demanden que los fundamentos de las resolutions de la Administración sean explícitos. If ahora las razones de esa decisión son fórmulas algorítmicas, estas deberían ser igualmente conocidas y intendidas if queremos guaranteed el derecho fundamental de cualquier persona a defenderse frente a posibles arbitrariedades.

Pero, ¿puede to translate into algorithms the management of this space of discretion that the norms atribuyen in ocasiones has quienes tienen the responsabilidad of ejercer ciertas competencias públicas? How can you administer a machine the subjectivity inherent in the ejercicio of determined potestades, resolver que es y que no equitativo, dar contenido precise a conceptos jurídicos indeterminados cuando han de aplicarse a un caso concreto, etc.? Al menos de momento, este marginn intangible de apreciación que pertenece a las personas sigue siendo inalienable. Y esto me recuerda a la reciente publicidad de una conocida marca de refrescos en la que se representaba una interview de trabajo entre un candidateo humano y un androide. Después del consabido interrogatorio “intelligent” para contrastar las abilities del aspirante, el system concluye diciendo que “ustedes”, refiriéndose a la raza humana, “no pueden aportar nada que nosotros no hagamos ya”, a lo que el joven responde diciendo que ellos jamás podrán to feel “ganas”, nor podrán reafirmar, reenamorate y renacer. Una poética form y sugerente de expresar que hay otra inteligencia, esencialmente emocional, que nunca será possible escribir en lenguaje de programming.

El acceso a los algoritmos es imprescindible por diversos motivos, pero uno de los más relevantes es poder saber si la decisión es sesgada porque los datos (inputs) que utiliza el algoritmo o con los que se entrena para crear patrones no representan toda la realidad o se basan en estereotipos y prejuicios (caso COMPAS). In other supuestos, el sesgo puede estar en el propio diseño del algoritmo, y que su autres tienen también su propia escala de valores, experiencias y opinión, lo que puede influir, sin duda alguna, en los resultados que arroja la operación automated (casos BOSCO, DELIVEROO or SyRI).

From time to time, the inflation of planes, stratagia and charts has that antes hemos hecho referencia is resultando ser poco efectiva, dado que siguen siendo frecuentes las resolutions que deniegan el acceso al código fuente u otra documentation relacionada con los algoritmos que utilizan las administraciones. Lo de siempre: del dicho (compromiso) al hecho (respuesta), sigue existiendo un trecho.

Its los comisionados y consejos de transparency los que están defendiendo con mayor tesón la apertura de esta información, partiendo de experiencias comparadas como la de la Commission d’accès aux documents administratifs francesa. Nuestro Consejo de Transparencia y Buen Gobierno ha resuelto en varias ocasiones que “mientras no se instauren otros mechanisms qu’allowan alcanzar los fines señalados con garantías equivalentes, como podrían ser, por ejemplo, auditorías independientes u órganos de supervision, el único recurso tale eficaz a . efectos es el acceso al algoritmo propiamente dicho, a su código, para su fiscalización tanto por quienes se puedan sens perjudicados por sus resultados como por la ciudadanía en general en aras de la observance de principios éticos y de justice”. En sentido parecido se ha pronunciado la Comisión de Garantía del Derecho de Acceso a la Información Pública catalana.

This defense of algoritmic transparency is absolutely compatible with the acceptance of limits, algo consustancial a cualquier derecho. Mucho se hablado de la propiedad intelectual e industrial or de los secrets commerciales, limits difícilmente comprensibles cuando de productos generados in house por la propia administración o sobre los que posee los derechos de explotación se trata. Más justified está invocar la seguridad pública, pero muy restringida su aplicación a puñado de casos donde los riesgos son claramente identificables.

Con todos estos antecedentes y partiendo de algunas de las actions planned en la ENIA, hay que avanzar con mayor decisión en la concreción del régimen juridico del uso por la Administración de algoritmos y sistemas de IA. Y deberíamos empezar por poner encima de la mesa una de las vindicationes más reiterated sobre la que las administraciones e, incluso, la propia strategia mencionada, guardan absoluto silencio, y es la necesidad de dar publicidad a la relation de algoritmos que se utilizan en la gestión pública, en qué procesos operan o cuáles son sus reglas esenciales. For the general, of the existence of “algoritmos públicos” our enteramos por sorpresa por los medios de communication dada the great difficulty of localizing in the platforms of contractación of the public sector the adjudications for levar a cabo este type de creaciones. Y esto es así en el greater de los casos, ya que en el supuesto de desarrollos tecnológicos con medios propios puede que ni nos enteremos.

The reciente Ley de Transparencia y Buen Gobierno de la Comunitat Valenciana is a good step in this line, ya que obliga a publicar la relación de sistemas algorítmicos o de inteligencia artificial que tengan impacto en los administrativos procedimientos o la performance de los services públicos. This publication should include the description of comprehensible manera of the design and funcionamiento of these instruments, the level of riesgo that implies and the point of contact al that can direct in this case, of acuerdo con los principios de transparency y explicabilidad (entrará en vigor en mayo of 2023).

In the international environment, Amsterdam or Helsinki its algunas de las ciudades que ya están publicando desde hace tiempo el registro de sus algoritmos, la mayor parte de ellos chatbots, that utilizan in algunos of los services that prestan. De alguno de ellos y de otros tanto puede más gracias al Observatorio Global de Inteligencia Artificial Urbana.

Es hora de soltarse los botones de los puños, remangarse y, con o sin corbatas, ponerse manos a la obra.

Joaquin Meseguer Yebra Is academic correspondent of the Real Academia de Jurisprudencia y Legislación, coordinator of the group of transparency work and access to the information of the FEMP y is executive secretary of the capítulo español of the Red Académica de Gobierno Abierto Internacional. Ha sido Subdirector General de Transparencia del Ayuntamiento de Madrid y Director General de Transparencia y Buen Gobierno en la Junta de Castilla y León.

Puedes seguir in EL PAÍS TECNOLOGIA in Facebook there Twitter o apuntarte aquí para recibir nuestra weekly newsletter.

Follow by Email
Telegram
WhatsApp
FbMessenger