La Cour suprême espagnole a publié hier une peine qui peut marquer A avant et après dans la transparence des administrations publiques: la décision oblige le gouvernement à livrer le code source de Bosco, la demande qui décide qui accède – et qui ne fait pas – à la prime sociale électrique, après une longue bataille judiciaire lancée par la Civio, une fondation non prodige qui a lutté pour la transparence institutionnelle et l'accès à des informations publiques depuis 2012.
La mission de cette fondation est basée sur le fait que les citoyens peuvent contrôler et comprendre comment le pouvoir est exercé. Pour ce faire, à cette époque d'algorithmes, « la transparence algorithmique » est essentielle … et le cas de Bosco en est un exemple paradigmatique.
Bosco: un algorithme qui décide des droits
Bosco est le programme utilisé par l'administration pour décider automatiquement si une maison répond ou non aux exigences du lien social électrique, une aide qui réduit la facture de la lumière aux personnes et aux familles vulnérables. Le problème est que Bosco n'offre pas d'explications sur ses résolutions: il approuve simplement ou nie la demande.
Ainsi, si le programme contient des erreurs, ils sont répliqués massivement, affectant des milliers de citoyens dans leur droit de recevoir une aide de base. Par conséquent, la Civio a réclamé depuis 2018 (oui, sept ans) l'accès au code source, convaincu que le fonctionnement interne d'un algorithme qui décide des droits fondamentaux doit être public et record.
Sept ans de combats devant le tribunal
La bataille a été longue et robuste:
- 2018: Civio a officiellement demandé à l'accès au code source de Bosco. Le ministère de la transition écologique a «répondu» par le silence administratif.
- 2019: Le Conseil de la transparence et le bon gouvernement ont partiellement accordé la pétition, mais a nié l'accès au code alléguant la « propriété intellectuelle ».
- 2021 et 2024: à la fois un tribunal controversé et administratif et le tribunal national a rejeté les ressources de Civio, renforçant les arguments d'opacité au nom de la sécurité nationale.
- 2025: Le Supreme admet l'appel et, enfin, donne la raison de Civio, établissant la jurisprudence.
Excuses du gouvernement
Il y a plus d'un an, nous vous avons expliqué comment le rapport Préparé par le gouvernement lui-même à refuser d'accéder aux demandes de Civio, par exemple, que la propagation du code de Bosco permettrait aux journalistes d'attaquer les systèmes informatiques de l'administration ou de l'utiliser pour saper les crypto-monnaies. C'était Civio:
« En outre, il allègue que nous pourrions utiliser l'image du ministère pour les escroqueries telles que le phishing (oui, la même image que sur toutes ses pages Web), l'extorsion ou le chantage. Et accéder à toutes les bases de données qu'il utilise, telles que celles de l'agence fiscale et de la sécurité sociale (lorsque -vue – évidemment – le code ne contient pas les références que Bosco utilise pour accéder à ces systèmes). »
« Mais il y a plus: la documentation disponible sur Bosco précise que le programme n'accède pas directement, par exemple, aux données de l'agence fiscale pour vérifier le niveau de revenu du demandeur. C'est ce que la plate-forme d'intermédiation est, qui offre un service qui résume cette étape et qui est interdit à certains certificats numériques approuvés par l'administration. »
Cela dit, des excuses évidentes pour quiconque ayant un minimum de connaissances de l'informatique, dont les auteurs croient apparemment que les juges suprême n'en manquent pas.
Les arguments du suprême
La décision de la Cour suprême va bien au-delà de Bosco: elle ressent des principes généraux sur la transparence à l'ère numérique. Parmi ses points clés se distinguent:
- Le droit d'accès à l'information est constitutionnel, inséparable de la démocratie et du contrôle du pouvoir public.
- La propriété intellectuelle ne peut pas être utilisée comme excuse générique pour masquer un programme public, surtout lorsqu'il n'est pas un bon marché, mais comme un outil administratif.
- Les risques de sécurité doivent être pondérés dans le cas: ouvrir un code peut impliquer des vulnérabilités, mais elle peut également améliorer la sécurité en permettant à son audit indépendant.
- Dans une «démocratie numérique», les administrations ont le devoir d'expliquer à quel point les algorithmes qui affectent les citoyens.
La transparence algorithmique comme valeur démocratique
La phrase souligne qu'éviter l'opacité dans les algorithmes est essentielle pour prévenir l'arbitraire et les biais discriminatoires. En d'autres termes, les citoyens ne peuvent pas être à la merci de boîtes noires qui prennent des décisions automatiques sans donner d'explications.
Ce principe, déjà recueilli dans la législation européenne et les résolutions de la Cour européenne des droits de l'homme, est maintenant renforcée dans la jurisprudence espagnole. Et il le fait à un moment où les algorithmes gèrent de plus en plus de domaines: l'aide sociale, l'accès aux services, la gestion de la santé, l'éducation ou même la justice.
Bien que la phrase se réfère au cas spécifique de Bosco, sa portée est beaucoup plus grande: toute demande ou algorithme utilisé par les administrations publiques pour accorder, refuser ou gérer les droits doit être transparent.
De cette façon, un chemin vers un nouveau paradigme s'ouvre dans lequel la technologie publique ne peut pas être opaque, car elle affecte directement la vie des gens. La transparence algorithmique cesse d'être une aspiration à devenir une exigence légale.
