El Tribunal Supremo ha ordenado al Gobierno entregar el código fuente de BOSCO, la aplicación que decide de forma automática qué familias vulnerables pueden acceder al bono social eléctrico. Esta decisión llega después de una batalla legal de siete años iniciada por la Fundación Civio.
¿Por qué es relevante? Porque sienta un precedente importante: reconoce que los ciudadanos tienen un derecho constitucional a entender cómo funcionan los algoritmos que determinan el acceso a derechos sociales. De esta forma, la transparencia algorítmica se eleva a la categoría de derecho fundamental, imprescindible en un Estado democrático.
Hasta ahora, BOSCO funcionaba como una caja negra que únicamente ofrecía dos respuestas claras: "CUMPLE" o "NO CUMPLE", sin explicar nada más. Esto dejaba a muchas familias vulnerables sin recursos ni explicaciones claras. Civio identificó errores que afectaban especialmente a grupos como viudas o familias numerosas, pero el Gobierno se negó a mostrar el código, justificando su decisión en la propiedad intelectual y la seguridad nacional.
Esta sentencia establece dos principios clave: primero, que la transparencia aumenta la seguridad, ya que permite que expertos detecten errores, cuestionando la idea de que la "seguridad se logra ocultando información". Segundo, que el interés público debe prevalecer sobre la propiedad intelectual cuando se trata de algoritmos que afectan derechos sociales.
Además, el Supremo cambia la carga de la prueba, de modo que ahora será la administración quien debe acreditar riesgos concretos y graves en lugar de basarse en hipótesis o temores generales. La sentencia menciona un caso previo, Radar COVID, cuyo código fue publicado voluntariamente por el propio Gobierno.
De ahora en adelante, los organismos públicos tendrán la obligación de explicar de manera clara cómo funcionan todos los algoritmos que impactan a la ciudadanía. Esta nueva doctrina se aplicará también a futuros sistemas de inteligencia artificial y automatización en la administración pública, abriendo paso a una etapa de "democracia digital" más transparente.
