El Parlamento de la Razón

Un pueblo tiene diez millones de euros. Puede protegerse contra inundaciones, ampliar el centro de salud, mejorar colegios, ayudar a agricultores afectados por la sequía o bajar impuestos. No hay dinero para todo.

Metemos el problema en una Inteligencia Artificial y empezamos a pedirle cosas.

Y después: «comprueba los datos, dime quién exagera, separa hechos de opiniones, calcula consecuencias a cinco, diez y treinta años y busca qué solución castiga menos a quien pierde».

De repente tenemos algo que ningún Parlamento humano puede hacer. No porque los diputados sean tontos. Porque son humanos.

Un político tiene veinticuatro horas. Una IA puede leer veinte mil documentos mientras duerme. Un diputado tiene su profesión, su partido, su círculo y su biografía. Una IA puede comparar miles de perspectivas. Un humano se enfada, se cansa, tiene hambre, recuerda quién le insultó ayer y sabe cuándo son las elecciones.

Y esto ya no es solo ciencia ficción. En 2024, Google DeepMind probó una IA mediadora con miles de personas en discusiones políticas. El sistema redactaba posiciones comunes a partir de opiniones enfrentadas y los participantes prefirieron muchas de esas síntesis a las escritas por mediadores humanos.

El Parlamento de la Razón ya tiene un prototipo.

Supongamos que la IA ya tiene dentro al ingeniero, al médico, al agricultor, al abogado y al economista. Perfecto.

Pero falta alguien en la habitación.

La habitación.

Una reunión no son solo las actas. Un juicio no es solo una transcripción. Una pareja no es solo WhatsApp.

Nada de eso demuestra que mienta. Los humanos somos bastante peores detectando mentiras de lo que creemos. Pero esas señales forman parte de la escena.

01¿Y si la IA empieza a recibirlas también?

No solo texto. Vídeo. Voz. Temperatura. Movimiento de ojos. Postura. Respiración. Historial. Contexto. Sensores.

Imagina que recuerda que ayer tu voz temblaba. Hoy detecta otra cosa. Que normalmente tardas medio segundo en contestar y hoy tardas tres. Que ve un cambio diminuto en una expresión y lo compara no con las veinte mil personas que tú hayas conocido, sino con millones de ejemplos.

Entonces ocurre algo curioso: aquello que parecía nuestra última ventaja empieza también a convertirse en información computable.

02La intuición artificial

¿Qué es la intuición del mecánico? Años de ruidos. ¿La del marinero? Años de cielos, humedad y viento. ¿La del médico veterano? Miles de pacientes.

Si una intuición buena es, en parte, reconocimiento rápido de patrones aprendidos, no hay una ley natural que impida que una máquina aprenda patrones.

Quizá no «sienta» el presentimiento como nosotros. Pero podría producir algo funcionalmente parecido:

«Hay algo raro aquí.»

Y después buscar por qué.

En «Me escuchan en el teléfono» vimos una idea incómoda: no hace falta oír una conversación si ya tienes suficientes rastros para predecir a una persona.

Ahora añade IA.

No hace falta que «lea tu mente». Le basta con estimar probabilidades: qué palabras usas, qué asuntos te ponen a la defensiva, qué argumento suele convencerte, cuándo estás cansado, cuándo tienes miedo, qué haces después de una determinada emoción.

Y aquí aparece la cara oscura: la máquina que mejor te entiende puede convertirse también en la máquina que mejor sabe cómo llevarte.

Entre comprender a alguien y poder conducirlo hay solamente un paso. Cuanto mejor sea la intuición de la máquina, más pequeño será ese paso.

Pregunta incómoda. Pero legítima.

Si una IA conociera todas las propuestas, analizara consecuencias, escuchara a los afectados, detectara intereses y no pensara en su reelección, en algunos asuntos podría tomar decisiones técnicas mejores que un Parlamento.

Si la pregunta es «¿qué obra reduce más las inundaciones por euro invertido?», no hay nada sagrado en votar hidráulica.

Pero cambia ligeramente la pregunta: «¿cuánto dinero quitamos de educación para reducir ese riesgo?».

Y hemos vuelto al barro.

La máquina calcula consecuencias. Alguien tiene que decidir cuánto vale cada consecuencia.

03La votación escondida dentro del algoritmo

Supongamos que escucha a un millón de ciudadanos. Ahora tiene que producir una decisión.

• ¿Mayoría simple?
• ¿Pesa más quien está directamente afectado?
• ¿Protegemos a una minoría aunque pierda?
• ¿El experto cuenta más?
• ¿Qué hacemos con las generaciones futuras, que todavía no votan?

Ahí aparece Kenneth Arrow: bajo ciertas condiciones razonables no existe un método perfecto para convertir todas las preferencias individuales en una única preferencia colectiva.

Puedes meter a toda la humanidad dentro de la máquina y aun así tendrás que decidir cómo contarla. Y quien decide cómo contarla acaba de hacer política.

Tal vez el Parlamento del futuro no necesite ser una fábrica de discursos. Podría convertirse en el lugar donde los humanos fijan las reglas del juego:

• Qué derechos no se pueden pisar.
• Qué nivel de riesgo aceptamos.
• Qué datos puede usar la máquina.
• Quién puede recurrir.
• Qué decisiones nunca debería tomar sola.

Después, la IA podría calcular millones de opciones dentro de ese terreno.

El Parlamento dejaría de intentar ser el cerebro de todo y pasaría a ser algo parecido a la Constitución consciente del cerebro.

Imagina que la IA puede predecir tu voto con una precisión brutal.

¿Hace falta que votes?

Sí.

Porque predecir consentimiento no es obtener consentimiento.

Un sistema puede saber que probablemente quieres casarte con alguien. Eso no le permite decir «sí, quiero» por ti.

La democracia no sirve solo para intentar acertar. También expresa algo bastante humano: quien va a obedecer una norma tiene derecho a participar en la creación de esa norma.

Parte del trabajo judicial parece hecho para una máquina: leer millones de sentencias, encontrar precedentes, comparar condenas, detectar incoherencias y recordar absolutamente todo.

Hay estudios donde sistemas algorítmicos superan al juez medio en determinadas decisiones estrechas, pero también jueces que superan al algoritmo porque utilizan contexto que el sistema no tenía. Es el dibujo de toda esta serie: la máquina puede vencer al humano medio y el humano excepcional todavía puede ver algo que faltaba.

Hoy, además, Europa trata los sistemas de IA para asistencia judicial como de alto riesgo y mantiene la decisión final en manos humanas. Y las herramientas jurídicas actuales todavía cometen errores relevantes.

Con los abogados haría una apuesta distinta: desaparecerá mucho trabajo de abogado antes de que desaparezca el abogado.

Leer, buscar, resumir, comparar y redactar son territorios naturales para la IA. Estrategia, negociación, responsabilidad, juicio profesional y comprensión del cliente son otro asunto.

No hablo del Dios religioso. Hablo de algo más mundano: un Dios social. El oráculo al que preguntamos porque sabe más que nosotros.

Imagina una inteligencia que conoce legislación, medicina, ingeniería, historia, millones de opiniones humanas, tus preferencias, tus contradicciones, tus miedos y tus decisiones anteriores. Y además puede responder desde cualquier perspectiva.

Eso empieza a parecerse a aquello que durante milenios buscamos en sacerdotes, oráculos y sabios: alguien que nos diga qué hacer.

Pero la IA no necesita proclamarse omnisciente.

Basta con que nosotros dejemos de comprobarla.

Ahí habría nacido algo muy parecido a un dios sin que la máquina hubiera pronunciado una sola palabra religiosa.

Después de todas estas vueltas, no construiría ocho personajes artificiales discutiendo eternamente. Construiría algo más raro.

Y obligaría a la máquina a mostrar algo que hacemos muy poco:

Eso sería potentísimo porque la IA no fingiría haber descubierto la moral universal. Nos enseñaría dónde hemos escondido la moral dentro de la decisión.

Puede que la IA llegue a razonar mejor que cada uno de nosotros por separado. Puede incluso que combine nuestras perspectivas mejor que nosotros sentados alrededor de una mesa.

Podría reducir sesgos, detectar contradicciones, evitar decisiones tomadas por ira, miedo, cansancio o interés electoral. Podría transformar Parlamentos, tribunales y profesiones enteras.

Pero seguirá quedando una pregunta:

Si algún día la IA sabe más que todos nosotros juntos… ¿quién tendrá derecho a decirle que no?

Tal vez el mayor riesgo no sea construir una máquina que crea tener siempre razón.

Sea construir una sociedad que crea que la máquina siempre la tiene.

Desconfía con criterio. Especialmente cuando el criterio parezca perfecto.