La progresiva implantación de sistemas de toma decisiones basados en inteligencia artificial puede alterar de forma significativa el funcionamiento de los sistemas sociales en los que se adopte.
Más allá de las consecuencias económicas que el hecho indudablemente supone, hay que tener en cuenta que en los sistemas sociales de nuestro entorno, el ejercicio del poder, entendido como el mecanismo que condiciona los comportamientos sociales, se logra a través de la regulación. Esta regulación no presenta un carácter monolítico sino que en realidad es la conjunción de cuatro factores que constitucionalistas como LESSIG identifican como las normas jurídicas, las normas sociales, el mercado y la arquitectura, entendida esta última, como aquellos elementos físicos que condicionan las acciones humanas (una cerradura, una contraseña, etc.).
Pues bien, una sociedad dependiente de sistemas de inteligencia artificial supone primar el factor arquitectura, es decir el código software que da funcionamiento a los sistemas de inteligencia artificial, condicionando fuertemente el funcionamiento de los demás factores.
Esto supone que las normas sociales y el mercado se ponen a disposición del código informático, y que una nueva función que las normas jurídicas han de asumir es la protección de esta realidad que tenderá así a perpetuarse.
Nos encontramos en un momento en el que las necesidades productivas por un lado, y por otro la complejidad de los sistemas económicos y sociales, son tales que el conocimiento existente precisa de una vertiginosa aplicación a problemas concretos.
El ejemplo recurrente es el de los vehículos autoconducidos que deben resolver en decimas de segundo el bien jurídico a sacrificar en caso de presentarse un conflicto de derechos.
Esta necesidad se ha visto satisfecha con la masiva provisión de datos generados por los individuos y que son compartidos a través de la redes sociales, lo que unido a una mayor capacidad técnica que permite tratar esta información, obteniendo incluso predicciones del comportamiento de los individuos, ha generado una enorme dependencia de la información para dar solución a las necesidades de los mencionados sistemas económicos y sociales.
Tal dependencia ha cristalizado en la utilización de sistemas de inteligencia artificial los cuales se encuentran en rápida evolución hacia una necesaria autonomía en la adopción de decisiones, lo que plantea innumerables cuestiones, todavía no resueltas. Lo cierto es que el avance de las decisiones adoptadas autónomamente por las máquinas se encuentra en un camino cada vez más imparable.
Esta rápida evolución tiene una explicación simple: Encuentra una enorme rentabilidad económica y por ello los recursos que se destinan a ella son ingentes.
Sin embargo esto tiene una evidente desventaja: la lógica de las máquinas no se corresponde con los mecanismos de toma de decisiones de los seres humanos. Mientras que algunas decisiones se han de adoptar en base a criterios eminentemente técnicos y en los que la exactitud es esencial, en algunas otras decisiones que pueden contener elementos valorativos surgirán diferencias.
Para Garry KASPAROV, alguien que puede hablar sin duda de la toma de decisiones inteligentes, la intuición es un elemento fundamental para la adopción de este tipo de decisiones y que en el tablero de ajedrez las decisiones que se adoptan exclusivamente por calculo son relativamente pocas. En el ajedrez afirma «el cálculo no suele aplicarse como la herramienta principal» debiendo tenerse en cuenta además que la vida es infinitamente más compleja ya que a diferencia del ajedrez, no está sujeta a reglas de juego inviolables.
A algunos nos llama poderosamente la atención la razón por la que decisiones adoptadas en base a criterios de inteligencia colectiva no gozan del predicamento que obtiene la inteligencia artificial, lo que supone una menor aportación de recursos para el desarrollo de sistemas de toma de decisiones basados en este tipo de inteligencia.
Cuando las decisiones adoptar no requieren simplemente exactitud, sino que contienen suficientes elementos valorativos para hablar de satisfacción del grupo social a través de gustos y preferencias, la solución humana basada en inteligencia aplicativa tiene más posibilidades de satisfacer al grupo humano en el sistema social de referencia.
Los gustos y preferencias como tales (por ejemplo la privacidad) no tienen una valoración concreta desde el punto de vista económico, sino que solamente pueden considerarse sus valores de intercambio para su obtención o su conservación, desde el punto de vista del mercado. Es por ello que cualquier intento de computación de estos valores resultará arbitrario a los efectos de ser tratado desde el punto de vista de la inteligencia artificial, apareciendo el peligro de que un grupo reducido de individuos imponga su control a través de la programación de código.
De lo expuesto debe inferirse que la utilización de sistemas de toma de decisiones basados en inteligencia colectiva no elimina la utilización de la inteligencia artificial en aquellos supuestos en los que la primera carezca de utilidad, existiendo un claro espacio para cada sistema de toma de decisiones.
El resultado será que en aquellos casos en los que la decisión valorativa predomine se obtendrá una solución generada con criterios humanos en lugar de criterios estrictamente lógicos.
Por tanto hemos de generar mecanismos que permitan la obtención de información y recabar datos agregados que den solución a los problemas planteados.
Uno de los caminos que sugieren soluciones a esta cuestión es la apertura de mecanismos de participación directa en la adopción de decisiones por parte del Estado, modificándose incluso el concepto de separación de poderes, pensado para una sociedad de hace más de 300 años.
La participación directa debería formar parte del sistema de contrapesos del Estado, arbitrándose nuevas reglas para que la coexistencia con el resto de poderes evitase más fricciones de las estrictamente necesarias.
Sin embargo lo más importante de todo ello es que esta solución aporta la posibilidad de tratar los metadatos del tráfico de información que se genera para obtener conocimiento colectivo.
Lo expuesto creemos que evidencia la necesidad de que las Ciencias Sociales asuman un mayor protagonismo a los efectos de armonizar los efectos de la inteligencia artificial sobre el necesario progreso social, limitando su protagonismo a aquellos supuestos en los que un conocimiento de componente humano no resulte igual o más eficaz.
