Pronto veremos circular por las calles a vehículos autónomos. Nos lo presentan como un gran avance tecnológico y como una mejora sustancial en nuestras condiciones de vida. La verdad es que no hay para tanto triunfalismo. Cada nuevo desarrollo tecnológico supone avances o retrocesos que tienen mucho que ver con quienes lo han diseñado, producido, comercializado y puesto en marcha.
Cuando yo conduzco un vehículo tomo decisiones y esas decisiones pueden acarrear que lleguemos a destino sin mayores problemas, o que nos veamos involucrados en un accidente. Esas decisiones y sus consecuencias negativas, si existieran, serán luego objeto de estudio, análisis y toma de decisiones por parte de la policía y, más tarde, de los jueces.
Sin embargo, cuando hablamos de vehículos que pueden funcionar sin intervención de un ser humano, aprovechando cámaras, sensores, GPS, el problema es que esa máquina tomará decisiones también autónomas, en milésimas de segundo y en función de los algoritmos que gestionen la cantidad ingente de información a la que tendrán acceso.
Entonces podremos comprobar si un vehículo estadounidense, uno chino y un tercero europeo deciden de la misma manera sobre la vida y la muerte de sus pasajeros, o de las personas con las que se cruza en el camino. Se admiten apuestas sobre si el comportamiento de un coche chino será el mismo que el de un vehículo fabricado por la empresa propiedad de Elon Musk.
No serán sólo diferencias culturales las que determinen un comportamiento u otro del coche en cuestión, sino las ganancias de esos grandes inversores y las decisiones que terminen adoptando unos gobiernos cada vez más sometidos al designio de esas grandes corporaciones.
Me parece que una de las claves se va a encontrar en la capacidad de determinar la responsabilidad de los diseñadores y desarrolladores de los algoritmos con los que las máquinas tomarán las decisiones. Los dueños de esas máquinas y de sus decisiones no pueden ser los empresarios, los inversores, sino de las personas que las utilizan y de las instituciones de las que nos hemos dotado para que nos garanticen vivir en países democráticos.
Las grandes corporaciones son globales, mientras que nosotros nos movemos en ámbitos locales y, como mucho, nacionales. Sería bueno y urgente que asumiéramos nuestras responsabilidades personales y aquellas otras que podemos asumir en esos pequeños ámbitos.
Pero también parece urgente que nos dotemos de organismos internacionales capaces de meter en vereda a esas grandes corporaciones antes de que sigan avanzando en la toma de decisiones que afecten a nuestras vidas y a nuestras muertes. No podemos tolerar que las grandes empresas construyan un mundo paralelo de deberes y de derechos, con una ética diferenciada y con valores distintos que les permitan diseñar algoritmos a su gusto y a su medida.
Cada día somos más conscientes del poder de los algoritmos y del hecho de que nuestras vidas se ven condicionadas permanentemente por su capacidad de influir y gobernar nuestros gustos, nuestros consumos y eso que llamamos libertad cuando es, en realidad, sutil manejo de nuestra existencia y nuestras vidas.
Nosotras, nosotros, somos el poder que tiene que controlar al algoritmo y decidir de qué forma toma las decisiones, qué valores y qué ética queremos que impregne su funcionamiento. Nosotros tenemos derecho a conocer el algoritmo y decidir sobre el algoritmo que controle a los algoritmos.
Si lo hacemos nos habremos ganado nuestro derecho a existir. Si no lo hacemos serán otros los que conduzcan nuestros coches y los que decidan por nosotros y, casi siempre, contra nosotros.
