Hay quien formula la idea de que el buen algoritmo es el algoritmo bueno, mientras que otros no dudarían en formular que el buen algoritmo es el algoritmo muerto, el que no existe. A fin de cuentas todo termina dependiendo de quién define las preguntas y quién decide los resultados.
Así bien puede ocurrir que el interés general no sea mi interés personal. Por ejemplo, puede ser que para entender mejor el funcionamiento de una enfermedad haya que utilizar datos personales de los pacientes.
Entonces podríamos preguntarnos si esos datos sobre mi salud pueden ser utilizados por las instituciones para que entidades privadas los administren, investiguen y produzcan medicamentos que nos curen.
En situaciones así es muy difícil asegurar que mis datos sean anónimos, si tenemos en cuenta que esos investigadores necesitan establecer una trazabilidad de mi enfermedad, comprobar qué ha pasado conmigo tras una enfermedad, o tras un tratamiento.
Siguiendo esta lógica se han producido robos de datos. Operaciones que luego han sido limpiadas, lavadas, legalizadas en la utilización que hacen de los datos. Como vemos, el hecho es que nuestros datos circulan de mano en mano, produciendo dinero para quienes los utilizan con o sin permiso, o con un permiso obtenido de forma maliciosa y mediante malas artes.
La salud y el combate contra las pandemias y la enfermedad no pueden ser instrumentalizados para conseguir un mayor control social y un beneficio económico de industrias como la farmacéutica. No sería justo que en nombre del control social y la obtención de beneficios el mercado y los gobiernos manipularan los algoritmos.
Habrá quien diga que el algoritmo, los grandes datos (Big Data), o la Inteligencia Artificial (IA) pueden ser instrumentos muy útiles para combatir enfermedades y añadirá inmediatamente que no hacerlo produciría males mayores. A fin de cuentas, argumentará, todo dependerá del mal uso, o del buen uso, que hagamos de los datos y de los algoritmos que los ordenan.
El debate es mundial y se encuentra en la agenda de todos los organismos internacionales. Y para ello han establecido algunos criterios, principios, orientaciones que nadie debería olvidar. Por ejemplo conviene dejar claro desde el principio que esos instrumentos, el algoritmo, la IA, debe ponerse al servicio de los seres humanos y no de las grandes corporaciones económicas. No será fácil, pero es absolutamente necesario.
Existen toda una serie de derechos personales y colectivos que no pueden verse vulnerados por la utilización del algoritmo, por bueno que este sea. Nunca podemos aceptar que esas vulneraciones de derechos terminen golpeando a los más débiles, ya sean la infancia, las personas mayores, las minorías.
Los empresarios, las grandes empresas ceden constantemente a la tentación de utilizar su exceso de información y su poder para vulnerar derechos de sus trabajadores, o de quienes consumen sus productos, o servicios.
El uso de Inteligencia Artificial (IA) puede incluir medidas técnicas que aseguren la transparencia, la participación, la no discriminación, el respeto a la privacidad, las medidas de seguridad para evitar fugas y malas utilizaciones de datos.
Basta comprobar la retahíla de incomprensibles, e interminables clausulas que las empresas establecen y que tienes que aceptar si quieres utilizar sus servicios, para comprender que estamos en sus manos, desde el momento en que abrimos su página y hacemos click para aceptar las condiciones de uso.
La información debería ser clara, transparente, concisa, entendible y garantizar el conocimiento sobre la utilización de los datos que facilitamos. Tal vez así nos evitaríamos esas llamadas intempestivas en las que alguien desconocido entra en nuestras vidas sin invitación para vendernos algo.
Las instituciones nacionales e internacionales hablan de una Inteligencia Artificial confiable. Todos sabemos que corresponde más a las buenas intenciones y a los buenos deseos que una realidad alcanzable. Pero no deberíamos renunciar a que empresas y organismos públicos aceptaran someterse a controles, auditorías y procesos de rendición de cuentas que limiten su poder sobre nuestros datos y sobre nuestras vidas.
En cualquier caso, no hay control posible si la ciudadanía no cuenta con la información y la formación necesarias para promoverlo y ejercerlo. No hay buen uso posible si la investigación y la innovación, no son de dominio público, sino que se encuentran al servicio del sector privado.
No seremos más felices, no estaremos más sanos, si los algoritmos utilizados con fines sanitarios no sirven para que la persona enferma encuentre un mejor camino para superar la enfermedad. Si no integramos la utilización de los datos, con la experiencia y el conocimiento de nuestros profesionales, conjugados con un trato humano que tome en cuenta las necesidades de los pacientes.
No va a ser fácil abrir camino estos criterios y planteamientos en nuestras sociedades, pero cada generación tiene unos retos y el de los algoritmos forma parte de los nuestros. De nuestros mejores deseos y de nuestras peores pesadillas. Entre ambos tenemos que elegir, si queremos que nuestra medicina sea la mejor de las posibles.
