Maquinalmente humanos

La sesión de octubre de “El Alcázar de las Ideas” volvió a reunir, como cada mes desde hace casi diez años ya, a un reducido grupo de mentes inquietas alrededor de una mesa, de un ponente y de un tema central. La ética de la tecnología, en concreto la asociada a la “inteligencia artificial”, ya había sido objeto de alguna sesión anterior, pero sigue siendo un tema en el que hay mucho que explorar.

Hablamos de ética y de moral, de Sócrates, de Kant y de Ramón y Cajal, y cómo el último decía “las ciencias adelantan que es una barbaridad”. Igual que ocurría hace 130 años cuando el maestro Bretón estrenó “La verbena de la Paloma” con esa misma tonadilla. ¿Por qué ahora es diferente?, nos preguntamos. Si es que lo es.

Saliendo ya de la sesión, como quien sale del cine o del teatro tarareando la banda sonora, preguntando qué te ha parecido la función y comentando el argumento, escuché una de las claves del día. Lo que realmente atenta contra la dignidad humana es pretender darle un sentido ético al comportamiento de las máquinas.

Ya lo había adelantado uno de los invitados a la sesión: la ética y la moral son para los humanos y para las sociedades que estos forman. Querer reducirlas a un algoritmo es, aparte de absurdo, un atentado contra la humanidad misma. El problema no es que la máquina decida en función de los parámetros que hayamos introducido, sino que tengamos la osadía de pretender determinar de antemano esos parámetros.

No hablábamos siquiera de las armas autónomas letales, de los robots asesinos. No, estábamos hablando de un estudio del Instituto de Ingeniería de Massachussets, el prestigioso MIT, sobre vehículos autónomos (https://www.moralmachine.net/). Es decir, no estábamos en el dominio de la ciencia ficción, sino en las calles de muchas ciudades en algunos países.

El experimento permite al usuario decidir “cuál es más digna acción del ánimo”, que diría Shakespeare. Ante la contingencia de que un vehículo sin conductor se encuentre con el dilema de atropellar a una pareja de avanzada edad que está cruzando un paso de cebra con el semáforo en verde o se desvíe -ante la imposibilidad de frenar- y arremeta contra una niña que juega con su mascota en la acera, ¿qué es más ético?

Parece que hemos decidido -como comentábamos en la conversación tras “El Alcázar”- eliminar la aleatoriedad de nuestras vidas, mejorar la creación. Sucumbimos a la tentación de asignar puntos a las vidas humanas con el único objeto de transmitir a una máquina instrucciones precisas sobre cómo tiene que conducirse. En la interacción hombre-máquina, nos colocamos a la altura de lo mecánico, negando lo que nos hace humanos y dando ventaja a los electrones sobre los genes. Preferimos eximirnos del esfuerzo de la creatividad y de la búsqueda -apoyada en estas herramientas- de soluciones más humanas.

Los autores al menos hemos jugado varias veces la simulación que te ofrece la página web de Moral Machine. La conclusión, igual que la del IMSAI8080 (el ordenador de la película “Juegos de guerra”), es: “Extraño juego. La única forma de ganar es no jugar”.

Los dilemas éticos de este tipo están muy bien para Hollywood y para la teoría de juegos. Bien enfocados, nos permiten profundizar en valores. Valores como el de la vida y el de la libertad. La libertad de no jugar, por ejemplo. Aunque no está claro que podamos retirarnos como un eremita a una cueva para no ver lo que no nos gusta.

Las decisiones algorítmicas son -o eso se desea- criminalmente previsibles. Cuando te levantas de la cama por la mañana ya tienes asignada una prioridad. Alguien ha decidido el valor relativo que tiene tu vida. Quizás por no ser propietario del vehículo -que tiene instrucciones de proteger a toda costa (incluso a la tuya) a los pasajeros-, quizás por cuestiones de tu género, raza, edad, … de cualquiera de los aspectos que estamos luchando por no discriminar en nuestro juicio humano.

Porque los algoritmos hacen precisamente eso, discriminar. De hecho, es lo único que saben hacer. Discriminar en el sentido de distinguir, clasificar, categorizar. Tienen sensores, que no sentidos, para darles toda la información y suplen la emoción con las instrucciones pregrabadas que algún humano (por ahora) les ha proporcionado. Sus sesgos serán los sesgos de su diseñador humano y los de los datos que haya elegido para entrenarla. Nada más … y nada menos. Un gran poder que entraña una gran responsabilidad.

No somos máquinas imperfectas. Y nos encanta que así sea. No queremos un mundo completamente previsible. Vivir es construir el mañana cada día. Se vive hacia adelante (y se muere cuando se mira solo hacia atrás) y la vida pierde sentido cuando no hay nada que construir. Nos gustan nuestras imperfecciones porque nos permiten aspirar a mejorarnos. Sin objetivos, somos palancas sin puntos de apoyo.

¿Qué vida vale más? ¿La de la niña que juega con su mascota o la de las personas mayores que cruzan el paso de cebra? ¿Y si es niño en lugar de niña? ¿O si no hay mascota? ¿Y si las personas mayores son tus padres? ¿O si él es un famoso compositor que está a punto de terminar una obra maestra, o ella la científica que está en las últimas fases de un remedio contra el cáncer? ¿Y si estuvieran cruzando el semáforo en rojo en contra de las normas?

Efectivamente, lo que parece que carece de ética es jugar al juego y enmendar las leyes de la naturaleza por nuestra cuenta. Por sofisticado que sea, el comportamiento de la máquina será, por definición, mecánico, maquinal. La ética está en los humanos. O debería estar. ¿Acaso puede la caja mirar fuera de sí misma?

De nuevo, como en tantas otras cosas, nos ponemos al servicio de la máquina para hacer su trabajo fácil. Le ahorramos definir los criterios de su decisión para que ellas asuman el papel de chivo expiatorio ejecutor de la acción. Elegimos que elija la máquina, que «no puede elegir no elegir», no jugar.

La prisa por rentabilizar las inversiones en “inteligencia artificial” nos lleva a aplicarla por doquier, maquinalmente. Las IA son herramientas que deben ayudarnos, no sustituir nuestra agencia.

El lamento ocioso de Don Hilarión sobre el adelanto de las ciencias se reproduce casi siglo y medio después. Si no estamos dispuestos a apoyar nuestro esfuerzo en la tecnología en lugar de a sustituirlo por esta, nos van a cantar las cuarenta.

Puestos a jugar, “¿qué tal una partida de ajedrez?”