¿Qué debe hacer un auto inteligente cuando no hay una salida perfecta?
Preámbulo:
A veces, los fines de semana traen consigo planes, salidas y rutinas conocidas. Pero este fue distinto. Me enfermé (algo que, por fortuna, no suele pasarme), y me vi obligado a hacer una pausa inesperada. Aun así, entre tazas de té, algo de malestar y descanso forzado, logré asistir (aunque no en las mejores condiciones) a dar una clase de Economía, y a una junta administrativa de mi universidad. Fue curioso: mientras el cuerpo pedía reposo, la mente parecía activarse de otra forma.
Aproveché esos días para ver documentales, películas y dejar que las ideas tomaran forma sin prisa. De ese encierro involuntario surgieron muchas reflexiones; una de ellas, quizás la más inquietante, es la que hoy quiero compartir con ustedes. Un tema que parece de ciencia ficción, pero que ya forma parte de nuestro presente.
Espero que esta lectura les resulte tan provocadora como lo fue para mí pensarla.
¿Puede un Auto Pensar Mejor que Nosotros? Un Dilema Ético de la Inteligencia Artificial
Imaginemos esta escena: un auto autónomo, de esos que ya vemos en pruebas por algunas ciudades del mundo, circula tranquilamente por una avenida. Dentro va una persona, quizás volviendo del trabajo o camino a casa. De repente, los frenos fallan.
El sistema, controlado por inteligencia artificial, tiene que tomar una decisión en cuestión de segundos. Hay solo dos opciones: estrellarse contra una esquina donde hay un grupo de personas (quizás cinco o seis) o desviar el rumbo hacia una sola persona que pasea a su perro por la acera. No hay tiempo para maniobras complicadas ni para pensar demasiado. ¿Qué debería hacer el auto?
Este tipo de situación, aunque parezca sacada de una película de ciencia ficción, no es un mero ejercicio teórico. Es un ejemplo del dilema moral que enfrenta la inteligencia artificial en situaciones extremas, y que ya se discute en laboratorios de tecnología y ética de todo el mundo.
La ética del algoritmo
A diferencia de los humanos, que reaccionamos con emociones, instintos y a veces con lógica, una máquina toma decisiones basadas en programación y datos. Entonces, alguien (algún programador, algún equipo de ingenieros), tuvo que escribir líneas de código para que el auto decida: ¿sacrifico a una sola persona o a varias? ¿Importa la edad, el estado de salud, si alguien está embarazada o si es un niño?
Este es un problema clásico de la ética llamado “el dilema del tranvía”, reformulado en el siglo XXI para autos inteligentes. La cuestión ha sido analizada desde muchas perspectivas filosóficas, desde el utilitarismo de Jeremy Bentham (hacer lo que cause menos daño) hasta la deontología de Immanuel Kant (respetar reglas morales fijas). Pero, ¿cómo traduce eso un software?
¿Y las leyes de la robótica?
Isaac Asimov, el famoso escritor de ciencia ficción, propuso en sus cuentos tres leyes fundamentales para los robots:
- Un robot no debe dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
- Un robot debe obedecer las órdenes que le dé un ser humano, salvo cuando estas órdenes entren en conflicto con la primera ley.
- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.
Estas leyes parecen simples, pero en el caso del auto sin frenos, ninguna ofrece una solución clara. El daño es inevitable. Cualquiera de las dos decisiones implica dañar a un humano, así que la inteligencia artificial entra en un cortocircuito moral, por decirlo de algún modo.
¿Y si hay una tercera opción?
Una pregunta clave es: ¿puede la inteligencia artificial encontrar una tercera solución que salve a todos? Es decir, ¿puede hacer algo que un humano tal vez no podría imaginar en ese momento de pánico?
La respuesta es ambigua. Por un lado, la IA tiene más capacidad de cálculo y acceso a información en milisegundos. Puede analizar la velocidad, el peso del auto, la distancia exacta, el tipo de terreno, e incluso si puede subirse al borde de la acera o derrapar de una forma que minimice el impacto. En teoría, podría ejecutar una maniobra que un conductor humano ni siquiera consideraría. Por otro lado, la física tiene sus límites, y en algunas situaciones, simplemente no hay una salida perfecta.
Una anécdota real: el dilema de Tesla
En 2016, un auto Tesla en modo autónomo tuvo un accidente fatal porque el sistema no reconoció el remolque blanco de un camión que cruzaba la carretera. El auto pensó que era el cielo. ¿El resultado? La muerte del conductor. Esto muestra que la inteligencia artificial aún comete errores humanos, pero sin la intuición humana para corregirlos a tiempo.
Más tarde, la empresa ajustó sus algoritmos, mejoró los sensores y limitó ciertas funciones. Pero la pregunta seguía en el aire: ¿quién es responsable cuando una máquina toma una decisión fatal? ¿El fabricante? ¿El dueño del auto? ¿El programador que escribió el código?
La importancia de decidir antes de decidir
Uno de los grandes retos es que estos dilemas no se pueden resolver en el momento del accidente. La inteligencia artificial debe estar previamente entrenada y programada para actuar según ciertos valores. Y aquí entramos todos: ciudadanos, legisladores, ingenieros, filósofos.
Por ejemplo, ¿preferimos que los autos siempre salven la mayor cantidad de vidas posible, aunque eso implique sacrificar al pasajero? Un estudio de MIT llamado Moral Machine mostró que las respuestas cambian según el país, la cultura y el contexto social. En algunos países, la gente prefiere salvar a los jóvenes; en otros, al conductor. En algunos lugares se valora más la vida humana sobre la de los animales, y en otros, no tanto.
¿Quién enseña ética a las máquinas?
El verdadero dilema es este: no se trata solo de qué puede hacer la IA, sino de qué queremos que haga. Como sociedad, debemos discutir estos temas abiertamente. No basta con que los autos sean más inteligentes; deben ser también más éticos. Y eso depende de nosotros.
Como dijo el científico Carl Sagan: “La ciencia no solo es compatible con la espiritualidad; es una profunda fuente de espiritualidad.” Cambiemos “espiritualidad” por “ética” y el mensaje sigue vigente: no basta con crear tecnología poderosa; debemos guiarla con valores humanos.
¿Podrá un auto autónomo encontrar una tercera vía para salvar a todos? Tal vez sí, algún día. Pero hasta entonces, la mejor herramienta que tenemos no es el silicio ni el código, sino el debate, la reflexión y la responsabilidad compartida.
