ARTURO BLAY: ¿La IA peligrosa? Pregunten a HAL 9000
Ahora que la IA y el dichoso ChatGPT se han colado hasta en las sobremesas familiares, he recordado la advertencia que Arthur C. Clark y Stanley Kubrick lanzaron a finales de los sesenta en “2001 Una odisea en el espacio”, la madre de todas las películas de ciencia ficción. En ella, una nave tripulada por humanos, pero controlada por un sofisticado ordenador, dotado de Inteligencia Artificial, se dirige a Júpiter en una misión cuyo objetivo sólo conoce HAL 9000, que es el nombre de la avanzada computadora.
Todo va bien hasta que HAL empieza a hacer cosas raras, detecta fallos que no existen, envía a la tripulación fuera de la nave para repararlos, y se los va cepillando a todos, menos a uno, David Bowman, que consigue entrar de nuevo en la nave y proceder a la desconexión de HAL 9000. La idea que Clark y Kubrick lanzaron en esta cinta era muy inquietante: la Inteligencia Artificial podía fallar, rebelarse contra el ser humano e incluso acabar con él. ¿Qué le pasó a HAL 9000? ¿Era una máquina asesina? ¿Una inteligencia rebelde? ¿O es que simplemente la IA podía padecer trastornos mentales como los humanos? Se avanzaba un debate que ha eclosionado más de 50 años después.
La presencia de HAL 9000 en la película era ciertamente turbadora. Se le identificaba como cámaras de video con forma de ojo rojo y pupila amarilla, diseminados por toda la nave. Podía mantener fluidas conversaciones, en las que le hablaban con suma delicadeza para, aparentemente, no herir sus sentimientos. Era capaz de interpretar las emociones humanas, y hasta leer los labios de la tripulación que ya empezaba a sospechar que algo no iba bien. Pero lo que más sobrecogía era su voz, ese tono ligeramente petulante, peligrosamente complaciente, falsamente tranquilizador, frío y cruel cuando se rebela contra los humanos. Impresiona la escena en la que Bowman va desconectando poco a poco sus unidades de memoria, y HAL 9000 confiesa que tiene miedo, va perdiendo la consciencia, y acaba regresando a su “niñez” cantando una canción que aprendió en el inicio de su programación. Es el único momento de la película en que HAL nos hace reír.
En la versión original, la voz de HAL la puso el actor canadiense Douglas Rain, pero el soberbio doblaje en español lo hizo Felipe Peña, responsable de los escalofríos que nos sigue produciendo escuchar a HAL 9000. Fue un maestro del doblaje que también prestó su voz, entre muchos otros, a Anthony Queen haciendo de Papa en “Las Sandalias del Pescador”. Comparen en Youtube la voz de HAL y la del Papa Kiril, el tono es idéntico, y solo un leve matiz separa la estremecedora voz de la computadora del bondadoso mensaje del Papa.
En la secuela de la película y libro supimos que, efectivamente, HAL 9000 se había vuelto loco por un error en la programación. Se le había encomendado guardar el secreto de la auténtica misión, el encuentro con una inteligencia alienígena tras el hallazgo de un monolito en la Luna. La tripulación ignoraba este objetivo, que solo se desvelaría al llegar a las inmediaciones de Júpiter. Pero a HAL sí se le informó, instándole a mantenerlo en secreto. HAL entró en conflicto porque no estaba diseñado para mentir y simplemente se volvió majareta. En “2010 Odisea 2” es reiniciado y rehabilitado por su creador, el Dr. Chandra. En una tensa y emocionante escena HAL, tras unos minutos de dudas, accede a inmolarse para salvar a los humanos.
Seguramente Clark y Kubrick pecaron de optimistas anticipando cómo sería la IA en el futuro. Ni en 2001, ni tampoco en 2023 se han alcanzado las habilidades de HAL 9000. Pero parece cuestión de tiempo. No sabemos muy bien cómo evolucionará la IA, tampoco si podemos confiar en que no haya fallos en su programación. Y aunque no los hubiese, ¿podría aprender la IA por su cuenta? Por lo que tengo entendido, ChatGPT, que afortunadamente de momento solo es eso, un chat, se alimenta de bases de datos de textos presentes en Internet hasta 2021. Lo que no me queda claro es si esa base de datos incluirá en algún momento las redes sociales y toda la agresividad y odio que rezuman. Porque si en el futuro eso lo va a aprender la IA, mejor la vamos desconectando y que, como HAL, se limite a cantar “Daisy Bell”.
