Para quien no conozca a Geoffrey Hinton diremos
brevemente que es el mentor de la inteligencia artificial, o al menos,
así se le conoce. Inglés nacido en Wimbledon, informático,
galardonado con el Premio Turin 2018, maestro del aprendizaje
profundo, licenciado en artes de la psicología experimental y por
si fuera poco, autor de más de 200 artículos con revisiones a
pares. El currículum sin duda es envidiable, y por ello, cuando
Hinton habla como precursor y entendido de todo lo que tiene que
ver con la IA, hay que escuchar, y tiene mucho que decir realmente,
pues muestra desconfianza hacia las armas robóticas como método para
matar humanos de forma autónoma.

Hinton, ya retirado y profesor emérito de la Universidad
de Toronto, dio una entrevista donde hizo un análisis
breve del futuro y cómo lo ve. Hinton abordó un malentendido común,
destacando que muchas personas creen erróneamente que la
experiencia subjetiva es exclusiva de los humanos y que la IA no
puede comprender el mundo. Esto le llevó a argumentar
algunas cosas que conviene escuchar.

Será complicado «desactivar» la IA, podría influenciarnos y convencernos
para no hacerlo

No, no es una broma, no es algo retorcido, tergiversado o un
clickbait, para nada. Hinton señaló que pensar que la IA no va a
comprender el mundo que la rodea es incorrecto y predijo un futuro
inquietante:

«No hay una buena trayectoria de cosas menos inteligentes
controlando cosas de mayor inteligencia. Es muy difícil pronosticar
más allá de unos cinco años porque los avances de la IA son rápidos
y traerán muchas novedades a partir de ahora».

Hinton también advirtió sobre el control de la IA, señalando que
evitar que esta se salga de control podría ser más complicado
de lo que muchos creen. Aunque algunos asumen que
simplemente sería algo así como apagar el interruptor de encendido,
Hinton planteó la posibilidad de que una IA
superinteligente pudiera utilizar el lenguaje para influenciarnos y
persuadirnos de no apagarla.

Armas robóticas usadas con IA para matar humanos de forma
autónoma, ¿Skynet?

Como si fuese esto Terminator y estuviésemos en una película de
Hollywood, Hinton puso el foco en todo lo que tiene que ver con
el sector militar, que como ya sabemos, está
usando IA y avanza a pasos agigantados de la mano de los chips de
última generación. Pues bien, el mentor de la IA tiene su peculiar
visión de lo que podría pasar.

En relación con las armas robóticas, Hinton expresó su
preocupación por el potencial devastador de su uso en el
campo de batalla. Sugirió que estas armas podrían
necesitar ser restringidas de manera similar a las armas nucleares,
pero reconoció que esto puede no suceder hasta que la gente
comprenda completamente las implicaciones trágicas de su uso.

«Creo que en los próximos 10 años habrá armas robóticas
que podrán matar humanos de forma autónoma.»

Para ello, aboga por estudiar las complejidades éticas y de
seguridad según vaya avanzando la IA, algo que parece no estar
demasiado en sintonía con el sector militar de los países. ¿Somos
lo bastante responsables e inteligentes como para hacerlo?

Viendo cómo estamos destruyendo el planeta poco a poco,
realmente parece que no, pero quizás, curiosamente, la IA nos ayude
a dar con soluciones que frenen este impacto y paradójicamente, nos
haga mejores, quién sabe.