Los dispositivos armamentísticos basados en inteligencia artificial provocan mayor alarma debido a su capacidad de matar sin supervisión humana. La carta de empresarios y científicos a la ONU y los riesgos de su expansión según especialistas.
25 de enero de 2018
En las últimas décadas, el ser humano se ha acostumbrado a que las máquinas realicen por sí mismas tareas que antes solo ejecutaba un especialista. Muchos de estos logros se deben a lo que se conoce como Inteligencia Artificial (IA), es decir, la habilidad de las computadoras de imitar las capacidades cognitivas del ser humano. La IA se caracteriza por resolver problemas y al mismo tiempo aprender de la experiencia adquirida. Existe una gran diversidad de áreas en las que se aplica la IA, pero las que últimamente preocupan a las mentes más brillantes del planeta son las relacionadas con objetivos militares.
Amenaza
A fines de 2017, un grupo de 116 ejecutivos de 26 empresas dedicadas al desarrollo de IA –entre ellos el inventor y millonario sudafricano Elon Musk– firmaron en Melbourne, Australia, una carta abierta dirigida a las Naciones Unidas solicitando la prohibición de las Máquinas de Matar Autónomas (AKM, en inglés).
No es el primero ni único llamado que se hace al organismo internacional para que se detenga, o por lo menos se regule mediante una legislación internacional, la fabricación y producción de robots asesinos, como también se los conoce.
«En cuanto compañías fabricantes de tecnologías de Inteligencia Artificial y Robótica que pueden ser reutilizadas para desarrollar armas autónomas, nos sentimos especialmente responsables de elevar esta alarma», comienza el documento, para luego continuar: «Los sistemas letales de armas autónomas amenazan con convertirse en la tercera revolución en la guerra. Una vez desarrolladas, permitirán que los conflictos armados se combatan a una escala mayor que nunca, y en escalas de tiempo más breves que lo que los humanos pueden comprender».
No se está hablando de productos irrealizables, de ciencia ficción, sino de desarrollos que ya están al alcance de la tecnología actual. En 2014, el famoso astrofísico británico Stephen Hawking había sido lapidario: «Los robots son una amenaza para la humanidad».
Claudio Verrastro, director del Grupo de Inteligencia Artificial y Robótica de la Universidad Tecnológica Nacional, advierte que «efectivamente, la tecnología ya alcanzó el grado de madurez necesario para ser usada en forma autónoma, sobre todo cuando los daños “colaterales” los paga el “otro”».
Por su parte, el ingeniero Guillermo Simari, titular del Departamento de Ciencias e Ingeniería de la Computación, de la Universidad Nacional del Sur, Bahía Blanca –quien fue anfitrión de la 24ª Conferencia Internacional de Inteligencia Artificial que tuvo lugar en Buenos Aires en 2015–, señala a Acción que «las máquinas ya cuentan con los elementos necesarios para actuar con suficiente autonomía y seleccionar y eliminar objetivos generales. Los avances científico-tecnológicos necesarios para estas tareas han sido suficientes como para poder realizar esto».
Animales y humanoides
Cuando se piensa en máquinas de matar autónomas, la primera imagen que aparece es la del autómata de ojos rojos y esqueleto de titanio de la película Terminator (1984), en la que en un futuro cercano una red digital inteligente tomaba el control de la Tierra y enviaba al pasado a un exterminador (terminator) a matar al líder de la resistencia humana. Pero las AKM pueden tener formas muy diferentes, empezando por los famosos drones. Popularizados hoy como medio para fotografiar y filmar todo tipo de eventos, estos pequeños dispositivos de vuelo autónomo también pueden portar armas y vienen siendo utilizados en el campo de batalla ya desde hace años.
La imaginación de científicos y técnicos que trabajan para el complejo de guerra de las grandes potencias no tiene límites. Así, la DARPA (Agencia de Investigación de Proyectos Avanzados de Defensa), un programa del Ministerio de Defensa de EE.UU., viene desarrollando –a través de universidades o compañías como Boston Dynamics– todo tipo de robots militares, incluso con formas de animales.
Sin embargo, hay muchas máquinas ya operativas que se reducen a un cuerpo metálico, un par de orugas para avanzar por terrenos escarpados y una ametralladora pesada en la parte superior. Un simple aparato como ese, en el campo de batalla podría matar a centenares de soldados humanos antes de ser inutilizado. Verrastro amplía: «Está claro que las “herramientas” no son malas en sí mismas, depende del uso que se les dé. Cuanto más poderosa es la herramienta, más daño puede causar cuando se la usa como un arma».
El presidente ruso, Vladimir Putin, aseguró en septiembre pasado que «quienquiera que lidere este campo será el dueño del mundo y no quisiera que ese monopolio se concentre en pocas manos». La cuestión estriba en que, en un hipotético gran conflicto, las únicas que no perderán muchas vidas humanas serán las potencias que puedan desarrollar ejércitos enteros de AKM. Los países pobres que no hayan alcanzado esta tecnología tendrán que enviar al campo de batalla a sus propios soldados a enfrentarse a regimientos de máquinas asesinas. Simari afirma: «Los escenarios son de tipo Terminator, pero es muy difícil de predecir, porque no hay forma de vislumbrar hasta qué punto sería aceptable que esto se generalice».
La carta de los empresarios de IA presentada ante la ONU concluye con un mensaje nada alentador: «No tenemos mucho tiempo para actuar. Una vez que se abra esta Caja de Pandora, será difícil cerrarla. Por lo tanto, rogamos a las Naciones Unidas que encuentren la forma de protegernos a todos de estos peligros».
