Los españoles que luchan con Elon Musk para acabar con los 'robots asesinos'

Victor Martín, Toni Ferraté y José Manuel del Río les unen varias cosas: los tres son españoles, empresarios, aman (y se dedican) a la robótica y desde este domingo forman parte del grupo de ‘anti-terminators’, liderado por Elon Musk, que quiere acabar con el uso deliberado de ‘robots asesinos’ en todo el mundo.

Estos tres emprendedores, junto a otros 113 expertos de 26 países diferentes, han mandado una carta abierta a la ONU con el objetivo de presionar a la comunidad internacional y conseguir que se intervenga en la carrera armamentística que se está llevando a cabo para construir armas letales autónomas. Porque, según comentan en dicha carta, “una vez que la caja de Pandora se haya abierto, será muy difícil cerrarla” (Puedes leer el texto original en inglés aquí).

Opinión

TE PUEDE INTERESAR

Zuckerberg es 'corto', o por qué Elon Musk tiene razón sobre los peligros de la AI

M. A. Méndez

“La idea nació del profesor Toby Walsh, una eminencia en este campo, y desde un principio me pareció de lo más lógico apoyarla. Esto de usar a los 'bots' para matar a humanos va hasta contra las leyes que creó Asimov hace años”, explica Toni Ferraté, uno de los firmantes, en conversación con Teknautas. El creador de RO-BOTICA, una empresa catalana que se dedica a la robótica educativa y personal, tiene claro que esta ciencia es capaz de lo mejor y de lo peor. “Es algo maravilloso y nos va a cambiar la vida a todos, por eso es una locura que la usemos para matarnos entre nosotros”, explica.

Algo similar opina Víctor Martín, creador de Macco Robotics, una compañía que desarrolla ‘bots’ humanoides sociales para bancos, hoteles, sanidad y sector educativo, y que tampoco dudó cuando le pidieron apoyar este mensaje. “El problema no es que exista un tanque que funcione solo, sino el sistema, el software, que decide a quién mata ese tanque, cómo, cuándo y por qué”, cuenta el empresario sevillano. Él, que ya ha convertido su empresa en una multinacional con unos 50 empleados y sede en 5 ciudades de 3 países diferentes, apunta algo aún más peligroso: “Estos sistemas son muy fáciles de instalar, solo es gestión de datos, casi cualquier estado podría tenerlos en su poder”.

Ambos ingenieros señalan el avance imparable de la robótica como punto clave en este debate que, según explica Martín, es muy intenso dentro del propio sector. “La idea de firmar esta carta es mostrar al mundo que este es un problema es real y que necesitamos que se haga algo de forma inminente”. Por eso, el sevillano defiende las prisas y la dureza con la que se expresan los expertos. “Muchos científicos hablan de que con estos avances se ahorrará sangre en las guerras, pero nosotros creemos que es al revés, al final estos avances armamentísticos se usarán para atacar a los más débiles”, concluye.

La idea del control y equilibrio se muestra en el nucleo de la petición que los 116 expertos, han hecho en la carta publicada ayer. En ella, se pide una intervención internacional sobre un sector que no para de avanzar, y que puede hacerlo tanto para bien como para mal. “Las armas autónomas letales amenazan con convertirse en la tercera revolución en la guerra (después de la pólvora y las armas nucleares). Una vez desarrollados sus softwares, permitirán que el conflicto armado se libre a una escala nunca vista, y a una velocidad más alta de la que los humanos pueden llegar a comprender”, explican en el texto.

Este aspecto es el que llevó a José Manuel del Río, creador de la empresa Aisoy, centrada en la robótica emocional a estar entre los firmantes. "Mi terreno está bastante alejado al de la tecnología militar pero sí que somos conscientes del peligro que puede tener este tipo de tecnología si no se controla", explica. "Este sector está creciendo de forma exponencial e igual que cualquier otra tecnología necesita que se controle para evitar que se use de forma equivocada", concluye

¿Cuánto tiempo tenemos?

Uno de los puntos que más han llamado la atención del texto publicado es una frase que asegura que “no tenemos mucho tiempo para actuar”. Y es que, tras más de dos años postergando la decisión, la ONU ha vuelto a aplazar la fecha en la que dirá si ilegaliza o no el uso de esta Inteligencia Artificial en el sector armamentístico. Pero ¿de cuánto tiempo estamos hablando?

Según Víctor Martín, no se puede hablar de una fecha exacta en la que los ejércitos empezarán a usar estos sistemas, pero asegura que ya hay bastantes rumores que hablan de que se están empezando a probar. “La tecnología está prácticamente lista. El problema es que al ser temas militares los ensayos son totalmente secretos”.

Ferraté, por su parte, apunta que la popularización de este tipo de tecnologías ha hecho que sea mucho más fácil desarrollar sistemas que hace unos años se veían como imposibles. “No solo es que los ejércitos puedan llegar a usar estos sistemas en un plazo corto de tiempo, es que hay grupos terroristas o paramilitares que podrían hacerse con ellos sin problemas”, explica el empresario.

En áreas de control fronterizo ya hay países como Corea del Sur que cuentan con armas capaces de disparar de forma autónoma y decidir por sí solas. Una de ellas es el Centinela SGR-A1, desarrollado por el gigante tecnológico Samsung especialmente para la frontera con Corea del Norte. Aunque nadie sabe a ciencia cierta si se usa sin la supervisión de un ser humano.

Y eso que, según apunta Del Río, solo se ha visto la punta del iceberg de esta ciencia. "La robótica acaba de salir de las fábricas y está empezando a llegar a extenderse, aún nos queda mucho por ver en todo el mundo", explica el ingeniero.

¿Qué pasa en España?

Aunque los tres expertos coinciden en que es un problema internacional, a falta de una legislación internacional cada país decide su postura respecto a este tema. España ha decidido posicionarse, junto al resto de sus socios, como una posición intermedia. En 2015, apoyó, junto a la mayoría de los países de la ONU, la apertura del debate sobre este tipo de tecnologías mientras aseguraba que no estaba “ni financiando, ni apoyando” en ese momento el desarrollo de ningún proyecto que tuviese relación con las armas autónomas.

“Es una pena, pero lo cierto es que el debate se da sobre todo en el propio sector, la mayoría de los políticos no tienen ni idea de qué va esto de los robots, y como lo del armamento es un tema peliagudo, prefieren que no salga a la luz”, explica Víctor Martín. "Uno de los objetivos de esta carta es que el debate llegue a todo el mundo pues es algo muy peligroso", concluye.

Pese a que no son exactamente armas autónomas, es importante recalcar que el ejército español ya cuenta con su primer batallón de drones pilotados por control remoto, creado en 2016. “La mayoría de estados están interesados en desarrollar este tipo de armamento porque abarata todos los costes aunque no lo quieran decir a viva voz”, explica Martín. Habrá que ver cuando por fin se produzca la reunión cual es la postura general de los gobiernos.

Como apunta Ferraté, la clave estará en el uso futuro del presupuesto de I+D. “Los gobiernos están destinando mucho dinero para desarrollo de la robótica y están muy interesados en este campo. La diferencia está en si este dinero lo usan para mejorar la educación y la cultura o para mejorar el ejército”.