Y 'youtuber' de ciencia en sus tiempos libres

El matemático español que sabe cómo evitar que un coche autónomo te atropelle

David Ríos, investigador del Instituto de Ciencias Matemáticas (ICMAT), participa en un proyecto europeo que aborda cuestiones tecnológicas y sociales relacionadas con los vehículos sin conductor

Foto: David Ríos en un vídeo del ICMAT. (Foto: YouTube)
David Ríos en un vídeo del ICMAT. (Foto: YouTube)

Protagoniza una serie de entretenidos vídeos llamados It’s a risky life! en el canal de YouTube del Instituto de Ciencias Matemáticas (ICMAT) en los que cuenta que le vida está llena de incertidumbre, pero que la ciencia nos puede ayudar a sobrellevarla. Es David Ríos y se ha tomado en serio eso de que las matemáticas pueden ser divertidas.

Su lucha contra los riesgos acaba de lograr un impulso importante. Como investigador está dentro del proyecto europeo "Trustonomy Building Acceptance and Trust in Autonomous Mobility" (en inglés, "construir aceptación y confianza en la movilidad autónoma"), dotado con 3,9 millones de euros del programa H2020 de la Unión Europea para que en los próximos tres años investigadores de nueve países realicen aportaciones para mejorar los coches sin conductor.

La iniciativa tiene dos enfoques. "Hay una parte social, dedicada a analizar las ventajas y los inconvenientes de los vehículos autónomos, que se pueden potenciar o mitigar a través de leyes y otras medidas", explica a Teknautas. La otra parte del proyecto se ocupará de "hacer más robustos los algoritmos responsables de la toma de decisiones". Ahí es donde entra el trabajo del matemático español.

Una labor que él resume en los diferentes problemas a los que se van a enfrentar. "Tenemos dos clases de problemas: el hecho de que el comportamiento de los coches autónomos sea demasiado rígido ante situaciones inesperadas y la posibilidad de sufrir un ataque, es decir, que alguien pueda 'hackear' el sistema y convertir el vehículo en un arma terrorista".

David conduce en un vídeo del ICMAT. (Foto: YouTube)
David conduce en un vídeo del ICMAT. (Foto: YouTube)

Análisis de Riesgos Adversarios

David Ríos es experto en el Análisis de Riesgos Adversarios y por eso ha entrado a formar parte de este proyecto. "Es el estudio de las amenazas en las que interviene alguien inteligente que busca su propio beneficio", comenta. El análisis de riesgos tradicionales no tiene en cuenta la posibilidad de que una amenaza actúe de esa forma, así que este modelo se aproxima más a la teoría de juegos, que estudia las situaciones en las que un participante tiene que tener en cuenta las decisiones tomadas por otros agentes para poder tener éxito.

Esta teoría se utiliza en muchos ámbitos, desde la economía a la psicología. Su aplicación a los coches autónomos está justificada porque evitar un accidente depende del comportamiento de otros vehículos y de los peatones. Todos los actores buscarán su propio beneficio si se produce una situación de peligro.

David en uno de sus vídeos de YouTube
David en uno de sus vídeos de YouTube

La tarea de los matemáticos es mejorar la respuesta de los algoritmos en situaciones inesperadas. "Ocurren cuando la experiencia acumulada no es suficiente", señala el investigador del ICMAT, "puede ser en una tormenta fuerte, cuando hay mucha niebla o por la presencia de un obstáculo. Si introducimos más formas de abordar la incertidumbre, el vehículo tomará decisiones que no serán rígidas", apunta.

El coche autónomo como arma

El problema de que un 'hacker' intervenga en el sistema puede ser aún más complejo. "Los coches autónomos llevan sistemas de visión y procesamiento de la información, de manera que cuando identifican a personas que van a cruzar frenan; pero bastaría con alterar unos cuantos píxeles de la imagen para que esos peatones desaparecieran para el algoritmo y el automóvil se los llevara por delante", advierte, "esto podría convertirse en una nueva herramienta para terroristas".

Las matemáticas pueden resolver estos desafíos, al menos, en gran medida. "El riesgo cero es imposible, pero el 90% de los accidentes se producen por causa humana, y sí que podemos evitar ese porcentaje, así que esperamos que la conducción sea mucho más segura que en la actualidad", destaca.

Este es el Volvo XC90 preparado por Uber para ser un coche autónomo de producción
Este es el Volvo XC90 preparado por Uber para ser un coche autónomo de producción

El trabajo de los investigadores incluirá cuatro pruebas piloto que se desarrollarán con coches, camiones y simuladores en Italia, Francia, Polonia y Reino Unido. Los resultados que se publiquen estarán a disposición de toda la comunidad científica y, a partir de ese conocimiento compartido, las marcas comerciales probablemente "tunearán los algoritmos" y desarrollarán sus propias innovaciones.

Interacción entre coche y conductor

El proyecto europeo, liderado por la empresa Softeco, aborda otro aspecto esencial del que se habla menos: la necesidad de mejorar la interacción entre el conductor y el vehículo. Para clasificar el nivel de dependencia de las decisiones humanas existe una escala del 0 al 5 en la que 0 serían los coches tradicionales, sujetos por completo a las decisiones del conductor, y 5 sería un automóvil 100% automático, sin intervención de ningún tipo.

"Nuestro foco está puesto en el nivel 3, que puede requerir la intervención del conductor en algún momento", explica el matemático. "De hecho, algunos accidentes con coches autónomos han ocurrido, precisamente, porque el ocupante no ha participado cuando se le solicitaba. Por eso, el reto es que la petición se haga con mayor antelación y que sea más notoria", afirma.

Esto requiere que el sistema monitorice tanto a la máquina como al conductor y que la interfaz entre ambos mejore notablemente a través de cualquier tipo de señal, visual, sonora o de otro tipo. De hecho, ya ha habido experiencias con personas invidentes. Probablemente, llegará un día en el que todos los vehículos sean de nivel 5, pero hasta entonces será inevitable la coexistencia de diferentes sistemas y para resolver los problemas que se puedan crear en esta situación el Análisis de Riesgos Adversarios es determinante, ya que aborda justo el escenario en el que diversos agentes inteligentes ocupan un mismo espacio. Aunque los coches se comuniquen entre sí en mayor o menor medida, quedará bastante margen para la incertidumbre.

La ética incrustada en los algoritmos

Aquí surge un dilema ya clásico en este campo: ¿ante el riesgo de un potencial accidente el vehículo autónomo debe salvar a las personas que lo ocupan o debe tener una perspectiva más global y optar por el menor daño posible considerando a todas las partes implicadas? Hay problemas que no se pueden resolver solo con matemáticas. Por eso, en el proyecto europeo participan filósofos que reflexionarán sobre estas cuestiones éticas.

En apenas unos instantes, el sistema debe ser capaz de capturar información, procesarla, tomar una decisión y ejecutarla (acelerar, frenar o girar). Esto implica que debe estar preparado para valorar situaciones éticas difíciles y que habrá que definir hasta qué punto la persona responsable del vehículo tiene cierta capacidad de elección. "Tenemos que incrustar los conceptos éticos en los algoritmos de decisión e incluso en la posible legislación que se vaya a desarrollar", comenta David Ríos.

David Ríos en un vídeo del ICMAT
David Ríos en un vídeo del ICMAT

En efecto, la irrupción de los vehículos autónomos va a cambiar muchas cosas. Las más evidentes son las relacionadas con la propia seguridad vial, desde la normativa hasta los seguros, pasando la formación en las autoescuelas: "Habrá que enseñar otras formas de conducir", reflexiona el investigador del ICMAT.

Sin embargo, el título del proyecto en el que participa habla de generar confianza porque en realidad los coches autónomos van a cambiar por completo la movilidad y, en parte, la sociedad actual.

Cambios en la movilidad y en la sociedad

"El uso del coche no tendrá nada que ver, pensemos en los mayores y en los niños, que no dependerán de un conductor", pone como ejemplo. Además, los propios vehículos serán rediseñados por completo, ya que dejará de tener sentido tener coches tan grandes, lo que a su vez repercutirá en el aparcamiento y en las emisiones, teniendo en cuenta que los vehículos autónomos también serán eléctricos.

En general, la movilidad será más eficiente: "Hoy en día tenemos coches que ocupan mucho espacio y que solo usamos unos minutos al día". Probablemente, todo cambiará y se pondrá en cuestión la utilidad de ser propietario de un vehículo. "Todo esto tiene más cosas buenas, pero para las malas hay que poner soluciones e intentar mitigar los problemas", opina.

Entre los efectos negativos de una conducción plenamente autónoma en el futuro está la pérdida de millones de empleos, transportistas y conductores de cualquier tipo de vehículo que lleve pasajeros. Por eso, el impacto en la economía es otro de los aspectos que abordarán los investigadores europeos.

Ciencia

El redactor recomienda

Escribe un comentario... Respondiendo al comentario #1
4 comentarios
Por FechaMejor Valorados
Mostrar más comentarios