Microsoft lanza una herramienta anti pedófilos
El sistema asigna una calificación para la probabilidad de que uno de los participantes del chat esté tratando de abusar del otro
Microsoft ha creado un sistema automatizado para detectar posibles depredadores sexuales que intenten seducir a menores a través de internet. La herramienta, cuyo nombre en código es Proyecto Artemis, está diseñada para detectar patrones de comunicación en las conversaciones.
Esta nueva herramienta analiza las conversaciones textuales y, en función de esto, asigna una calificación para la probabilidad de que uno de los participantes esté tratando de abusar del otro. Aquellas compañías que implementen esta herramienta pueden establecer una puntuación mínima a partir de la cual esas conversaciones marcadas se envían a un moderador humano para su revisión que decidirá si la compañía deberá contactar con las autoridades por un posible delito.
Falsos positivos
Según nos cuenta Futurism, este sistema está disponible de forma gratuita para las empresas que ofrecen aplicaciones de chat en línea, a través de una organización sin fines de lucro llamada Thorn, que desarrolla productos tecnológicos para defender a los niños del abuso sexual. Gracias a esta herramienta, se proporcionara a los expertos en protección infantil más información sobre cómo operan los pedófilos a través de internet.
No obstante, la herramienta no es cien por cien efectiva y se prevé que pueda arrojar muchos falsos positivos, ya que los sistemas automatizados aún no están perfeccionados a la hora de comprender el significado y el contexto del lenguaje. Sin embargo, puede ser un buen método de detección temprana para evitar males mayores.
Microsoft ha creado un sistema automatizado para detectar posibles depredadores sexuales que intenten seducir a menores a través de internet. La herramienta, cuyo nombre en código es Proyecto Artemis, está diseñada para detectar patrones de comunicación en las conversaciones.