Inteligencia Artificial que cuida: Google aplica nuevo motor IA a búsquedas sobre crisis personales

Google entiende que este proceso de pandemia ha provocado que la salud emocional del planeta lidie con diversas situaciones. No es extraño ver reacciones en redes sociales, mensajes de texto en grupos o publicaciones efímeras que, de alguna manera, evidencian la falta de soporte en casos de ansiedad y depresión. Ante esto, que se vuelve crítico, la compañía de Mountain View ha propuesto una opción que busca asistir a estos cuadros desde las búsquedas usando Inteligencia Artificial.

Con el desarrollo de MUM (Modelo Unificado Multitarea), el nuevo modelo de IA que complementa a BERT – el sistema IA de interpretación del lenguaje natural -, Google cuenta con una herramienta hasta 1000 veces mejor para interpretar las búsquedas desarrolladas por el usuario en temas de crisis emocional, ansiedad, depresión y suicidio.

“Ahora, podemos detectar de forma automática y más precisa una gama más amplia de búsquedas sobre crisis personales”, añade Google en un comunicado. “MUM es capaz de comprender mejor la intención detrás de las preguntas de las personas para detectar cuando una persona está necesitada. Esto nos ayuda a mostrar de manera más fidedigna información confiable y práctica en el momento adecuado”.

Google y la asistencia en casos de ansiedad y depresión

Para Google, hay varios elementos por considerar en el tema de asistencia desde el buscador. Para empezar, las palabras claves en el historial comienzan a perfilar un patrón que es analizado en poco tiempo por este motor inteligente. Con esta información, Google prioriza información de ayuda en la página de búsqueda para empujar al inicio los números de entidades de ayuda sobre estos temas.

“Uno de los componentes críticos para mostrar la información correcta radica en el momento adecuado. Ahí se ve nuestra capacidad para comprender las consultas de las personas y el significado de sus intenciones. Recordemos que el lenguaje humano es complejo y matizado”, menciona Anne Merrit, Product Manager en Google y encargada de añadir recursos sobre salud mental en el motor de búsqueda. “Aquí es donde nuestra IA puede ser increíblemente útil, pues nuestros sistemas más antiguos tenían limitaciones para comprender las formas en que las personas buscan información personal”.

En el caso de MUM, es capaz de reconocer hasta 75 idiomas distintos y determinar las peculiaridades que se desarrollan en temas de agresión sexual, violencia doméstica, abuso de sustancias y situaciones de crisis.

“Las personas en crisis necesitan información procesable de manera inmediata. En muchas de estas situaciones, tratan de encontrar la información correcta. La rapidez es esencial porque la ventana de tiempo que tienen para buscar ayuda puede limitarse de una manera importante”, subraya Merrit,

SafeSearch: la navegación segura de Google

Junto con esta implementación, los mecanismos de defensa contra contenido impactante o inesperado siguen mejorando sus capacidades para defender la navegación de los menores, incluso cuando las opciones estén desactivadas. Google ahora incluirá a su sistema BERT en este apartado.

Hablamos con Tulsee Doshi, responsable de las áreas de IA centradas en humanos en Google, quien señaló que Google está entrenando a su sistema BERT para identificar consultas explícitas y eliminarlas de los resultados. “Con BERT, podemos degradar el contenido gráfico de manera más confiable hasta en un 30%. Esto, además, ha tenido un impacto positivo en la reducción de contenido explícito asociado a origen étnico, orientación sexual y género”.

La llegada de BERT a SafeSeaerch implica un modo más completo de análisis de resultados en tiempo real, debido a la vasta comprensión del idioma desde el motor IA y su capacidad multitarea.

“Muchos de estos modelos solo pueden desarrollar una clasificación de consultas a la vez, pero con la multitarea de MUM podemos realizar esto en 75 idiomas distintos y escalarlo a nivel global”, sostiene Doshi, al vincular este potencial a las capacidades de comprensión idiomática de BERT, el motor puede actuar rápidamente para desestimar resultados con contenido explicito o inesperado.

Google señaló a NIUSGEEK que espera ver este modelo de asistencia a crisis personales replicado a otras situaciones dentro de la Internet, como la empatía y el bullying en niños y adolescentes. “Los dos temas son increíblemente importantes. Esperamos implementar esas mejoras en los próximos meses; y, a medida que continuamos creciendo y expandiendo nuestro impacto en esta área, queremos pensar en muchos de estos diferentes temas”, añadieron.