Google mejora la detención de reseñas falsas

Google ha compartido detalles sobre el funcionamiento de su sistema de gestión y control de reseñas en Google Maps, donde los usuarios tienen la posibilidad de expresar sus opiniones acerca de diversos establecimientos o servicios, otorgando calificaciones de una a cinco estrellas y lo ha comenzado a revisar a través de un sistema respaldado por inteligencia artificial (IA).

Google informó que ha fortalecido su mecanismo de revisión de reseñas para filtrar y eliminar aquellas que tras el análisis, detecta que puede ser falsa por una seria de criterios analizados.

Con el objetivo de salvaguardar a empresas y negocios ante posibles abusos por parte de usuarios, Google emplea un conjunto de algoritmos de aprendizaje automático, también conocido como ‘machine learning‘. Estos algoritmos analizan las valoraciones de los usuarios relacionadas con sus experiencias en establecimientos o servicios antes de ser publicadas en la plataforma.

Ian Leader, Director de Producto del Grupo y Contenido Generado por el Usuario en Google, explicó en una entrada de blog que, una vez que alguien publica una reseña, esta se envía al sistema de moderación de reseñas de Google para garantizar que no viole ninguna de las políticas establecidas por la plataforma.

Google ya utiliza la Inteligencia artificial para no publicar reseñas falsas

A través del análisis de patrones, Google emplea inteligencia artificial (IA) para determinar la legitimidad del contenido, eliminando la gran mayoría de las reseñas falsas o fraudulentas antes de que sean visibles para el público.

Estas máquinas realizan un análisis exhaustivo de las reseñas, considerando no solo el contenido en sí, sino también factores adicionales como el historial de comportamiento sospechoso de la cuenta desde la cual se escribe la reseña, así como la acumulación de múltiples reseñas en un corto período de tiempo.

Google explica que examinan si un conjunto de cuentas de Google ha dejado reseñas sobre los mismos negocios o si un establecimiento ha recibido numerosas valoraciones de una o cinco estrellas en un lapso breve de tiempo o tienen un comportamiento inusual. Además, se evalúa si ha habido eventos o noticias que puedan haber generado un interés en redes sociales, motivando a usuarios a escribir reseñas falsas.

En caso de que el sistema detecte indicios de actividad sospechosa o contenido ofensivo, automáticamente bloquea las reseñas. Por otro lado, si no se identifican problemas, la reseña se publica en cuestión de segundos.

El trabajo de análisis continúa incluso después de la publicación, ya que Google utiliza su sistema de aprendizaje automático para determinar la permanencia del contenido en la sección de reseñas de un negocio.

La plataforma permite a propietarios y usuarios notificar comentarios inapropiados, los cuales son sometidos a una segunda revisión. Durante este proceso, el sistema puede eliminar las reseñas infractoras y, en casos extremos, suspender cuentas o tomar medidas legales. Los usuarios pueden apelar la retirada de su reseña (serán notificados de ello por e-mail) y pasarán a una nueva revisión por humanos que podría tardar unos dias en darle respuesta. Mientras tanto, la reseña no será publicada pero le llegará un e-mail como este con la decisión:

Para evitar sesgos en la moderación, Google cuenta con un equipo de operadores humanos que trabajan las 24 horas, realizan pruebas de calidad y contribuyen a eliminar cualquier sesgo en los modelos de IA.

La empresa anima tanto a usuarios como a propietarios a denunciar reseñas que violen las políticas, marcándolas como inapropiadas con el símbolo de una bandera roja. Además, Google trabaja de manera proactiva en la identificación de posibles riesgos de abuso, reforzando la protección en lugares asociados con eventos importantes y monitoreando continuamente hasta que el riesgo de abuso disminuye, garantizando la autenticidad de las valoraciones publicadas en Google Maps.