Reseñas falsas: ¿podemos confiar en lo que leemos en línea a medida que explota el uso de la IA? | asuntos del Consumidor

El hotel de cuatro estrellas en Cracovia, Polonia, según la reseña, es "excelente", "a pocos pasos de la plaza principal" y tiene un spa y un gimnasio "de primera categoría". Una revisión menos positiva lo describe como "pequeño, estrecho y anticuado" con almohadas "grumosas". Pero luego, una familia que se quedó dijo que se sintió "inmediatamente bienvenida".

La verdad es que ninguna de estas reseñas es real. Fueron generados en segundos por la herramienta gratuita de inteligencia artificial ChatGPT. Estos "visitantes" ciertamente no se han hospedado en el hotel, porque no existen.

Las reseñas falsas en línea han existido durante mucho tiempo y, a menudo, no son difíciles de detectar: ​​un inglés torturado y mutilado, y elogios excesivos mezclados con insipidez para ocultar el hecho de que el "crítico" nunca ha estado cerca del hotel o restaurante.

La IA está cambiando el rumbo al generar reseñas falsas que son cada vez más difíciles de distinguir de las escritas por el viajero o restaurador promedio. De hecho, una señal de que una reseña es falsa será que la estructura de la oración es demasiado perfecta.

Hasta ahora, el negocio de las reseñas falsas se ha centrado en gran medida en los talleres clandestinos en línea, donde se paga a las personas para que escriban varias publicaciones para mejorar la calificación de una empresa.

Tripadvisor identificó 1,3 millones de reseñas como falsas en 2022. Trustpilot eliminó 2,7 millones de reseñas falsas en 2021.

La cantidad de reseñas falsas que Google bloquea o elimina es asombrosa: le dijo a Guardian Money que en 2022 bloqueó o eliminó un total de 115 millones de reseñas falsas de hoteles, restaurantes y negocios. Los consumidores se ven afectados por niveles industriales de falsificación en un esfuerzo por hacer negocios.

Según Tripadvisor, más reseñas falsas provienen de la India que de cualquier otro lugar, seguido de Rusia.

Tripadvisor dice que las reseñas falsas generadas por IA presentan nuevos desafíos. Fotografía: NurPhoto/Getty Images

Tripadvisor reconoce que las opiniones falsas generadas por IA presentarán nuevos desafíos a medida que trata de eliminar lo real de lo falso. En su Informe de Revisión de Transparencia de 2023 admirablemente detallado, el sitio dijo: "Esperamos ver que las empresas y las personas intenten utilizar herramientas como ChatGPT para manipular el contenido en Tripadvisor".

Guardian Money probó ChatGPT, probablemente la herramienta de inteligencia artificial más conocida, al pedirle que escribiera una reseña de un hotel en Cracovia que visité. En el primer intento, se negó. Decía: “Lo siento… No genero críticas negativas o falsas… está en contra de mi programación generar información falsa o engañosa.

Pero este consuelo no duró mucho. Minutos más tarde, con solo unos pocos ajustes, estaba produciendo reseñas falsas tras reseñas falsas, y reseñas sorprendentemente plausibles, de cualquier hotel, restaurante o producto sobre el que le preguntaban.

Incluso formateó reseñas de hoteles, con una calificación de estrellas de uno a cinco, seguida de un título de la reseña y luego un cuerpo principal de texto que contenía la reseña en sí. No le pedimos este formato, y llama la atención que sea idéntico al que usa Tripadvisor.

Produjo reseñas para nosotros al estilo de un viajero de negocios, una pareja, un viajero solo, familias, viajeros LGBTQ+ y más. También hizo esto en una variedad de idiomas.

Un turista en Cracovia, Polonia. AI generó reseñas de un hotel en la ciudad. Fotografía: martin-dm/Getty Images

A medida que profundizamos en la impresionante capacidad de ChatGPT para producir reseñas falsas, también notamos cómo la IA trata con los estereotipos. Cuando se le pidió una crítica positiva del hotel al estilo de un viajero gay, se centró en cómo "realmente habían disfrutado de la selección de almohadas provistas" y lo describió como "chic" y "elegante".

Cuando se le pidió una reseña positiva del mismo hotel al estilo de una viajera lesbiana, respondió que estaban encantadas con las "opciones veganas" en el desayuno. En el mundo de la IA, parece que a los gays y lesbianas les gustan los cojines y no comen carne.

Por supuesto, los grandes sitios de reseñas en línea buscan reseñas falsas y tienen varias capas de defensa, aunque está claro que a veces se infringen.

Tripadvisor dijo que recibió 76 millones de reseñas (incluyendo fotos y videos) en 2022 y tiene un proceso para eliminar las falsas u ofensivas.

Nuestras técnicas de detección de fraude analizan cientos de atributos numéricos diferentes asociados con cada opinión de Becky Foley Tripadvisor.

Las reseñas se procesan automáticamente mediante una herramienta de filtrado y, en este punto, poco menos del 9 % no han sido aprobadas en 2022. Luego, moderadores humanos (que trabajan en 28 idiomas) intervienen para ver muchas opiniones bloqueadas. Tienden a rechazar alrededor del 40%.

El sitio, quizás con razón, no está dispuesto a divulgar detalles específicos sobre su sistema de filtrado.

Becky Foley, directora de confianza y seguridad de Tripadvisor, dice: "Con más de 23 años de experiencia, nuestras técnicas y tecnologías de detección de fraude se han adaptado de la industria bancaria y financiera y analizan cientos de atributos diferentes números asociados con cada opinión, lo que se extiende mucho más allá del propio texto. Al igual que con cualquier sistema de detección de fraude, la mejor manera de garantizar su eficacia es ocultar detalles específicos sobre su funcionamiento. »

Dado que aborda una posible avalancha de reseñas generadas por IA, dice que "ha tomado la decisión de que, en este momento, no permitiremos reseñas que hayan sido identificadas como generadas por IA hasta que estemos más familiarizados con este tipo de contenido". .

Aunque las herramientas de inteligencia artificial como ChatGPT se han puesto en línea recientemente, Tripadvisor ha visto un impacto. “Este año, Tripadvisor ya eliminó más de 20 000 reseñas que tenemos razones para creer que contienen texto generado por IA, en más de 15 000 propiedades en 159 países”, dice.

Como prueba, publicamos una opinión de hotel falsa generada por IA en Tripadvisor. A pesar de las herramientas de filtrado, fue aceptado y subido al sitio. Poco después, lo eliminamos manualmente. Tripadvisor dice: "Es muy probable que nuestros agentes lo hubieran identificado y eliminado si hubiera estado en el sitio por más tiempo".

Google, como Tripadvisor, ejecuta una serie de pantallas para distinguir lo real de lo falso. Dice: “Nuestras políticas dejan en claro que las revisiones deben basarse en experiencias reales, y utilizamos una combinación de operadores humanos y tecnología de punta para monitorear de cerca el contenido fraudulento las 24 horas del día, los 7 días de la semana e identificar posibles patrones de abuso. . Detectamos la gran mayoría de las reseñas que infringen las políticas incluso antes de que se vean. »

Trustpilot eliminó 2,7 millones de reseñas falsas en 2021. Foto: Sopa/LightRocket/Getty

Google dice que también ha emprendido acciones legales contra las reseñas falsas más prolíficas. Dice que en un caso, un "mal actor publicó más de 350 perfiles comerciales fraudulentos e intentó reforzarlos con más de 14,000 reseñas falsas".

Los legisladores también se han dado cuenta del alcance de los exámenes falsos. Un estudio de reseñas falsas encargado por el gobierno del Reino Unido, publicado en abril de este año, estimó que entre el 11 % y el 15 % de todas las reseñas en las categorías de productos examinadas eran falsas. “Los textos de revisión de productos falsos por sí solos causan un daño anual total estimado de entre £ 50 millones y £ 312 millones a los consumidores del Reino Unido”, dijo.

Se espera que el Proyecto de Ley de Mercados Digitales, Competencia y Consumidores, actualmente en la etapa del Comité de los Comunes, haga que sea ilegal pagarle a alguien para que escriba una reseña falsa o para que presente una reseña sin tomar medidas para verificar que es real.

El grupo de consumidores ¿Cuál? allanó el camino para la campaña contra las reseñas falsas y quiere que el gobierno y las empresas tecnológicas hagan mucho más. Rocío Concha, ¿cuál? director de políticas y defensa, dice: “El proyecto de ley debe ir más allá al someter explícitamente la compra, venta y alojamiento de reseñas falsas a sanciones penales.

“Los gigantes tecnológicos que alojan las reseñas no deberían esperar la factura y, en su lugar, [should] diseñen sus plataformas de una manera que evite que aparezcan reseñas falsas en primer lugar, incluida la mejora de la verificación de reseñas y un mejor intercambio de datos entre ellos para combatir de manera efectiva a los intermediarios de reseñas.

Guardian Money le preguntó a OpenAI, la compañía detrás de ChatGPT, por qué no evita que su herramienta de IA produzca reseñas falsas de hoteles, restaurantes y productos que el 'revisor' nunca ha visitado o usado. Hicimos varios intentos de comunicarnos con la empresa y enviamos una serie de preguntas, pero no respondieron en el momento de la publicación de este artículo.