A Meta le gustaría presentar su próximo verificador de datos: uno que detectará mentiras, escribirá correcciones convincentes y advertirá a otros sobre contenido engañoso.
Eres tú.
Mark Zuckerberg, director ejecutivo de Meta, anunció el martes que pondría fin a gran parte de los esfuerzos de moderación de la compañía, como la verificación de datos por parte de terceros y las restricciones de contenido. En cambio, dijo, la compañía entregará tareas de verificación de datos a los usuarios cotidianos bajo un modelo llamado Notas de la comunidad, que fue popularizado por X y permite a los usuarios dejar una verificación de hechos o una corrección en una publicación en las redes sociales.
El anuncio marca el fin de una era de moderación de contenido y la adopción de pautas más flexibles que incluso Zuckerberg reconoció que aumentarían la cantidad de contenido falso y engañoso. en la red social más grande del mundo.
“Creo que será un fracaso espectacular”, dijo Alex Mahadevan, director de un programa de alfabetización mediática en el Instituto Poynter llamado MediaWise, que ha estudiado las calificaciones de la comunidad y ahora no tiene responsabilidad por nada de lo que se diga. Pueden culpar a los usuarios. ellos mismos.
Semejante cambio habría sido inimaginable después de las elecciones presidenciales de 2016 o incluso de 2020, cuando las empresas de redes sociales se veían a sí mismas como guerreros reacios en la primera línea de una guerra contra la desinformación. Las falsedades generalizadas durante las elecciones presidenciales de 2016 provocaron una reacción pública y un debate interno dentro de las empresas de redes sociales sobre su papel en la difusión de las llamadas “noticias falsas”.
Las empresas respondieron invirtiendo millones en esfuerzos de moderación de contenido, pagando a verificadores de datos externos, creando algoritmos complejos para restringir el contenido tóxico y emitiendo una serie de etiquetas de advertencia para frenar la difusión de mentiras: medidas consideradas necesarias para restaurar la confianza del público.
Los esfuerzos funcionaron hasta cierto punto: las etiquetas de verificación de hechos fueron efectivas para reducir la creencia en mentiras, encontraron los investigadores, aunque fueron menos efectivas entre los estadounidenses conservadores. Pero esos esfuerzos también convirtieron a las plataformas, y a Zuckerberg en particular, en objetivos políticos de Trump y sus aliados, quienes dijeron que la moderación de contenido era nada menos que censura.
Hoy, el entorno político ha cambiado. Con Trump a punto de tomar el control de la Casa Blanca y las agencias reguladoras que supervisan Meta, Zuckerberg decidió reparar su relación con Trump, cenando en Mar-a-Lago, y agregando un aliado de Trump a la junta directiva de Meta. y donar 1 millón de dólares al fondo de inauguración de Trump.
“La reciente elección también parece ser un cambio cultural hacia una nueva priorización del discurso”, dijo Zuckerberg en un video anunciando los cambios de moderación.
La apuesta de Zuckerberg de utilizar las Notas de la comunidad para reemplazar a los verificadores de datos profesionales se inspiró en un experimento similar en X que permitió a Elon Musk, su propietario multimillonario, subcontratar la verificación de datos de la empresa a los usuarios.
X ahora pide a los usuarios cotidianos que detecten mentiras y escriban correcciones o agreguen información adicional a las publicaciones en las redes sociales. Se desconocen los detalles exactos del programa Meta, pero en X, las notas inicialmente solo son visibles para los usuarios que se registran en el programa Community Notes. Una vez que reciben suficientes votos que los consideran valiosos, se agregan a la publicación en las redes sociales para que todos los vean.
“El sueño de una plataforma de medios sociales es una moderación totalmente automatizada por la que no tienen que asumir responsabilidad y, en segundo lugar, por la que no tienen que pagarle a nadie”, dijo el Sr. Mahadevan, director de MediaWise. “Así que Community Notes es el sueño absoluto de estas personas: básicamente intentaron diseñar un sistema que automatizara la verificación de datos. »
Musk, otro aliado de Trump, fue uno de los primeros defensores de las Notas Comunitarias. Rápidamente elevó el programa después de despedir a la mayor parte del equipo de confianza y seguridad de la empresa.
Los estudios han demostrado que Community Notes es eficaz para disipar algunas mentiras virales. Los investigadores encontraron que este enfoque funciona mejor para temas sobre los que existe un amplio consenso, como la información errónea sobre las vacunas Covid.
En este caso, las notas “surgieron como una solución innovadora, que proporciona información de salud precisa y creíble”, dijo John W. Ayers, subdirector de innovación de la División de Enfermedades Infecciosas y Salud Pública de la Universidad de California en San Diego. Facultad de Medicina, que escribió un informe en abril sobre el tema.
Pero los usuarios con diferentes opiniones políticas deben aceptar la verificación de datos antes de ser agregados públicamente a una publicación, lo que significa que las publicaciones engañosas sobre temas políticamente divisivos a menudo no se verifican. MediaWise descubrió que menos del 10% de las notas comunitarias escritas por los usuarios terminan publicadas en publicaciones ofensivas. Las cifras son aún más bajas en temas delicados como la inmigración y el aborto.
Los investigadores han descubierto que la mayoría de las publicaciones sobre
Desde su debut en 2021, el programa ha despertado el interés de otras plataformas. YouTube anunció el año pasado que estaba lanzando un proyecto piloto que permitiría a los usuarios enviar calificaciones que aparecerán debajo de videos engañosos. La utilidad de estas verificaciones de datos aún está siendo evaluada por evaluadores externos, dijo YouTube en una publicación de blog.
Las herramientas de moderación de contenido existentes en Meta parecen abrumadas por la avalancha de mentiras y contenido engañoso, pero los investigadores consideran que las intervenciones son bastante efectivas. Un estudio publicado el año pasado en la revista Nature Human Behavior mostró que las etiquetas de advertencia, como las utilizadas por Facebook para advertir a los usuarios sobre información falsa, redujeron la creencia en falsedades en un 28 por ciento y redujeron la frecuencia de compartir contenido en un 25 por ciento. Los investigadores descubrieron que los usuarios de derecha desconfiaban significativamente de las verificaciones de datos, pero las intervenciones siguieron siendo efectivas para reducir su creencia en contenido falso.
“Todas las investigaciones muestran que cuantos más obstáculos hay, más fricción hay en una plataforma y menos difusión de información de baja calidad”, dijo Claire Wardle, profesora asociada de comunicaciones en la Universidad de Cornell.
Los investigadores creen que la verificación de datos comunitaria es eficaz cuando se combina con esfuerzos internos de moderación de contenido. Pero el enfoque de no intervención de Meta podría resultar arriesgado.
“El enfoque comunitario es sólo una pieza del rompecabezas”, afirmó Valerie Wirtschafter, investigadora de la Brookings Institution que ha estudiado las Notas Comunitarias. “Pero no puede ser lo único, y ciertamente no puede implementarse simplemente como una solución general y no a medida”.