L'algoritme de Rodets d'Instagram, part del gegant Meta, va aixecar preocupació per la seguretat dels menors. Una investigació de Wall Street Journal revela que seguint certs comptes de joves influencers, l'algoritme va començar a fer-ho suggerir contingut inadequat e sexual, juntament amb anuncis de grans marques. En resum, Instagram mostra contingut per a adults fins i tot a aquells que no ho haurien de fer.
El polèmic algorisme d'Instagram que mostra contingut per a adults (prohibit) fins i tot a menors
La prova, realitzada per Wall Street Journal, que implicava el creació de comptes destinats a seguir a joves influencers com ara gimnastes i animadores, va demostrar que l'algoritme d'Instagram ha començat a proposar contingut per a adults, inclosos vídeos sexuals amb adults i menors, i anuncis de marques conegudes dels EUA.
La investigació va revelar una tendència alarmant: els relats que seguien aquests joves estaven exposats a a barreja preocupant de pornografia i materials que sexualitzaven els nens. Els experts en sistemes de recomanació algorítmica han destacat com aquest contingut "nínxol" pot proporcionar senyals més forts que els d'interès general, empenyent l'algorisme a dirigir contingut inadequat cap als usuaris.
Llegiu també: Es revela el secret de Pulcinella: milions d'usuaris menors d'edat a Instagram
El problema d'agregar contingut per a adults a Instagram era conegut internament i prevenir aquesta propagació requereix canvis significatius als algorismes de recomanació. Tanmateix, els documents de l'empresa ho demostren El personal de seguretat té àmpliament prohibit fer canvis a la plataforma que pot reduir el nombre d'usuaris actius diaris.
En resposta, Meta va dir que està invertint milers de milions en solucions de seguretat, seguretat i idoneïtat de la marca, alhora que admet la necessitat de millores addicionals. Diverses empreses, entre elles Partit Group e Bomble, van suspendre o va reduir la seva publicitat a Reels i altres plataformes Meta després d'aquests descobriments. Altres, com Disney e Ell, estan pressionant Meta perquè eviti aquestes ubicacions d'anuncis i han expressat la seva preocupació l'associació de les seves marques amb aquest contingut.
