Personajes creados con inteligencia artificial son utilizados para difundir discursos de odio y propaganda extremista entre menores

Los llamados “videos de frutas” o “frutinovelas” han ganado presencia en plataformas como TikTok mediante personajes animados generados con inteligencia artificial. Aunque inicialmente parecen contenidos dirigidos al público infantil, investigadores han detectado que algunos incorporan violencia, discursos de odio y mensajes de carácter extremista.

La Red Global sobre Extremismo y Tecnología (GNET) alertó sobre el uso de estas producciones para introducir contenido inapropiado entre usuarios jóvenes. La apariencia amigable de frutas como plátanos y fresas permite captar la atención de los menores antes de que las historias incorporen elementos violentos o ideológicos.

De acuerdo con la investigación, algunas de estas producciones incluyen simbología extremista, teorías de conspiración y escenas de violencia explícita. El formato seriado también puede hacer que los menores continúen consumiendo los contenidos y se expongan progresivamente a mensajes cada vez más alejados del entretenimiento infantil.

Los investigadores señalaron que una de las principales preocupaciones es la normalización de la violencia desde edades tempranas. El consumo repetido de este tipo de material podría facilitar que los usuarios jóvenes tengan contacto posteriormente con contenidos audiovisuales más violentos y procesos de radicalización en línea.

El fenómeno también evidencia los retos que enfrentan las plataformas digitales para moderar contenidos generados mediante inteligencia artificial. La rapidez con la que pueden producirse nuevas piezas audiovisuales permite que quienes buscan evadir los sistemas de detección adapten constantemente sus estrategias.