Compartilhando fotos de seus filhos? Talvez não depois de assistir a este anúncio deepfake

Uma nova campanha publicitária em vídeo gerada por IA, que acumula milhões de visualizações nas redes sociais, pode fazer com que muitos pais reconsiderem as informações que partilham publicamente sobre os seus filhos.

O vídeo da Deutsche Telekom utiliza a mais recente tecnologia de inteligência artificial para envelhecer virtualmente uma criança de 9 anos a que chamam Ella, interpretada por um ator, a fim de ilustrar como a pegada digital de uma criança pode ser potencialmente utilizada indevidamente para prejudicar as suas vidas.

“Eu sei que para vocês essas fotos são apenas memórias, mas para outros são dados”, diz Ella, gerada por IA, ao casal que interpreta seus pais em um experimento social encenado. "E para mim, talvez o início de um futuro horrível."

Os pais de Ella no vídeo, também interpretados por atores, são descritos como frequentemente postando sobre sua vida online, compartilhando momentos despreocupados, sem saber do dano potencial que isso poderia causar a ela no futuro.

Embora o vídeo seja falso, alguns especialistas dizem que sua mensagem de advertência é muito real.

“Depois que uma imagem é compartilhada online, pode ser difícil controlar onde ela vai parar”, explicou a Dra. Rebecca Portnoff, diretora de ciência de dados da Thorn, uma organização sem fins lucrativos que combate a propagação do abuso sexual infantil online, em entrevista à ABC. Notícias.

A campanha documenta os vários perigos potenciais da partilha excessiva de dados dos seus filhos, desde o bullying online ao roubo de identidade e à criação de material de abuso sexual infantil, ou CSAM.

“Os malfeitores usam uma variedade de tecnologias e serviços de manipulação de conteúdo para alterar fotos e vídeos benignos, geralmente da conta de uma criança nas redes sociais, ou na web aberta, para sexualizar esse conteúdo”, acrescentou Portnoff.

Embora estes perigos tenham sido documentados no passado, os riscos são exacerbados pela crescente ascensão e acessibilidade da IA. Combinado com uma grande quantidade de dados disponíveis publicamente, isso dá aos criminosos mais conteúdo para trabalhar.

"Compartilhamento" é um termo às vezes usado para se referir aos pais que compartilham conteúdo sobre seus filhos online. É uma maneira fácil e acessível para os pais se conectarem, explicaram especialistas do Boston Children's Digital Wellness Lab que estudaram os impactos potenciais do compartilhamento.

Esses especialistas destacaram uma estimativa do Barclays Bank de que, até 2030, 7,4 milhões de incidentes de fraude de identidade por ano poderão estar ligados à partilha excessiva de informações pessoais online pelos pais.

Conforme ilustrado na campanha da Deutsche Telekom, a IA generativa está a tornar possível criar réplicas credíveis da imagem do seu filho, da voz à figura.

A campanha também detalha como os algoritmos de IA podem identificar e coletar automaticamente imagens de crianças e como podem ser usados ​​para criar perfis de crianças que podem ser usados ​​para fins publicitários ou até mesmo para criar conteúdo pornográfico.

Especialistas como Portnoff dizem que a IA está tornando mais fácil para os predadores criarem material realista a partir de imagens disponíveis publicamente ou criarem material inteiramente novo.

Ao mesmo tempo, organizações como a Thorn também desenvolveram algoritmos de aprendizado de máquina para construir ferramentas que detectem, removam e relatem CSAM.

“À medida que o mundo das mídias sociais continua a evoluir, os pais podem se esforçar para encontrar um equilíbrio entre conectar-se com amigos e familiares e respeitar as crianças como indivíduos que terão que lidar com as consequências de uma vida vivida on-line”, recomendaram especialistas do Boston Children’s Digital. Laboratório de bem-estar.

Quanto à forma como os pais podem encontrar esse equilíbrio, partilhar fotos e conteúdo apenas em álbuns privados com familiares e amigos e não publicamente é uma forma de partilhar, salvaguardando ao mesmo tempo a privacidade do seu filho e minimizando os riscos.

Portnoff também deu algumas sugestões sobre como as famílias podem educar as crianças sobre segurança online.

“Os pais podem conversar cedo e frequentemente com seus filhos sobre segurança online e promover um ambiente aberto e livre de julgamento em casa. Eles podem trabalhar para compreender os aplicativos, redes sociais e serviços online que seus filhos usam, bem como quais são os controles de privacidade. disponíveis - e então utilizar esses controles de privacidade", disse ela. "É importante educar as crianças sobre a segurança online, incluindo por que é importante evitar o compartilhamento de dados pessoais e... a permanência do que é compartilhado online."