Nudes falsos: como proteger jovens dos perigos do mal uso da inteligência artificial

Flavia Moraes (*)

Episódios recentes de uso indevido de ferramentas de inteligência artificial entre alunos de escolas de elite brasileira suscitaram bastante discussões acerca do papel dos pais e das escolas nesse tipo de situação. Qual seria a responsabilidade de cada um? Até que ponto os pais conseguem ter controle sobre ações dos filhos, em especial, em se tratando de adolescentes? Qual o dever da escola em ensinar sobre essas novas tecnologias e suas consequências? Resumidamente, a grande pergunta é sobre o que podemos fazer para prevenir acontecimentos como esses.

Não há dúvidas de que precisamos conversar com crianças e adolescentes sobre os perigos dessas novas tecnologias. Tanto pais quanto escola. Mas, ainda que as ferramentas tenham mudado, me pergunto se as questões mais fundamentais mudaram. Um dos contos mais famosos ensinava que não devemos falar com estranhos, já dizia a mãe da Chapeuzinho Vermelho. Naquele tempo, os estranhos eram somente pessoas que tinham contato físico com as crianças. Agora, a abordagem pode ser feita virtualmente. Então a tecnologia mudou, mas o princípio se mantém o mesmo.

No caso particular das fotos que foram adulteradas de modo a produzir nudes falsos a partir de fotos de Instagram, é verdade que o recurso é novo, mas os princípios são mais velhos que a avó da Chapeuzinho Vermelho. Despir uma pessoa sem seu consentimento sempre foi errado. Expor seu corpo, pior ainda. Acredito que se falássemos mais sobre as questões humanas, precisaríamos nos preocupar menos com as questões tecnológicas. Se houvesse um entendimento real de respeito ao outro, em especial, respeito às mulheres, nada disso teria acontecido. Não adianta culpabilizar a ferramenta de edição de fotos nem a ferramenta de compartilhamento e justificar dizendo que “é tudo é muito novo”. Pois para mim é tudo muito velho.

Precisamos recuperar o diálogo dentro de casa. Esse sim deve ser encarado como o grande e o maior perigo dessas novas tecnologias e das redes sociais. O distanciamento entre pais e filhos. No momento que a conexão falha, nada mais funciona. Totalmente análogo à conexão da internet. Quando a internet cai, não conseguimos mandar nem receber e-mails nem acessar nossos arquivos pessoais. Engana-se quem acha que a solução está tão somente na instalação de aplicativos de controle parental. Eles são muito válidos sim. Mas não são suficientes. Precisamos restaurar as conexões humanas dentro de casa.

A escola pode colaborar reforçando em sala de aula o desenvolvimento de competências socioemocionais. Precisamos falar sobre empatia e buscar atividades que ajudem a flexibilizar o olhar para perceber o mundo a partir do outro. Precisamos desenvolver melhor nossa escuta ativa, nossa comunicação assertiva, nosso pensamento crítico e nossa capacidade de tomar boas decisões, para citar algumas habilidades importantes para ajudar a construir essas conexões no ambiente escolar e a partir delas, moldar comportamentos que reflitam uma maior responsabilidade sobre si mesmo e sobre o impacto de suas ações sobre o outro.

No entanto, não adianta cair na solução fácil de transferir a responsabilidade para a escola. Nem de culpar as novas tecnologias, pois o problema não está na tecnologia, mas sim no uso que se faz dela. Os recursos mudaram, mas os princípios que norteiam os comportamentos, não. Não podemos datar a falta de empatia com os avanços da inteligência artificial. Finalmente, não podemos esquecer o poder dos pais em nutrir indivíduos emocionalmente saudáveis. Aplicativos de controle dos usos do celular podem ficar cada vez mais sofisticados. Mas nunca vão resolver o problema de pessoas se divertirem em submeter outros a situações constrangedoras.

(*) Flavia Moraes – Professora especialista em Ciência de Dados e de Programação Estatística, tem se destacado na aplicação de técnicas de Data Mining para produzir avaliações socioemocionais baseadas em dados através do uso da tecnologia, em contraposição às técnicas tradicionais baseadas no preenchimento de questionários de autoavaliação. Foi pesquisadora visitante do Departamento de Estatística de Berkeley, consultora do Banco Mundial, economista da Área de Gestão de Risco do BNDES e atualmente é professora dos cursos de graduação e de pós-graduação do IBMEC. É coautora do livro “Soft Skills Teens” (Literare Books International).

Débora Luz
Assessora de Comunicação