Crianças a torto e a Direitos

Por medo de atiradores, escolas dos EUA vigiam redes sociais de alunos

Notícia da Veja Brasil de 9 de junho de 2019.

Entre as medidas adotadas está o sistema de reconhecimento facial dos estudantes; ONGs se preocupam com imprecisão da tecnologia, indicando falsos suspeitos

Por Da Redação

O medo de atiradores estimulou a adoção de um sistema de vigilância dos alunos em escolas nos Estados Unidos. Entre as primeiras medidas, estão o monitoramento das redes sociais de adolescentes, para prevenir e identificar comportamentos agressivos.

Em algumas regiões do país, o método já cresceu a ponto de incluir a tecnologia de reconhecimento facial dos suspeitos, o monitoramento das postagens de quem está apenas no entorno das escolas, inclusive os adultos, e a identificação do uso de palavras que podem ser associadas a massacres.

Há empresas que vendem uma “análise psicológica” das postagens de alunos e aplicativos de “inteligência emocional” para avisar os pais sobre as buscas feitas na internet com palavras-chave como “morte”, “matar” ou “armas”.

Se a vigilância de redes sociais já era um assunto controverso, o debate sobre o direito à privacidade ganhou um novo componente na última semana, quando o distrito escolar de Lockport, no Estado de Nova York, anunciou a instalação do projeto de reconhecimento facial dos alunos. A ideia é cruzar os rostos de quem transita pela escola com uma base de dados com informações sobre alunos expulsos e com passagens pela polícia.

Autoridades locais pediram imediatamente que o projeto seja adiado. Os métodos de vigilância têm sido alvo de críticas de especialistas que consideram que os sistemas minam a privacidade dos jovens, a liberdade de expressão e podem criar traumas por possíveis falsas acusações. Os pais também temem o compartilhamento dessas informações com autoridades públicas ou para fins comerciais, já que a coleta de dados é feita por empresas privadas.

Os testes dos sistemas de reconhecimento facial ainda mostram que sua precisão varia de acordo com a cor de pele ou o gênero do rosto analisado. Segundo um professor da rede pública de Massachusetts, Erik Learned-Miller, o sistema, se não for bem testado, pode se tornar tendencioso.

Preconceito velado

E é com isso que Latarndra Strong se preocupa. Mãe de dois adolescentes, de 13 e 15 anos, ela foi informada de que a escola dos filhos, em Orange County, na Carolina do Norte, havia contratado uma empresa para analisar as postagens dos alunos.

“Morte, tiros, assassinato” são palavras que pulam no celular do diretor de uma das escolas que contratou estes serviços, com custo de aproximadamente 2 dólares americanos por aluno. Em alguns casos, o monitoramento das redes cria situações absurdas, como um alerta para postagens inofensivas com variações da palavra morte: é o caso de um alerta gerado a partir as mensagens “eu adoro meu gato e morreria por ele” ou “estresse pode matar”.

“Eles decidem quem será criminalizado. Como mãe, estou preocupada com o que é feito com esses dados”, diz Latarndra. Segundo ela, a escola avisou da contratação do sistema de monitoramento, mas não consultou os pais. “Quero entender os gatilhos que, segundo eles, fazem com que um aluno se torne suspeito.”

A Carolina do Norte é outro estado a adotar o sistema.  A empresa contratada é a Social Sentinel, uma companhia privada presente em distritos escolares de 35 dos 50 Estados americanos. Como ela, outras companhias já se espalharam pelos Estados Unidos. Seu trabalho consiste em analisar o conteúdo postado pelo aluno ou contido em e-mails do servidor da escola para identificar alunos que precisam de ajuda.

A empresa defende a importância de seu trabalho, mencionando uma pesquisa da organização Educators School Safety Network, estimando que 40% das pessoas que machucam a si mesmas ou a outros já expressaram esse desejo nas redes sociais. “É nossa missão identificar essas postagens e dar a nossos clientes a oportunidade de intervir”, informou um porta-voz da empresa.

Segundo a Social Sentinel, a tecnologia é continuamente refinada e o modelo é conservador, para criar um “número mínimo de falsos positivos”. A empresa afirma que não gera dados para outros propósitos, como marketing, e garante não monitorar usuários específicos ou dados privados.

Regulação do sistema

O advogado Brad Shear, especialista em redes sociais, passou a defender jovens rejeitados em universidades em razão de postagens online nos últimos anos. Com dois filhos na escola, ele é crítico do novo sistema de vigilância.

“É preciso haver regulação e lei”, critica ele. “O melhor a fazer é educar as crianças. Há casos de falsos positivos, e essas empresas estão tentando assustar educadores e pais dizendo que precisam disso para se tornarem seguros.” Segundo ele, há casos em que adolescentes postam letras de músicas nas redes sociais e já entram na mira dos alertas.

Em artigo, as pesquisadoras Rachel Levinson-Waldman e Faiza Patel, do Centro de Justiça Brennan, da New York University, apontam que 92% dos adolescentes frequentam redes sociais diariamente e que 24% deles estão conectados quase constantemente.

“Os programas de monitoramento podem funcionar como dispositivos de escuta que registram cada fala e os transmitem aos diretores escolares. Esse escrutínio pode revelar um comportamento de risco que requer intervenção. Mas, com muito mais frequência, também reprimirá a capacidade dos jovens de se expressarem”, afirmam.

O escritório nova-iorquino da Associação Americana para Liberdades Civis (ACLU) tem sido uma das vozes críticas à proposta de reconhecimento facial, sob o argumento de que o sistema de identificação passa aos estudantes a mensagem de que eles são criminosos em potencial e, por isso, precisam ter os rostos escaneados enquanto estudam ou brincam.

“Está claro que o Estado deve intervir e garantir que essas tecnologias imprecisas, preconceituosas e perigosas não sejam impostas a alunos, professores e pais sem a devida consideração de seus direitos”, afirmou Stefanie Coyle, conselheira de educação do NYCLU.

‘Isso só aumenta o estresse’

Ethan Sommers, de 19 anos, entrou para o movimento March For Our Lives depois de ter amigos que foram vítimas de tiroteios em escolas. O grupo foi criado por jovens depois do massacre de Parkland, na Flórida. Para ele, não está claro como o monitoramento de redes sociais ou reconhecimento facial pode tornar o ambiente estudantil mais seguro.

“Achamos que isso não ajuda, porque só aumenta o estresse”, afirma. “Não só falha na proteção, como não contribui com a qualidade da saúde mental dos estudantes, que é a nossa principal preocupação”, afirmou.

Erik Learned-Miller, professor de ciência da computação da Universidade de Massachusetts, tem se dedicado a pesquisas sobre os sistemas de reconhecimento facial. Segundo ele, ainda não há normatização suficiente sobre o tema para fazer com que os benefícios compensem os riscos.

“Se você nunca testou, por exemplo, o equipamento em situações de pouca luz, como sabe se vai funcionar? Os administradores de escolas compram o serviço sem saber nada sobre a tecnologia, as companhias não providenciam essas informações e não há diretrizes claras sobre isso. Não recomendaria às escolas comprarem neste momento uma tecnologia que não está pronta”, afirma Miller, que aponta erros em identificação facial nas suas pesquisas.

Em Nova York, um jovem de 18 anos está processando a Apple por ter sido detido injustamente por meio dos sistemas de monitoramento. Segundo ele, o sistema de reconhecimento facial da loja – que a empresa nega usar – o identificou como suspeito de forma equivocada. A polícia o liberou por entender ser a pessoa errada, mas Ousmane Bah pede uma indenização de 1 bilhão de dólares à empresa por danos morais.

Miller compara os sistemas à venda de remédios controlados. “É preciso passar por um processo para que sejam estipuladas as contraindicações”, afirma. “Qual é o custo do erro? Suponha que um pai entre em uma escola e não seja identificado corretamente, o que acontecerá? Um policial será acionado e vai atirar? Eu não sou anti-indústria, mas tenho visto empresas superestimando a precisão da tecnologia”, afirma o pesquisador.

Em maio, a cidade de São Francisco, na Califórnia, sede das gigantes de tecnologia, aprovou uma lei que proíbe o uso desses programas de reconhecimento facial pela polícia local. A cidade entendeu que o risco aos direitos e liberdades civis “supera seus benefícios”.

Em 2016, um estudo do Centro de Privacidade e Tecnologia da Universidade Georgetown indicava que as bases de dados coletados por agentes públicos reconheciam o rosto de 117 milhões dos mais de 240 milhões de americanos adultos.

(com Estadão Conteúdo)