Para evitar invadir
privacidade dos usuários, porém, apenas um em cada 10 suspeitos são detectados
por softwares de segurança
SAN FRANCISCO, Estados
Unidos (Reuters) - Em 9 de março, um software do Facebook registrou algo de
suspeito. Um homem com pouco mais de 30 anos estava conversando com uma menina
de 13 anos do sul da Flórida, e planejava um encontro com ela na saída do
colégio, no dia seguinte.
Facebook é um dos sites
que usam tecnologia para detectar conversas suspeitas entre adultos e
adolescentes
A extensa mas pouco
conhecida tecnologia do Facebook para filtrar conversas e mensagens em busca
automática de atividade criminosa encaminhou um alerta sobre o diálogo a
funcionários da companhia, que rapidamente chamaram a polícia.
Policiais assumiram o
controle do computador da adolescente e detiveram o homem no dia seguinte, diz
Jeffrey Duncan, agente do departamento de polícia da Flórida. O suposto
predador se declarou inocente de múltiplas acusações de solicitar favores
sexuais a uma menor de idade.
"A maneira e a
terminologia do contato deles conosco nos propiciou a capacidade de reagir o
mais rápido possível", disse um dos diversos policiais entrevistados que
elogiaram o Facebook por dar origem a esse tipo de investigação.
O Facebook está entre as
diversas empresas que empregam uma combinação de novas tecnologias e vigilância
humana para conter a ação dos predadores sexuais. Esses esforços normalmente
começam por meio de recursos de filtragem automatizada de linguagem e trocas de
informações inapropriadas, e se estendem ao uso de fichas de pedófilos
condenados e registros sobre suas conversas no site para ensinar ao software o
que procurar.
Mas mesmo que agora
existam técnicas defensivas, e que elas sejam eficientes, seu uso pode ser
caro. Elas também podem alienar partes da audiência de um site -especialmente
os adolescentes, que desejam maior liberdade de expressão. Embora muitos dos
principais sites que atendem a crianças sejam bastante vigilantes, o mesmo não
ser dito sobre a ampla gama de opções online para os jovens dos 13 aos 18 anos.
"Existem companhias
que estão fazendo um ótimo trabalho, trabalhando no limite de suas
disponibilidades", diz Brooke Donahue, agente especial encarregada de uma
equipe da polícia federal dos EUA (FBI) que combate predadores na Internet e
pornografia infantil. "Já outras empresas se preocupam mais com o
lucro."
Restrições para menores
Os sites dirigidos a
crianças com menos de 13 anos são muito diferentes daqueles que atendem a
grandes audiências de adolescentes.
Sob uma lei de proteção à
privacidade das crianças na internet dos EUA, adotada em 1998, os sites
direcionados a crianças de 12 anos ou menos devem obter consentimento
reconhecido dos pais antes de recolherem dados sobre as crianças. Alguns sites
vão bem além: o Club Penguin, da Disney oferece a opção de restringir as crianças
a chats filtrados, que evitam palavras censuradas, ou a chats que contenham
apenas vocabulário pré-aprovado pela companhia.
O uso de filtros e de
moderadores é essencial para uma experiência limpa, disse Claire Quinn, gerente
de segurança de um site dirigido a crianças e adolescentes, o WeeWorld. Mas os
programas e pessoal custam dinheiro e podem reduzir o faturamento publicitário.
"Você pode perder
alguns de seus usuários mais ousados, e a perda de tráfego pode gerar perda de
receita", disse Quinn. "É preciso estar preparado para aceitar essas
perdas."
Não existem motivos
jurídicos ou técnicos para que companhias com grandes audiências adolescentes,
como o Facebook ou o Habbo, não façam o mesmo que a Disney ou o WeeWorld.
De uma perspectiva de
negócios, porém, há motivos fortes para adotar um padrão menos restritivo, a
começar pelas expectativas adolescentes de maior liberdade de expressão, à
medida que os jovens amadurecem. Se eles não encontram o que desejam em um
site, vão procurar em outro lugar.
Quanto mais frouxa for a
filtragem, maior a necessidade de ferramentas sofisticadas de monitoração, como
as empregadas pelo Facebook e as oferecidas por companhias independentes como a
britânica Crisp Thinking, que presta serviços à Lego, Electronic Arts e à
divisão de entretenimento online da Sony, entre outros.
Além de bloquear palavras
proibidas e sequências de números que poderiam representar telefones, a Crisp
tem indicadores de alerta em chats baseados em múltiplas categorias de
informação, entre as quais o uso de palavras de baixo calão, divulgação de
informações de identidade pessoal ou tentativas de extrair informações.
Fatores como um grande
número de mensagens não respondidas também são computados, porque se correlacionam
tanto com esforços de spam quanto de busca de informações pessoais por
predadores. O conteúdo das conversações de pedófilos condenados também é levado
em conta.
Quando uma conversa atinge
placar elevado, ela recebe um alerta codificado por cores, e os alertas
vermelhos requerem resposta imediata dos moderadores.
Os arquivos do Facebook
também usam análise de relacionamento e arquivos de chats reais que precederam
agressões sexuais, disse o vice-presidente de segurança da empresa, Joe
Sullivan, à Reuters, em seus comentários mais expansivos sobre o tema até o
momento.
Como a maioria de seus
rivais, o Facebook em geral evita discutir suas práticas de segurança para não
causar susto, porque o sistema não apanha muitos dos predadores, e a fim de
evitar questionamentos quanto à privacidade dos usuários. Os usuários poderiam
se incomodar com a filtragem intensiva que suas conversações recebem, pelo
menos por parte de softwares.
Um em cada 10
Em parte por causa de seu
tamanho, o Facebook depende mais de tais tecnologias que alguns outros sites.
"Nunca quisemos criar um ambiente em que temos funcionários olhando
comunicações privadas, então é realmente importante que usemos uma tecnologia
que tem um índice muito baixo de falsos positivos", disse Sullivan. Além
disso, o Facebook não se intromete profundamente no que acredita se tratar de
relacionamentos pré-existentes.
Uma baixa taxa de falsos
positivos, porém, também significa que muitas comunicações perigosas passam sem
ser detectadas. Alguns adultos usaram o Facebook para contatar dezenas de
menores antes de atacá-los, para depois serem identificados por suas vítimas ou
pais das vítimas, mostram registros judiciais nos EUA.
"Eu creio que para
cada um que prendemos, 10 outros passam (sem ser detectados) pelo
sistema", disse Duncan, do departamento de polícia da Flórida com relação
ao Facebook e outras empresas.
Outro pilar na estratégia
do Facebook é limitar a interação dos menores de 18 anos com o site e tornar
difícil para adultos encontrá-los. Menores não aparecem em buscas públicas,
somente amigos de amigos podem mandar mensagem a eles e somente amigos podem
iniciar uma conversa com eles na rede social.
Fonte: IG
Artigo Anterior