Mundo
"Conteúdos suicidas" nas redes sociais geram debate no Reino Unido
O caso de uma adolescente que se enforcou, depois de ter assistido a vídeos sobre suicídio no TikTok, está a gerar polémica no Reino Unido. As entidades reguladoras estão a reacender os apelos para que sejam tomadas medidas sérias contra conteúdos "tóxicos" nas redes sociais.
Adriana Retyte tinha 14 anos, frequentava uma escola privada em Norfolk e sonhava ser jogadora profissional de futebol. Em maio foi encontrada enforcada no quarto e, na última semana, foi revelado que dias antes de acabar com a própria vida assistiu a conteúdos sobre suicídio no TikTok.
O inquérito realizado no Tribunal do Legista de Norfolk, em Norwich, revelou como o algoritmo daquela rede social exibiu mais vídeos de suicídio no feed da adolescente nos dias que antecederam a sua morte, após a mesma ter demonstrado interesse no assunto.
A médica-legista Johanna Thompson foi das primeiras a manifestar-se publicamente contra os "efeitos negativos do conteúdo online" que Adriana tinha visualizado.
Também uma das inspetoras responsáveis pelo caso, Victoria McDowell, afirmou num comunicado que a “análise dos seus hábitos de visualização no TikTok indica que, na semana anterior à sua morte, ela assistiu a vários vídeos relacionados a suicídio."
O algoritmo do TikTok está formatado para analisar o comportamento do utilizador, incluindo gostos, visualizações e partilhas, a fim de identificar padrões de interesse. Com base nessa atividade, a plataforma projeta o tipo de conteúdo com o qual o utilizador tem maior probabilidade de interagir e prioriza material semelhante.
Por isso, Johanna Thompson afirmou que se pode concluir que os conteúdos que viu "podem ter desempenhado um papel significativo na sua decisão de tirar a própria vida".
A rede social reagiu entretanto, lamentando a morte de Adriana, mas defendendo que tem “regras rígidas contra qualquer conteúdo que promova a automutilação”. Segundo a empresa, são utilizadas tecnologias avançadas que detetam e removem conteúdo que viole as diretrizes da comunidade.
O caso levou a diretora-executiva da Ofcom, o órgão regulador do setor de comunicação do Reino Unido, a declarar no parlamento britânico que não é observada um “cultura de segurança” em empresas de social media do género.
“Demoram muito para reconhecer que existem riscos de atividades criminosas, aliciamento de menores e também alguns problemas relacionados à forma como os algoritmos alimentam o conteúdo sobre suicídio e automutilação”, acrescentou Melanie Dawes.
“Simplesmente não há confiança de que consigam limpar os próprios serviços”.
A Fundação Molly Rose (MRF) juntou-se aos apelos e pediu à Ofcom uma investigação sobre o algoritmo do TikTok, acusando o órgão regulador de parecer “indisposto ou incapaz de agir diante desse dano fatal”.
“Três quartos dos adolescentes que ainda veem conteúdo de alto risco relacionado a suicídio, automutilação e depressão viram-no no TikTok. A necessidade de ação é clara, só falta a vontade política para enfrentar as grandes empresas de tecnologia”, disse Andy Burrows, diretor executivo da MRF.
“A Ofcom deve abrir agora mesmo uma investigação sobre o algoritmo do TikTok que está promove conteúdo prejudicial, sem demora. Qualquer coisa menos que isso configura negligência do dever de um órgão regulador.”
Uma pesquisa realizada pela MRF este verão com 1.825 crianças de 21 escolas do Reino Unido revelou que, uma em cada três tinha sido exposta a conteúdo de alto risco relacionado a suicídio, automutilação, depressão ou transtornos alimentares nas principais plataformas de social media. O estudo também constatou que 7 por cento já tinha visto conteúdo que fazia com que pensamentos suicidas "parecessem normais ou atraentes".
O inquérito realizado no Tribunal do Legista de Norfolk, em Norwich, revelou como o algoritmo daquela rede social exibiu mais vídeos de suicídio no feed da adolescente nos dias que antecederam a sua morte, após a mesma ter demonstrado interesse no assunto.
A médica-legista Johanna Thompson foi das primeiras a manifestar-se publicamente contra os "efeitos negativos do conteúdo online" que Adriana tinha visualizado.
Também uma das inspetoras responsáveis pelo caso, Victoria McDowell, afirmou num comunicado que a “análise dos seus hábitos de visualização no TikTok indica que, na semana anterior à sua morte, ela assistiu a vários vídeos relacionados a suicídio."
O algoritmo do TikTok está formatado para analisar o comportamento do utilizador, incluindo gostos, visualizações e partilhas, a fim de identificar padrões de interesse. Com base nessa atividade, a plataforma projeta o tipo de conteúdo com o qual o utilizador tem maior probabilidade de interagir e prioriza material semelhante.
Por isso, Johanna Thompson afirmou que se pode concluir que os conteúdos que viu "podem ter desempenhado um papel significativo na sua decisão de tirar a própria vida".
A rede social reagiu entretanto, lamentando a morte de Adriana, mas defendendo que tem “regras rígidas contra qualquer conteúdo que promova a automutilação”. Segundo a empresa, são utilizadas tecnologias avançadas que detetam e removem conteúdo que viole as diretrizes da comunidade.
O caso levou a diretora-executiva da Ofcom, o órgão regulador do setor de comunicação do Reino Unido, a declarar no parlamento britânico que não é observada um “cultura de segurança” em empresas de social media do género.
“Demoram muito para reconhecer que existem riscos de atividades criminosas, aliciamento de menores e também alguns problemas relacionados à forma como os algoritmos alimentam o conteúdo sobre suicídio e automutilação”, acrescentou Melanie Dawes.
“Simplesmente não há confiança de que consigam limpar os próprios serviços”.
A Fundação Molly Rose (MRF) juntou-se aos apelos e pediu à Ofcom uma investigação sobre o algoritmo do TikTok, acusando o órgão regulador de parecer “indisposto ou incapaz de agir diante desse dano fatal”.
“Três quartos dos adolescentes que ainda veem conteúdo de alto risco relacionado a suicídio, automutilação e depressão viram-no no TikTok. A necessidade de ação é clara, só falta a vontade política para enfrentar as grandes empresas de tecnologia”, disse Andy Burrows, diretor executivo da MRF.
“A Ofcom deve abrir agora mesmo uma investigação sobre o algoritmo do TikTok que está promove conteúdo prejudicial, sem demora. Qualquer coisa menos que isso configura negligência do dever de um órgão regulador.”
Uma pesquisa realizada pela MRF este verão com 1.825 crianças de 21 escolas do Reino Unido revelou que, uma em cada três tinha sido exposta a conteúdo de alto risco relacionado a suicídio, automutilação, depressão ou transtornos alimentares nas principais plataformas de social media. O estudo também constatou que 7 por cento já tinha visto conteúdo que fazia com que pensamentos suicidas "parecessem normais ou atraentes".
