Créditos: Twitch

Twitch introduz recurso de machine learning para lidar com comportamentos suspeitos

Ferramenta será ativada por padrão e customizada de acordo com canais

Twitch está promovendo seus esforços para reduzir comportamentos tóxicos na plataforma, com uma nova ferramenta que usa aprendizado de máquina para detectar pessoas que podem estar tentando violar os termos de uso da plataforma. É a mais recente adição da empresa para combater coisas como discursos de ódio, onde os bate-papos dos streamers são invadidos por trolls enviando mensagens de ódio.

A nova ferramenta, chamada de Detecção de Usuário Suspeito (em tradução livre), pode identificar os usuários como pessoas “prováveis” ou “possíveis” que escaparam de banimentos de um canal. O modelo de aprendizado de máquina que alimenta a ferramenta identifica evasores em potencial avaliando coisas como seu comportamento e características sobre sua conta e compara essas informações com contas que foram banidas de um canal.

Mensagens de "prováveis" evasores não serão enviadas para o bate-papo, mas os streamers e seus mods podem vê-los. Streamers e moderadores podem escolher monitorar um provável evasor de um banimento, que adiciona esse usuário a uma lista de monitoramento e coloca uma mensagem ao lado do nome de um usuário anotando o monitoramento (como mostrado no GIF abaixo), ou bani-lo. Possíveis mensagens sonegadas vão aparecer no chat, e moderadores podem optar por ter aquelas mensagens bloqueadas.

Ativado por padrão

O Twitch diz que vai ativar a detecção de usuário suspeito por padrão, mas os streamers podem ajustar ou desligar a ferramenta se quiserem. Streamers e moderadores também podem selecionar manualmente para monitorar usuários de quem eles suspeitam. A diretora de produto da empresa Alisson Huffman afirma:

- Continua após a publicidade -

Esta ferramenta foi inspirada em grande parte pelo feedback da comunidade em torno da necessidade de melhores maneiras de conter os evasores de banimento.

“Quando estávamos conversando com moderadores sobre seus pontos fracos, ouvimos que pode ser difícil distinguir se um usuário que conversou algo que violava as normas de seu canal era um assediador repetido prejudicial ou apenas um novo espectador que não tinha aprendido ainda sobre os “costumes” do canal. Como tal, desenvolvemos esta ferramenta para dar aos moderadores e criadores mais informações sobre possíveis evasores de banimento, para que eles possam tomar decisões mais eficientes e informadas em seu canal. ”

A detecção de usuário suspeito parece que pode fazer uma diferença no silenciamento de indivíduos odiosos, especialmente se usada em conjunto com os controles introduzidos recentemente que permitem que um streamer exija verificação de telefone ou e-mail para contas que participam de bate-papo. Mas ainda não se sabe o quão eficaz a Detecção de Usuário Suspeito realmente será na prática ou se os evasores de banimento podem encontrar maneiras de contornar a ferramenta.

Aplicativo da Twitch chega ao Nintendo Switch

Aplicativo da Twitch chega ao Nintendo Switch
Já é possível realizar o download do app na loja do aparelho

.....

Está pensando em comprar algum produto online? Conheça a extensão Economize do Adrenaline para Google Chrome. Ela é gratuita e oferece a você comparativo de preços nas principais lojas e cupons para você comprar sempre com o melhor preço. Baixe agora.

Fonte: The Verge
Assuntos
Tags
  • Redator: Mateus Lecchi

    Mateus Lecchi

    Um jogador de carteirinha, consumidor de séries, conteúdo sobre hardware, consoles, smartphones e mais! Engenheiro Civil que se tornou desenvolvedor PHP. Do interior do Espírito Santo, sempre jogando, desenvolvendo. ;)

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.