A ChatGPT está sendo usada em testes de um novo sistema voltado à identificação de sinais de extremismo violento entre usuários. A iniciativa, conduzida pela OpenAI, prevê o encaminhamento dessas pessoas para suporte especializado, em um esforço para ampliar a segurança no ambiente digital.
O projeto é desenvolvido em parceria com a startup ThroughLine e busca detectar padrões de comportamento que indiquem risco de radicalização. A proposta é que, ao identificar esses sinais, o sistema direcione o usuário para uma rede de apoio que combina atendimento humano e ferramentas automatizadas.
Tecnologia une IA e suporte humano
Diferente de sistemas tradicionais de moderação, a proposta não se limita a bloquear conteúdos ou contas. O foco está em oferecer suporte ativo, com encaminhamento para serviços especializados capazes de lidar com situações sensíveis.
A tecnologia utiliza interações no próprio chatbot para identificar possíveis riscos, mas, segundo os desenvolvedores, não emprega diretamente dados de treinamento dos modelos principais, com o objetivo de reduzir vieses e aumentar a precisão das análises.
Além disso, a abordagem combina inteligência artificial com intervenção humana, considerada essencial para lidar com contextos complexos como extremismo e saúde mental.
Resposta a pressões por segurança em plataformas digitais
A iniciativa surge em meio ao aumento da pressão sobre empresas de tecnologia para combater conteúdos nocivos e prevenir riscos associados ao uso de plataformas digitais.
Nos últimos anos, o crescimento de ferramentas baseadas em IA, como o ChatGPT, ampliou o debate sobre responsabilidade das empresas na moderação de conteúdos e na proteção de usuários contra desinformação e radicalização.
Especialistas apontam que soluções que vão além da remoção de conteúdo, oferecendo suporte e acompanhamento, podendo representar um novo modelo de atuação para plataformas digitais.
Projeto ainda está em fase de testes
O sistema ainda está em fase experimental e não possui data oficial para lançamento em larga escala. A eficácia da iniciativa dependerá, entre outros fatores, da qualidade das redes de apoio e da capacidade de identificar corretamente os sinais de risco.
Também há preocupações sobre possíveis impactos na privacidade e sobre o equilíbrio entre monitoramento e liberdade de expressão, temas que devem continuar no centro das discussões à medida que a tecnologia evolui.
Fonte: Agência Reuters
