Contente
- Pegar um ladrão. . .
- Sem erros, sem estresse - seu guia passo a passo para criar software que muda vidas sem destruir sua vida
- Parando a propagação
Fonte: Mast3r / Dreamstime.com
Leve embora:
Os pesquisadores estão recorrendo à IA para combater notícias falsas. Mas isso pode realmente ajudar ou apenas piorará as coisas?
Espera-se que as notícias falsas sejam um grande espinho no lado das próximas eleições presidenciais, sem mencionar seu efeito corrosivo geral em nosso discurso público em geral. Na sociedade conectada de hoje, o discernimento dos fatos da ficção tornou-se cada vez mais difícil, e é por isso que alguns pesquisadores estão começando a se concentrar no poder da inteligência artificial para resolver esse problema.
A esperança, é claro, é que as máquinas, ou algoritmos com mais precisão, sejam melhores que os humanos ao detectar mentiras. Mas isso é uma expectativa realista, ou apenas outro caso de lançar a tecnologia em um problema aparentemente intratável?
Pegar um ladrão. . .
Uma das maneiras pelas quais os cientistas de dados planejam aprimorar a perspicácia da IA nessa área é permitir que ela gere notícias falsas. O Allen Institute for AI da Universidade de Washington desenvolveu e lançou publicamente o Grover, um mecanismo de processamento de linguagem natural projetado para criar histórias falsas em uma ampla variedade de tópicos. Embora isso possa parecer contraproducente a princípio, essa é de fato uma tática de treinamento de IA bastante comum, na qual uma máquina analisa a saída de outra. Dessa maneira, o lado analítico pode ser acelerado muito mais rapidamente do que contar com notícias falsas reais. O instituto alega que Grover já pode operar com uma classificação de precisão de 92%, mas é importante observar que ele é capaz apenas de distinguir entre conteúdo gerado por IA e conteúdo gerado por humanos, o que significa que uma pessoa inteligente ainda pode ocultar uma história falsa passado. (Para saber mais, confira As tecnologias em torno da luta contra notícias falsas.)
Nas mãos certas, é claro, Grover pode avançar rapidamente nosso entendimento de como as notícias falsas são criadas e como elas se espalham, e isso pode ser teoricamente usado para frustrá-las no mundo real. Mas, como o Futurism.com observou recentemente, alguns especialistas que fizeram o teste para o sistema estão alarmados com a eficácia da criação de mentiras críveis e até imitando os estilos de redação de veículos de notícias legítimos, como o Wall Street Journal e o New York. Times.
Mas, como a mentira é um ato inerentemente intuitivo e movido pela emoção, é possível que mesmo as máquinas mais inteligentes, que ainda são movidas por uma lógica fria e dura, possam atingir o nível de entendimento mútuo necessário para identificar uma mentira? Maria Almeida, da Unbabel, observou recentemente que, embora algumas iterações possam ser muito boas nisso, nenhum algoritmo pode esperar alcançar um entendimento humano completo. Isso significa que a IA pode fazer melhorias drásticas na verificação de fatos e na análise comparativa, mas é melhor deixar a chamada final para especialistas treinados.
Ironicamente, no entanto, esse recurso será mais útil na detecção de vídeos falsos profundos que estão começando a circular nas mídias sociais. Com a IA capaz de analisar dados visuais até pixels individuais, será muito mais hábil em detectar imagens alteradas do que palavras e conceitos alterados.
Ainda assim, argumenta Charles Towers-Clark, da Forbes, o problema central das notícias falsas não é que poucas pessoas as estejam criando, mas que muitas pessoas são influenciadas por elas. As pessoas tendem a acreditar no que querem, não no que os fatos os levam a acreditar. Portanto, mesmo que um mecanismo de IA altamente desenvolvido declare que sua crença está errada, as pessoas estarão mais aptas a duvidar da máquina do que elas mesmas.
“Implementar o aprendizado de máquina para combater a disseminação de notícias falsas é admirável”, diz ele, “e é necessário resolver esse problema, pois a confiabilidade dos principais meios de comunicação é questionada. Mas com a disseminação de desinformação composta pelas mídias sociais, a detecção e a revelação das fontes de notícias falsas superam o instinto humano de acreditar no que nos dizem? ”
Sem erros, sem estresse - seu guia passo a passo para criar software que muda vidas sem destruir sua vida
Você não pode melhorar suas habilidades de programação quando ninguém se importa com a qualidade do software.
O verdadeiro desafio, então, não é identificar e desmascarar notícias falsas, mas entender por que elas tendem a se disseminar pelas mídias sociais muito mais rapidamente do que as notícias reais. Em parte, isso se deve à natureza das próprias notícias falsas, que tendem a ser empolgantes e mesquinhas contra o tédio comparativo da realidade. No final, é realista esperar que a tecnologia corrija o que é essencialmente um problema não técnico? (Para saber mais sobre como a IA está mudando a mídia, consulte 5 Avanços da IA na publicação e na mídia.)
Parando a propagação
É por isso que é importante focar a IA no aspecto técnico das notícias falsas, não no aspecto humano, diz Robin Harris, da ZDNet. E, de fato, a maioria dos pesquisadores está treinando IA para identificar coisas como distinguir entre padrões de propagação naturais e artificiais por meio de redes sociais. Métricas importantes, como taxas de árvore de conversão, tempo de retweet e dados gerais de resposta, podem ser usadas para identificar e neutralizar campanhas de desinformação, mesmo que sua fonte esteja oculta sob camadas de subterfúgios digitais. Ao mesmo tempo, a IA pode ser usada para gerenciar outras tecnologias, como blockchain, para manter canais de informações rastreáveis e verificáveis.
O fato é que as notícias falsas não são um fenômeno novo. Do jornalismo estragador do início dos anos 20º Desde o século passado, até a propaganda das civilizações mais antigas, enganar o público é uma tradição consagrada pelo tempo, tanto para governos como para revolucionários. A diferença hoje é que a tecnologia digital democratizou essa capacidade a tal ponto que quase qualquer pessoa pode postar uma mentira e vê-la se espalhar pelo mundo em questão de horas.
Tecnologias como a IA certamente podem ajudar a trazer alguma clareza a essa confusão, mas somente as pessoas podem entender e julgar a verdade completamente.