sexta-feira, 10 de fevereiro de 2023

O QUE ESTÁ POR TRÁS DO “CHATGPT”? INTELIGÊNCIA ARTIGIFICAL DA BIG TECH ESTÁ A SERVIÇO DA MANIPULAÇÃO SOCIAL E DO CONTROLE IDEOLÓGICO DA HUMANIDADE

O ChatGPT é, basicamente, um robô virtual (chatbot) lançado por uma empresa satélite da Microsoft, que responde a perguntas variadas, realiza tarefas por escrito, conversa de maneira fluida e inclusive dá conselhos sobre problemas pessoais. Na verdade, o ChatGPT é uma Inteligência Artificial (IA) desenvolvida e controlada pela Big Tech para manipular o conjunto da sociedade e aumentar os ritmos de produção capitalista. As tecnologias de IA atualmente disponíveis são usadas para direcionar e manipular usuários individuais com extrema precisão e eficiência. Pior ainda, essa nova forma de manipulação personalizada pode ser implantada em escala por interesses das grandes corporações e dos governos burgueses para influenciar populações amplas, ou seja, uma verdadeira arma a serviço da Governança Global do Capital Financeiro.

Isso ocorre porque o mecanismo de implantação mais eficiente e eficaz para a manipulação humana orientada por IA é por meio da IA conversacional. E, no ano passado, uma notável tecnologia de IA chamada Large Language Models (LLMs) atingiu rapidamente um alto nível de desenvolvimento. De repente, isso tornou as interações de conversação naturais entre usuários-alvo e software orientado por IA um meio viável de persuasão, coerção e manipulação.

É claro que as tecnologias de IA já estão sendo usadas para impulsionar campanhas de influência em plataformas de mídia social, mas isso é primitivo em comparação com o rumo que a tecnologia está tomando. Isso porque as campanhas atuais, embora descritas como “direcionadas”, são mais análogas à pulverização de chumbo grosso em bandos de pássaros. Essa tática direciona uma enxurrada de propaganda ou desinformação a grupos amplamente definidos, na esperança de que algumas peças de influência penetrem na comunidade, ressoem entre seus membros e se espalhem pelas redes sociais.

Essa tática é extremamente perigosa e provoca danos ao conjunto da humanidade, polarizando comunidades, espalhando falsidades e versões a serviço do grande capital. 

Mas parecerá lento e ineficiente em comparação com a próxima geração de métodos de influência baseados em IA que estão prestes a ser lançados na sociedade.

Nos referimos a sistemas de IA em tempo real projetados para envolver usuários-alvo em interações de conversação e buscar habilmente metas de influência com precisão personalizada. Esses sistemas serão implantados usando termos eufemísticos como Publicidade Conversacional, Marketing Interativo, Porta-vozes Virtuais, Humanos Digitais ou simplesmente AI Chatbots.

Mas como quer que os chamemos, esses sistemas têm vetores aterrorizantes para uso indevido e abuso. Não estamos falando sobre o perigo óbvio de que consumidores desavisados possam confiar no resultado de chatbots que foram treinados em dados crivados de erros e vieses. 

Estamos falando de algo muito mais nefasto – a manipulação deliberada de indivíduos por meio da implantação direcionada de sistemas de IA para conversação orientados por agenda que convencem os usuários por meio de um diálogo interativo convincente.

Em vez de disparar chumbo grosso em populações amplas, esses novos métodos de IA funcionarão mais como “mísseis de busca de calor” que marcam os usuários como alvos individuais e adaptam suas táticas de conversação em tempo real, ajustando-se a cada indivíduo pessoalmente enquanto trabalham para maximizar seu impacto persuasivo.

No centro dessas táticas está a tecnologia relativamente nova dos LLMs, que pode produzir um diálogo humano interativo em tempo real, ao mesmo tempo em que acompanha o fluxo e o contexto da conversa. Conforme popularizado pelo lançamento do ChatGPT em 2022, esses sistemas de IA são treinados em conjuntos de dados tão massivos que não são apenas hábeis em emular a linguagem humana, mas também possuem vastos estoques de conhecimento factual, podem fazer inferências lógicas impressionantes e fornecer a ilusão de senso comum humano.

Quando combinadas com geração de voz em tempo real, essas tecnologias permitirão interações faladas naturais entre humanos e máquinas que são altamente convincentes, aparentemente racionais e surpreendentemente autoritárias.

Claro, não estaremos interagindo com vozes desencarnadas, mas com personas geradas por IA que são visualmente realistas. Isso leva à segunda tecnologia de avanço rápido que contribuirá para o problema de manipulação de IA: humanos digitais. 

Este é o ramo do software de computador destinado a implantar pessoas simuladas fotorrealistas que parecem, soam, se movem e fazem expressões tão autênticas que podem se passar por humanos reais.

Essas simulações podem ser implantadas como porta-vozes interativos que visam os consumidores por meio da computação 2D tradicional por meio de videoconferência e outros layouts planos. Ou, eles podem ser implantados em mundos imersivos tridimensionais usando óculos de realidade misturada (MR).

Embora a geração em tempo real de humanos fotorrealistas parecesse fora de alcance apenas alguns anos atrás, os rápidos avanços no poder de computação, mecanismos gráficos e técnicas de modelagem de IA tornaram os humanos digitais uma tecnologia viável a curto prazo. 

Na verdade, os principais fornecedores de software já estão fornecendo ferramentas para tornar esse recurso amplamente difundido.

Por exemplo, a Unreal lançou recentemente uma ferramenta fácil de usar chamada Metahuman Creator. Isso foi projetado especificamente para permitir a criação de humanos digitais convincentes que podem ser animados em tempo real para interação interativa com os consumidores. Outros fornecedores estão desenvolvendo ferramentas semelhantes.

Quando combinados, humanos digitais e LLMs permitirão um mundo no qual interagimos regularmente com porta-vozes virtuais (VSPs) que parecem, soam e agem como pessoas autênticas.

De fato, um estudo de 2022 realizado por pesquisadores da Lancaster University e da U.C. Berkeley demonstrou que os usuários agora não conseguem distinguir entre rostos humanos autênticos e rostos gerados por IA. Ainda mais preocupante, eles determinaram que os usuários percebiam os rostos gerados pela IA como “mais confiáveis” do que as pessoas reais.

Isso sugere duas tendências muito perigosas para o futuro próximo. Primeiro, podemos esperar envolver sistemas orientados por IA para serem disfarçados de humanos autênticos, e logo não teremos a capacidade de perceber a diferença. Em segundo lugar, é provável que confiemos mais em sistemas de IA disfarçados do que em representantes humanos reais.

Isso é muito perigoso, pois logo nos encontraremos em conversas personalizadas com porta-vozes orientados por IA que são (a) indistinguíveis de humanos autênticos, (b) inspiram mais confiança do que pessoas reais e (c) podem ser implantados por corporações ou estados para perseguir uma agenda de conversação específica, seja para convencer as pessoas a comprar um determinado produto ou acreditar em uma determinada desinformação.

E, se não forem regulados agressivamente, esses sistemas orientados por IA também analisarão emoções em tempo real usando feeds de webcam para processar expressões faciais, movimentos oculares e dilatação da pupila – tudo o que pode ser usado para inferir reações emocionais durante a conversa.

Ao mesmo tempo, esses sistemas de IA processarão inflexões vocais, inferindo mudanças de sentimentos ao longo de uma conversa. Isso significa que um porta-voz virtual implantado para envolver as pessoas em uma conversa influenciada será capaz de adaptar suas táticas com base em como elas respondem a cada palavra falada, detectando quais estratégias de influência estão funcionando e quais não estão. O potencial de manipulação predatória por meio da IA conversacional é extremo.

Ao longo dos anos, as pessoas rejeitaram preocupações sobre a IA conversacional, dizendo-me que os vendedores humanos fazem a mesma coisa lendo emoções e ajustando táticas – portanto, isso não deve ser considerado uma nova ameaça.

Isso é incorreto por vários motivos. Primeiro, esses sistemas de IA detectarão reações que nenhum vendedor humano poderia perceber. Por exemplo, os sistemas de IA podem detectar não apenas expressões faciais, mas “microexpressões” que são muito rápidas ou sutis para um observador humano perceber, mas que indicam reações emocionais – incluindo reações que o usuário não tem consciência de expressar ou mesmo sentir.

Da mesma forma, os sistemas de IA podem ler mudanças sutis na aparência conhecidas como “padrões de fluxo sanguíneo” em rostos que indicam mudanças emocionais que nenhum ser humano poderia detectar. E, finalmente, os sistemas de IA podem rastrear mudanças sutis no tamanho da pupila e nos movimentos dos olhos e extrair pistas sobre envolvimento, entusiasmo e outros sentimentos internos privados. 

A IA Conversacional será muito mais perspicaz e invasivo do que interagir com qualquer representante humano. A IA Conversacional também será muito mais estratégica na elaboração de um discurso verbal personalizado. Isso ocorre porque esses sistemas provavelmente serão implantados por grandes plataformas on-line que possuem perfis de dados extensos sobre os interesses, pontos de vista, antecedentes e quaisquer outros detalhes de uma pessoa que foram compilados ao longo do tempo.

Isso significa que, quando engajadas por um sistema de IA Conversacional que parece, soa e age como um representante humano, as pessoas estão interagindo com uma plataforma que as conhece melhor do que qualquer humano faria. Além disso, ele irá compilar um banco de dados de como eles reagiram durante interações de conversa anteriores, rastreando quais táticas persuasivas foram eficazes neles e quais táticas não foram.

Em outras palavras, os sistemas de IA Conversacional não se adaptarão apenas às reações emocionais imediatas, mas também aos traços comportamentais ao longo de dias, semanas e anos. Eles podem aprender como atraí-lo para uma conversa, orientá-lo a aceitar novas ideias, apertar seus botões para irritá-lo e, finalmente, levá-lo a comprar produtos de que não precisa e serviços que não deseja. Eles também podem encorajá-lo a acreditar em desinformações que você normalmente perceberia serem absurdas. Isso é extremamente perigoso.

Na verdade, o perigo interativo da IA Conversacional pode ser muito pior do que qualquer coisa com a qual lidamos no mundo da promoção, propaganda ou persuasão usando a mídia tradicional ou social. Por esse motivo, acredito que os reguladores devem se concentrar nessa questão imediatamente, pois a implantação de sistemas perigosos pode ocorrer em breve.

Não se trata apenas de espalhar conteúdo perigoso – trata-se de permitir a manipulação humana personalizada em grande escala. Afinal, os sistemas de IA já podem derrotar os melhores jogadores de xadrez e pôquer do mundo. Que chance uma pessoa comum tem de resistir a ser manipulada por uma campanha de influência conversacional que tem acesso à sua história pessoal, processa suas emoções em tempo real e ajusta suas táticas com precisão orientada por IA? Sem chance alguma..

Por fim, a AI serve para manipular também o mercado de ações. O erro do Google com 'concorrente' do ChatGPT que provocou perdas de US$ 100 bi em ações. Um anúncio projetado para exibir o novo bot de IA da emprea mostrou que ele respondia a uma pergunta de forma incorreta. As ações da Alphabet, controladora do Google, caíram mais de 7% na quarta-feira (8/2), o que derrubou o valor de mercado da empresa em US$ 100 bilhões (R$ 520 bilhões).

O bot conhecido como Bard foi divulgado no Twitter na segunda-feira (6/2). No anúncio, a IA foi questionada sobre o que dizer a uma criança de nove anos sobre as descobertas do Telescópio Espacial James Webb.

O Bard afirmou que o telescópio foi o primeiro a tirar fotos de um planeta fora do Sistema Solar, quando na verdade esse marco foi realizado pelo telescópio European Very Large em 2004 — um erro rapidamente notado pelos astrônomos nas redes sociais.

Os investidores também ficaram desapontados com uma apresentação que a empresa fez sobre os planos de implantar inteligência artificial em alguns produtos.

O Google está sob pressão desde o final do ano passado, quando a OpenAI, apoiada pela Microsoft, revelou o novo software ChatGPT. Ele rapidamente se tornou um sucesso viral pela facilidade que tem de passar nos testes de escola, compor letras de músicas e responder a outras perguntas.

A Microsoft disse nesta semana que uma nova versão de seu mecanismo de busca Bing, que ficou para trás do Google por anos (o Google responde a 90% das buscas realizadas na internet enquanto o Bing tem apenas 3%), usará a tecnologia ChatGPT de uma forma ainda mais avançada.

No mundo real, no mês mês passado, a Alphabet, controladora do Google, cortou 12 mil empregos — cerca de 6% da força de trabalho em todo o mundo — em meio a uma onda de demissões que se abateu sobre vários gigantes da tecnologia, devido ao aumento dos ritmos de produção oriundos da própria IA. Essa é a verdadeira face do capitalismo no mundo da luta de classes!