[DIÁRIOS DA IA] O desafio dos vieses na Era da Informação

por | |

Estamos prontos para abrir mão de certos aspectos do controle humano em nome da eficiência algorítmica? Como garantir que os algoritmos não perpetuem vieses existentes nos dados?  / Imagem: DALL-E/SC Inova


[16.12.2024]


Por Eduardo Barbosa, CEO da Brognoli Imóveis e um dos responsáveis pelo Conselho Mudando o Jogo (CMJ) em SC e RS. Escreve sobre inteligência artificial no ambiente corporativo na série “Diários de IA”. 

A tomada de decisão humana, mesmo em cenários bem informados, é frequentemente prejudicada por vieses cognitivos. Esses atalhos mentais, descritos por Daniel Kahneman como parte do Sistema 1 (rápido e intuitivo), são úteis em algumas situações, mas podem ser desastrosos em contextos estratégicos. 

O “Sistema 3”, baseado em inteligência artificial (IA), surge como um complemento necessário para lidar com essas vieses e heurísticas (procedimento mental que ajuda a encontrar respostas adequadas, embora várias vezes imperfeitas, para perguntas difíceis) que impactam na performance e eficiência das empresas. Ele não substitui a cognição humana, mas a expande, usando algoritmos para processar dados de forma imparcial, identificar padrões e fornecer recomendações otimizadas. 

Com tecnologias como sistemas de multiagentes, engenharia de prompts, entre outros, o Sistema 3 já está ajudando empresas e indivíduos a superar vieses como ancoragem, confirmação e excesso de confiança.

VIESES COGNITIVOS E O PAPEL DO SISTEMA 3

1. Viés da Ancoragem: como o Sistema 3 recalibra decisões

O viés da ancoragem ocorre quando damos peso excessivo à primeira informação recebida, mesmo que seja irrelevante. Por exemplo, ao avaliar o preço de um imóvel, os compradores muitas vezes baseiam suas decisões no preço inicial pedido pelo vendedor, ignorando análises objetivas do mercado.

Solução pelo Sistema 3: Ferramentas como sistemas preditivos baseados em IA corrigem esse viés ao analisar grandes volumes de dados históricos e do mercado em tempo real

  • Exemplo Prático: Plataformas como a Zillow, nos EUA, usam IA para estimar o valor justo de propriedades, considerando fatores como localização, histórico de vendas e tendências econômicas, evitando decisões baseadas em ancoragens subjetivas.

2. Viés de Confirmação: IA para expandir perspectivas

O viés de confirmação nos leva a buscar informações que confirmem nossas crenças existentes, ignorando dados conflitantes. Esse viés é particularmente prejudicial em decisões estratégicas, como a escolha de uma nova linha de produtos.

Solução pelo Sistema 3:Sistemas de multiagentes, processam informações contraditórias e fornecem uma visão equilibrada, ponderando dados de diversas fontes.

  • Exemplo Prático: A ferramenta IBM Watson é usada em gestão de saúde para integrar diferentes estudos clínicos e sugerir tratamentos que, de outra forma, poderiam ser negligenciados devido ao viés de confirmação.

3. Excesso de Confiança: tomando decisões baseadas em dados

O excesso de confiança leva gestores a superestimar suas habilidades ou a precisão de suas previsões. Em mercados voláteis, isso pode resultar em estratégias arriscadas e perdas substanciais.

Solução pelo Sistema 3: modelos preditivos, como aqueles utilizados por plataformas de investimento automatizado, corrigem esse viés fornecendo uma análise objetiva e baseada em dados.

  • Exemplo Prático: Sistemas de robo-advisors, como Wealthfront e Betterment, criam portfólios de investimento otimizados com base em algoritmos, eliminando decisões emocionais e excessivamente confiantes dos investidores.

TECNOLOGIAS DO SISTEMA 3 QUE COMBATEM VIESES

1. Gêmeos Digitais: são representações virtuais de processos, produtos ou pessoas que simulam cenários em tempo real. (leia mais aqui)

  • Como ajuda: Eles testam diferentes abordagens antes de decisões serem implementadas, eliminando suposições enviesadas.
  • Exemplo: Microsoft Azure Digital Twins: a Microsoft oferece a plataforma Azure Digital Twins, que permite a criação de modelos digitais abrangentes de ambientes inteiros, sendo utilizada por diversas empresas de serviços para otimizar operações e melhorar a experiência do cliente, evitando vieses humanos.

2. Sistemas de Multiagentes: esses sistemas simulam interações humanas complexas, permitindo que algoritmos tomem decisões mais informadas em contextos dinâmicos.

  • Como ajuda: Eles criam estratégias otimizadas em situações de múltiplos stakeholders, modelando comportamentos esperados e ajustando decisões em tempo real.
  • Exemplo: Empresas de logística, como a FedEx, usam sistemas de multiagentes para otimizar rotas de entrega com base em previsões meteorológicas e padrões de tráfego.

3. Engenharia de Prompts: ajusta as respostas de modelos de IA para maximizar a clareza e relevância.

  • Como ajuda: Prompts otimizados garantem que as decisões sejam baseadas em dados concretos, não em percepções enviesadas.
  • Exemplo: Ferramentas de atendimento ao cliente, como chatbots avançados, adaptam suas interações com base no tom e contexto do usuário, criando experiências mais satisfatórias.

FRAMEWORKS PARA IMPLEMENTAÇÃO DO SISTEMA 3

1. Ciclo de Redução de Vieses

  • Identificação do viés: Mapear onde os vieses são mais frequentes em processos decisórios.
  • Intervenção algorítmica: Aplicar sistemas de IA para analisar dados e propor soluções.
  • Validação humana: Garantir que as recomendações da IA estejam alinhadas aos valores organizacionais.

2. AI Team

  • Tarefas Automatizadas: Identifique processos repetitivos que a IA pode assumir.
  • Intervenções Humanas: Defina onde a supervisão ética é necessária.
  • Feedback Contínuo: Estabeleça ciclos regulares de revisão para ajustar os algoritmos.

Estamos prontos para abrir mão de certos aspectos do controle humano em nome da eficiência algorítmica?

Como garantir que os algoritmos não perpetuem vieses existentes nos dados?

Quais áreas ainda devem permanecer exclusivamente sob supervisão humana?

 CONSTRUINDO UM FUTURO LIVRE DE VIESES

O Sistema 3 não é uma solução mágica, mas uma ferramenta poderosa para amplificar a cognição humana e superar as limitações impostas pelos vieses. Com tecnologias como gêmeos digitais, sistemas de multiagentes e engenharia de prompts, já estamos vendo exemplos concretos de sua aplicação.

A verdadeira oportunidade está em como líderes e profissionais escolhem integrar o Sistema 3 em suas operações. 

Com uma implementação ética e estratégica, ele pode transformar a maneira como tomamos decisões, não apenas corrigindo erros do passado, mas também moldando um futuro mais eficiente e justo.

 E você? Está preparado para confiar no poder do Sistema 3?

LEIA AQUI TODOS OS ARTIGOS DOS “DIÁRIOS DA IA” 

REFERÊNCIAS BIBLIOGRÁFICAS:

  • Kahneman, Daniel. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. Tradução: Rápido e Devagar: Duas Formas de Pensar. Rio de Janeiro: Objetiva.
  • Mohapatra, Hemant. (2024). “AI — O Último Empregado”. Medium. Disponível em: https://medium.com/@MohapatraHemant.
  • Kahneman, Daniel; Tversky, Amos. (1979). “Prospect Theory: An Analysis of Decision under Risk”. Econometrica, 47(2), 263-292.
  • Berger, Bruno; Pessali, Huáscar Fialho. (2010). “A Teoria da Perspectiva e as Mudanças de Preferência no Mainstream: Um Prospecto Lakatoseano”. Revista de Economia Política, 30(2), 340-356.
  • Zillow. Aplicação de IA para análise de propriedades. Disponível em: https://www.zillow.com.
  • IBM Watson Health. Uso de IA para diagnósticos preditivos e gestão clínica. Disponível em: https://www.ibm.com/watson-health.
  • Wealthfront e Betterment. Plataformas de robo-advisors para investimento automatizado. Disponível em: https://www.wealthfront.com e https://www.betterment.com.
  • Moreleads. Aplicação de “Digital Twins” para personalização estratégica em prospecção.
  • FedEx. Uso de sistemas de multiagentes para otimização logística. Disponível em: https://www.fedex.com.
  • Saullo, Eldes. (2021). Escrita Hipnótica: A Arte de Escrever Textos Persuasivos e Contar Histórias que Instigam. Casa do Escritor.
  • Guia de Economia Comportamental. Ávila, F., & Bianchi, A. (2015). Guia de Economia Comportamental e Experimental. EconomiaComportamental.org.

The post [DIÁRIOS DA IA] O desafio dos vieses na Era da Informação appeared first on SC Inova.

Adicionar aos favoritos o Link permanente.