Algoritmos não são humanos, repita comigo!

Por John Horvat II – Tradução: Mauro Demarchi

Dizem que a inteligência artificial (IA) representa a onda do futuro. Afinal, a IA envolve a simulação do comportamento humano inteligente em computadores. Ela usa programação baseada em algoritmo que permite ao computador explorar e se ajustar a todas as escolhas possíveis, selecionando o resultado ideal. Entusiastas da tecnologia afirmam que os computadores podem aproximar-se ou até mesmo exceder a ação humana.

Em nenhum lugar o esforço para reduzir tudo a algoritmos é mais forte do que em empresas de alta tecnologia online. O processamento poderoso de dados, de preferência pessoais, supostamente sugere as compras mais prováveis. Todo mundo já viu os anúncios pop-up que recomendam produtos necessários com base em pesquisas anteriores. A cada clique, a IA promete trabalhar com mais sofisticação. Alguns serviços oferecem até mesmo tomada de decisão e compra automatizadas sem qualquer supervisão.

Crescentes reclamações de consumidores

No entanto, as empresas de alta tecnologia estão recebendo reclamações crescentes dos consumidores. Previsivelmente, os algoritmos podem selecionar resultados ótimos, mas não necessariamente humanos. Os programas não conseguem navegar pelas nuances que costumam influenciar as decisões. Eles estão ofendendo e frustrando os consumidores.

As empresas começaram a perceber que o marketing que usa algoritmos estava sendo sobrecarregado por escolhas rejeitadas. As pessoas percorriam montanhas de seleções em seus dispositivos sem encontrar o que queriam. Pior ainda, os consumidores ficavam frustrados com a perda de tempo, os itens indesejados e a necessidade de devolver as compras.

As empresas estão se adaptando às reclamações com soluções que não usam algoritmos, mas humanos.

Aprimoramento Humano

Eles chamam isso de “aprimoramento humano”, embora o conhecimento de negócios possa ser um termo melhor. Implica a introdução do julgamento humano em algum ponto do processo de seleção. O tomador de decisões humanas pode tirar proveito do mesmo conjunto de escolhas geradas por algoritmos, mas o toque humano faz toda a diferença.

Na verdade, os humanos trazem experiência e julgamentos que às vezes podem resultar em resultados oito vezes melhores do que o algoritmo sozinho. As empresas estão dispostas a fazer o investimento e até mesmo cobrar do consumidor pelo aprimoramento extra.

Quanto mais humana for a decisão, menos confiáveis ​​serão os algoritmos. Às vezes, basta um julgamento rápido por parte do consumidor para validar ou rejeitar sugestões. Outras vezes, envolve fazer coisas de maneiras mais humanas que sejam compreensíveis para o cliente.

Empresas que mudaram

O Wall Street Journal (14 de dezembro de 2021) relata várias empresas de alta tecnologia que oferecem o toque humano.

A Stitch Fix, por exemplo, desenvolveu um modelo de negócios voltado para aqueles que não têm tempo para contratar um estilista para ajudá-los com seu guarda-roupa. As seleções automatizadas com base em algoritmos são enviadas aos clientes regularmente. Porém, a insatisfação com as escolhas “personalizadas” tem levado a empresa a abrir mais opções para os consumidores. Eles agora podem visualizar as seleções automatizadas ou adicionar itens à la carte. Os resultados têm sido menos devoluções e maior satisfação do cliente.

As empresas de mídia social, os desenvolvedores arquetípicos de algoritmos, também estão adotando métodos mais humanos. O Instagram foi recentemente citado pelas sugestões automáticas prejudiciais direcionadas a usuários adolescentes vulneráveis. Consequentemente, a empresa em breve apresentará conteúdo que reflita como pessoas reais publicam, em vez de aqueles que seus algoritmos determinam ser mais lucrativos. O Instagram também abrirá mão de mais controle para os pais para se protegerem contra conteúdo tóxico.

Fazendo chamadas de julgamento

O Twitter agora está fornecendo supervisão humana gratuita de sua moderação de conteúdo para seus usuários finais. O serviço visa evitar o cancelamento acidental dos usuários que atraem mais pessoas ao seu site. No entanto, a mudança é puramente econômica e não parece afetar os conservadores populares cancelados que se encontram na prisão do Twitter.

Às vezes, as atribuições de trabalho determinadas por algoritmo não funcionam corretamente. O DoorDash, serviço de entrega de comida, descobriu que a seleção automática de entregadores não conseguia lidar com entregas ultrarrápidas de 15 minutos ou menos. A empresa contratou uma equipe de humanos na cidade de Nova York para organizar essas entregas, uma vez que exigia mais flexibilidade, organização e estrutura.

A tendência de “humanização” é bem-vinda no frio mundo da automação . A tecnologia existe para servir, não substituir a humanidade. Apesar dos desenvolvimentos que fazem as máquinas parecerem mais humanas, a IA não pode realizar as funções da alma nem tomar decisões morais. Assim, a inteligência artificial é muito artificial e nada inteligente.

Um algoritmo não é humano. O mundo dos negócios está descobrindo da maneira mais difícil.