Não se preocupe, esta não é mais uma fantasia sombria sobre "humanos como baterias" ou pessoas submetidas a experimentos de IA sem alma. Em vez disso, os autores do Pitch Avatar A equipe está explorando como a psicologia e a ética podem mudar quando a IA se torna uma parte inseparável de cada elemento da nossa civilização.
Já em meados do século XX, Norbert Wiener, na sua obra seminal Cibernética: Ou Controle e Comunicação no Animal e na Máquina, alertou sobre as mudanças fundamentais que viriam com a adoção generalizada de “máquinas inteligentes”. Aqui está uma citação relevante:
“…já estamos em condições de construir máquinas artificiais com quase qualquer grau de complexidade de desempenho. Muito antes de Nagasaki e da conscientização pública sobre a bomba atômica, ocorreu-me que estávamos aqui na presença de outra potencialidade social de importância inaudita para o bem e para o mal. A fábrica automática e a linha de montagem sem agentes humanos estão apenas tão distantes de nós quanto limitadas pela nossa disposição de dedicar à sua engenharia o mesmo grau de esforço despendido, por exemplo, no desenvolvimento da técnica do radar na Segunda Guerra Mundial.”
Eu disse que este novo desenvolvimento tem possibilidades ilimitadas para o bem e para o mal... Ele dá à raça humana um novo e mais eficaz conjunto de escravos mecânicos para realizar seu trabalho. Tal trabalho mecânico possui a maioria das propriedades econômicas do trabalho escravo, embora, diferentemente do trabalho escravo, não envolva os efeitos desmoralizantes diretos da crueldade humana. No entanto, qualquer trabalho que aceite as condições de competição com o trabalho escravo aceita as condições do trabalho escravo e é essencialmente trabalho escravo. A palavra-chave desta afirmação é competição. Pode muito bem ser algo bom para a humanidade que a máquina remova dela a necessidade de tarefas servis e desagradáveis, ou pode não ser. Eu não sei.
Como você pode ver, o problema foi claramente identificado. O desenvolvimento e a integração da IA poderiam transformar a maioria das pessoas na Terra em uma espécie de "tecnoescravistas" (as aspas aqui são essenciais para transmitir a natureza conceitual deste termo em contexto). Com a ressalva de que os "escravos" em questão serão programas inteligentes e máquinas movidas por IA.
Wiener, que acreditava que esse cenário não teria "os efeitos desmoralizantes da crueldade humana", preocupava-se principalmente com as mudanças socioeconômicas que ele traria. Mas, com todo o respeito à sua autoridade, acreditamos que ele evitou ou subestimou as inevitáveis transformações psicológicas nas pessoas que se veriam no papel de "tecnoescravistas".
Enquanto trabalhava em vários Pitch Avatar projetos, já começamos a notar os primeiros sinais dessas mudanças – o que você pode chamar de sinais de alerta.
Sejamos claros: não estamos falando de hipotéticos "direitos dos robôs". Esse é um tópico para outra discussão. O que nos interessa aqui são questões humanas muito reais. E embora não haja espaço suficiente em um único artigo para explorar tudo, vamos nos concentrar em apenas três preocupações principais.
“Comunicação racional” ou apenas grosseria?
"Por que ser educado com a inteligência artificial? Você não se curva para um aspirador de pó, não é?" Esta opinião, compartilhada durante um debate recente, captura perfeitamente a mentalidade daqueles que defendem interações "racionais" com a IA. Afinal, se a máquina entende seu pedido de qualquer maneira, por que se preocupar com educação? Por que dizer "por favor"? Por que não se divertir dando apelidos engraçados à IA ou até mesmo desabafar gritando com ela? Um humano se ofenderia, mas IA não é humana, certo?
À primeira vista, pode parecer inofensivo ser rude ou omitir expressões de gratidão ao falar com máquinas. Mas consideremos o seguinte: interações frequentes com IA criam hábitos – hábitos que podem se estender à comunicação humana. Os adultos de hoje podem não levar a grosseria gerada pela IA para conversas da vida real. Mas as crianças podem. Elas podem normalizar a "comunicação racional" não apenas com máquinas, mas também com pessoas. Principalmente se crescerem percebendo esse estilo como padrão. Podemos até ver o surgimento de subculturas onde a comunicação "ao estilo robô" se torna moda.
E mesmo com adultos, nada é garantido. Basta observar o que a cultura da internet fez com as normas de fala – sarcasmo, zombaria e grosseria descarada agora são comuns nos diálogos online. E, sejamos honestos, isso também se infiltrou na comunicação do mundo real, inclusive em círculos de elite como a política e as artes.
Há outra questão urgente: estamos nos aproximando da criação de uma IA robusta e versátil – capaz de aprendizado autônomo, inclusive por meio da interação humana. Será que realmente queremos que ela absorva nossa grosseria e a reflita?
Se quisermos preservar um alto padrão de cultura da fala, precisamos aprender a tratar máquinas inteligentes com o mesmo nível de polidez que reservamos para as pessoas. Um ótimo primeiro passo seria a criação de cursos de treinamento em comunicação com IA, hospedados em sites de produtos de IA e introduzidos nos currículos escolares. Esses cursos também poderiam ajudar os pais que se preocupam com o que seus filhos estão fazendo em computadores e smartphones.
“Edição criativa” ou apenas preguiça?
Não nos interpretem mal, somos todos a favor do trabalho intelectual assistido por IA. Na verdade, Pitch Avatar A equipe está comprometida em ajudar criadores de conteúdo a se livrarem de tarefas rotineiras e se concentrarem na verdadeira criatividade. Mas notamos uma tendência preocupante: muitos criadores de conteúdo estão se acostumando a atuar como meros "editores" de material gerado por IA. Eles acreditam que emitir um prompt e ajustar algumas palavras ou frases se qualifica como autoria.
Essa tendência foi apelidada de “edição criativa” – um termo que encontramos recentemente em uma discussão sobre esse problema crescente.
Não vê o problema? Vamos analisá-lo. Se você está gerando dezenas de descrições de produtos ou modelos de e-mail padrão, a IA é uma ferramenta excelente. Sem dúvida. Mas a história é completamente diferente quando as pessoas terceirizam tarefas profundamente humanas para a IA, como escrever um trabalho escolar, preparar um brinde de casamento ou compor um cartão de felicitações. Sejamos honestos: recorrer à IA para essas coisas costuma ser apenas um sinal de preguiça.
Agora, afaste o zoom. O que acontece quando escritores profissionais começam a se passar por trabalhos gerados principalmente por IA como se fossem seus? Esse conteúdo acaba online e, em seguida, novos modelos de IA treinam nele, criando mais conteúdo de IA. Torna-se um ciclo. E embora o conteúdo humano ainda domine o online hoje, o que acontecerá daqui a cinquenta anos?
A verdadeira preocupação: perderemos nossa capacidade de criar de forma independente? Principalmente depois de desenvolvermos a IA geral?
Talvez seja hora de introduzir programas que ensinem criatividade sem IA. Imagine os "Dias da Inteligência Natural" nas escolas — sem IA, sem computadores, sem smartphones. Apenas canetas, lápis, pincéis, instrumentos musicais e palcos de teatro.
“Liberdade de viver” ou apenas ociosidade?
“Os humanos não foram feitos para o trabalho.” É uma opinião popular, frequentemente apoiada por referências à pesquisa antropológica. De fato, durante a maior parte da história humana, as pessoas viveram como caçadores e coletores — um estilo de vida conhecido como “economia de forrageamento”. Naquele mundo, o conceito de trabalho diário e rotineiro simplesmente não existia. Nossos parentes mais próximos, os grandes primatas, também não têm a mínima ideia do que significa “trabalho diário”. Precisa de comida? Vá caçar, pescar ou procurar frutas e plantas comestíveis. Precisa de materiais? Procure pedras ou galhos adequados. No resto do tempo, você conversa, descansa, brinca e, essencialmente, apenas vive.
Essa visão um tanto idealizada da vida humana primitiva inspirou um sonho moderno: recriar essa liberdade, mas com um toque tecnológico. Deixe que máquinas e softwares inteligentes cuidem do trabalho, enquanto os humanos vivem livres e felizes, sustentados por uma renda básica universal. Em outras palavras, tudo o que é necessário para a vida é garantido, sem a necessidade de trabalhar para isso. Deixaremos as implicações econômicas e sociais mais profundas dessa ideia para artigos futuros. Aqui, vamos nos concentrar em uma questão diferente: se o seu bem-estar não depende mais dos resultados do seu trabalho, o que o motivará a crescer, melhorar e ultrapassar seus limites? Mesmo os primeiros humanos tinham mecanismos claros de feedback para aprendizado e sobrevivência. Se você arremessasse uma lança fracamente ou errasse o tiro, passaria fome – então você treinava. Se comesse a fruta ou o cogumelo errado, adoecia – então você aprendia com os mais velhos a distinguir o seguro do perigoso. O desejo de melhorar estava diretamente ligado à sobrevivência.
O que motivará as gerações futuras? Por que elas deveriam desenvolver suas mentes e corpos? Por que se preocupar em adquirir novas habilidades e conhecimentos? É claro que sempre haverá pessoas apaixonadas por esportes ou jogos. Mas é improvável que toda a humanidade se torne atleta ou jogadora. Algumas serão motivadas a impulsionar a ciência, mas essas pessoas sempre foram uma minoria. O mesmo vale para os artistas. E sim, ainda teremos aventureiros e exploradores, mas eles sempre foram ainda menos numerosos do que os cientistas.
Então, o que a maioria das pessoas fará? Como espécie? Não vamos realmente criar pílulas que estimulem o autoaperfeiçoamento... ou pílulas sociais que nos ajudem a nos comunicar melhor uns com os outros? Porque, sejamos realistas, existe um risco real de que muitas pessoas se tornem humanofóbicas com o tempo. Pode ser simplesmente mais agradável interagir com máquinas inteligentes que são sempre educadas, amigáveis e ansiosas para agradar.
Ainda assim, a humanidade enfrentou e sobreviveu a inúmeros desafios ao longo da história. Provavelmente superaremos este também. A única pergunta é: como?
