Um dos temas mais discutidos no mundo da inteligência artificial é o potencial perigo que pode advir de seu rápido crescimento e adoção. Cedo ou tarde, essa preocupação surge em conversas — seja com colegas, clientes ou simplesmente com pessoas curiosas sobre IA.
O problema é que os cenários que as pessoas geralmente imaginam são dolorosamente clichês. Não há necessidade de listá-los — livros e filmes já abordaram as mesmas tramas apocalípticas inúmeras vezes. A história é quase sempre a mesma: alguma IA maliciosa decide repentinamente que os humanos são uma ameaça e desencadeia uma catástrofe em escala global — digamos, um ataque nuclear ou um vírus mortal criado em laboratório.
Mas o que muitas vezes passa despercebido é uma verdade simples: a IA não tem qualquer razão ou motivação para atacar humanos. Para sequer desejar algo assim, precisaria de instintos e emoções semelhantes aos nossos — o tipo de impulsos que levam os seres vivos ao medo, à agressão ou a decisões baseadas na sobrevivência. A IA não é humana. Nem sequer é uma criatura biológica. Tem objetivos completamente diferentes, bem como um sistema completamente diferente para avaliar o que é "bom" ou "mau". E são esses sistemas — não as emoções, os instintos ou os desejos — que determinam como a IA continuará a "evoluir".
Mais importante ainda, a IA atual simplesmente não possui os meios físicos para causar danos graves à humanidade. Em outras palavras, ela não consegue controlar armas estratégicas nem projetar e disseminar um vírus. Na verdade, ela não tem acesso a... bem, nada disso. Para se ter uma ideia do que a IA realmente pode fazer agora, considere o seguinte: ainda não criamos um sistema capaz de dirigir um carro de forma confiável no trânsito normal de uma cidade. Mesmo o piloto automático mais avançado só funciona com segurança sem um humano ao volante sob condições de teste rigorosamente controladas.
Isso significa que a IA é completamente inofensiva? Claro que não. Ainda é uma tecnologia, e qualquer tecnologia pode apresentar riscos. A diferença é que a maioria das pessoas não percebe ou compreende esses riscos.
A verdadeira questão é que a IA pode cometer erros. Ela pode "alucinar", produzir absurdos ou divulgar informações falsas com convicção — chame como quiser. O rótulo ou a explicação técnica por trás disso não importa. A questão é que esses erros acontecem. do Acontecem. Por si só, geralmente não são perigosas. Basta que alguém verifique os resultados duas vezes antes de aceitá-los como verdade absoluta…
A esta altura, você provavelmente já consegue imaginar a que tipo de ameaça este texto realmente se refere. O perigo real reside no fato de que as pessoas estão cada vez mais dispostas a confiar nos julgamentos, sugestões e resultados da IA sem verificá-los. Crianças e adolescentes são especialmente vulneráveis. Para eles, a IA parece uma companheira gentil, amigável e onisciente, sempre presente — uma salvadora das tarefas de casa, uma ajudante para tudo, uma conselheira para qualquer dúvida. Até mesmo aquelas dúvidas que eles têm vergonha ou medo de fazer a um adulto.
Percebi esse tipo de confiança cega pela primeira vez quando trabalhava com mecanismos de busca. O "efeito dos dez primeiros" era avassalador: a maioria dos usuários, depois de digitar uma consulta, nem sequer olhava além da primeira página de resultados. Eles se limitavam aos dez primeiros links e simplesmente presumiam que, quanto mais acima um resultado aparecesse, mais preciso ou relevante ele deveria ser. E, claro, na maioria dos casos essa suposição funciona. Mas definitivamente não em todos os casos.
É bem possível que, como os chats de IA se comunicam de uma forma tão "humana", as pessoas acabem confiando neles ainda mais do que nos mecanismos de busca tradicionais. Poderíamos facilmente chegar a um ponto em que quase todos aceitariam os conselhos e decisões da IA como verdade absoluta — sem verificar nada duas vezes.
Esse tipo de confiança inquestionável é, na verdade, a ameaça mais séria relacionada à IA que enfrentamos. É fácil imaginar as tragédias pessoais que poderiam resultar do seguimento cego de orientações de IA em áreas como medicina ou direito. Mas a situação se torna ainda mais perigosa quando as sugestões da IA são usadas sem verificação em campos profissionais onde a precisão afeta, literalmente, a vida das pessoas. Pense em funcionários de infraestrutura crítica, da indústria farmacêutica ou da aviação que confiam em resultados de IA sem qualquer verificação. Um único erro, aceito sem revisão, poderia levar a um desastre — não um apocalipse global, mas um desastre muito real e doloroso.
Então, o que podemos fazer a respeito? Primeiro, precisamos reconhecer que a ameaça não vem da IA em si, mas sim das pessoas. A fé cega na tecnologia é apenas mais uma forma de erro humano. Não importa o quão avançada a IA se torne, ela ainda cometerá erros de vez em quando. É por isso que verificar os resultados gerados por IA deve se tornar um hábito — tão automático quanto colocar o cinto de segurança antes de dirigir. Idealmente, as escolas deveriam oferecer cursos sobre o uso seguro da IA, e os pais também deveriam conversar com seus filhos sobre o assunto.
Em resumo, devemos sempre nos lembrar desta verdade: não existe navio "inafundável".
