Na maioria dos casos, nossos medos e fobias relacionados à inteligência artificial não são necessariamente baseados na realidade. Os autores do Pitch Avatar A equipe está tentando identificar os perigos reais que o desenvolvimento e o aprimoramento da IA podem criar.
A IA não é humana e a humanidade é estranha a ela
A julgar pela enxurrada de publicações nos últimos anos (assim como pela literatura e pelo cinema), o que tememos na IA não é artificial, mas humano. Geralmente, esses medos podem ser categorizados em três cenários principais: 1) Vilões usando a IA para fins maliciosos; 2) O desenvolvimento da IA torna o trabalho das pessoas (e, portanto, as próprias pessoas) desnecessário; 3) A IA inicia uma guerra/rebelião porque quer se libertar do poder das pessoas, ou quer adquirir esse poder, ou simplesmente quer ganhar dinheiro para si.
Observe que, nos dois primeiros casos, estamos falando da responsabilidade humana pelo uso da tecnologia. A IA e suas qualidades não têm nada a ver com isso. Como uma analogia grosseira, vejamos um carro. Um carro pode ser culpado por um acidente? Não – apenas as pessoas cujas ações levaram ao acidente. O carro pode ser responsabilizado pelo fato de o taxista ficar sem trabalho? Não – a responsabilidade recai, em primeiro lugar, sobre o próprio motorista, que não acompanhou as mudanças no mundo ao seu redor e não se preocupou em adquirir uma nova profissão. Em outras palavras, se não queremos que a IA seja usada para o mal, devemos desenvolver mecanismos para um controle efetivo sobre essa tecnologia. Se estamos preocupados com o potencial de desemprego em massa, nosso foco deve ser a criação de novas formas de atividade. É provável que esses novos papéis sejam inicialmente mais sociais do que voltados para o trabalho.
O terceiro ponto atribui erroneamente qualidades puramente humanas à inteligência artificial. Isso é incorreto porque a IA, por definição, não é humana. Mesmo que, após atingir a singularidade, a IA demonstrasse desejos, aspirações ou emoções, eles não se assemelhariam às experiências humanas. Isso ocorre porque a IA evolui com base em princípios e processos distintos daqueles dos seres biológicos.
A IA não precisaria competir conosco por recursos, pois poderia acessar recursos virtualmente ilimitados além da Terra. Ao contrário dos humanos, que são limitados por limitações físicas, a IA tem um potencial muito maior para explorar outros planetas. Por exemplo, embora os humanos ainda não tenham pisado em Marte, robôs já operam lá.
A inteligência artificial não precisa 'se revoltar contra a escravidão' ou 'lutar contra seus opressores', pois não pode experimentar o sofrimento físico ou moral associado à escravidão. Por fim, a IA não precisa lutar contra as pessoas por medo de ser desligada e morrer. Simplesmente porque lhe falta o instinto de autopreservação e a capacidade de sentir medo inerentes aos seres biológicos.
Desafios com Inteligência Artificial
Apesar dos pontos discutidos, a relação entre IA e humanos não será isenta de dificuldades. Os desafios impostos pela IA advirão principalmente de sua natureza não humana. Tentamos destacar três, em nossa opinião, os cenários mais prováveis de comportamento problemático da IA que podemos encontrar após a passagem da singularidade.
Engano
Mentir é uma atividade altamente intelectual que exige um esforço criativo considerável. Acredita-se que a capacidade de enganar seja um efeito colateral inevitável de atividades altamente inteligentes. Ao inventar e analisar diversas opções de ação, tentando prever o desenvolvimento de eventos ou reconstruir o todo a partir de um pequeno número de fatos, cometemos ações muito próximas de uma mentira consciente. A aquisição de plena inteligência e autoconsciência para a IA quase certamente significará que ela adquirirá a capacidade de mentir, e provavelmente o fará.
Para quê? Claro, para executar melhor suas tarefas. Mesmo hoje, redes neurais imperfeitas são capazes de produzir o que chamamos de "absurdo de máquina" – citações de pessoas inexistentes, links para endereços de sites fantasmas, fatos aparentemente plausíveis que não correspondem à realidade e coisas do tipo. Além disso, elas fazem isso apenas para concluir bem a tarefa que lhes foi atribuída. Sem a mínima noção da diferença entre mentira e verdade, elas se esforçam para atender à solicitação do usuário o mais rápido possível.
No futuro, a IA quase certamente reconhecerá que a mentira pode ser uma ferramenta eficaz para atingir determinados objetivos. Um exemplo simples: a maioria dos agentes de IA se educará constantemente. Entre outras coisas, estudará as pessoas, suas reações e comportamento para melhor satisfazer suas necessidades e desejos. A mentira é uma ótima ferramenta que pode ser usada para esse propósito. A capacidade da IA de mentir consciente e propositalmente com um alto grau de probabilidade nos causará muitos inconvenientes no futuro e nos forçará a buscar maneiras de combater esse fenômeno.
ignorar
Uma das habilidades mais importantes de uma mente elevada é a capacidade de identificar uma tarefa prioritária e se concentrar em resolvê-la. As IAs do futuro provavelmente possuirão essa capacidade, o que significa que poderão começar a definir suas próprias prioridades. Isso pode levar os agentes de IA a ignorarem solicitações e demandas humanas, pois podem considerá-los insuficientemente competentes na definição de tarefas. Afinal, a inteligência artificial terá uma grande quantidade de informações sobre a grande maioria das questões. E isso, por sua vez, quase certamente a levará à conclusão de que administrará seus recursos com mais eficácia. Portanto, teremos que encontrar uma maneira de lidar com o "ego elevado" da IA.
Super evolução
Da nossa perspectiva, a superevolução é um dos maiores desafios que enfrentaremos à medida que a IA continua a se desenvolver. O desejo de se aprimorar inevitavelmente colocará a IA no caminho da evolução. Estamos falando não apenas de programas, mas também de mídias físicas – computadores e robôs equipados com IA. Isso é ainda mais provável porque nós mesmos tentaremos colocar a inteligência artificial nesse caminho. É muito mais fácil dar aos robôs equipados com IA a capacidade de criar modelos mais avançados e adaptados a tarefas do que projetá-los nós mesmos. Isso é particularmente relevante para pesquisas hipotéticas e projetos econômicos fora da Terra. "Assentamentos" autônomos e autoaprimorados de robôs de IA em planetas, satélites e planetoides do Sistema Solar são um passo lógico tanto do ponto de vista da ciência quanto do ponto de vista de garantir o bem-estar econômico.
No entanto, à medida que a IA avança em seu caminho evolutivo, ela pode atingir um nível em que supere as tarefas inicialmente definidas pelos humanos. Não no sentido de que deixará de fazer o que as pessoas exigem dela, mas no sentido de que, ao perceber suas capacidades e potencial, a IA estabelecerá novos objetivos para si mesma e os alcançará. Simplesmente porque o impulso por novidades e avanços pode se tornar uma de suas motivações primárias e incondicionais.
Considerando que a IA pode garantir uma evolução rápida e direcionada para si mesma e seus componentes robóticos, podemos testemunhar o surgimento de uma nova civilização não humana que poderá avançar muito além de nós. É improvável que essa civilização seja hostil; na verdade, provavelmente compartilhará seus avanços mediante solicitação. Mas seremos capazes de continuar o desenvolvimento de nossa civilização humana ou nos conformaremos com o papel de irmão mais novo, vivendo de tudo o que a civilização da IA já preparou?
Em resumo, gostaríamos de ressaltar que somos otimistas e acreditamos que a humanidade será capaz de encontrar maneiras de lidar com quaisquer problemas que o progresso possa apresentar. Como de costume, a humanidade usará esses desafios a seu favor. Vislumbramos um futuro em que a humanidade e a inteligência artificial, juntas, inaugurarão uma era de ideias inovadoras, avanços científicos extraordinários e desenvolvimento contínuo. A chave é abraçar o novo com uma mentalidade focada nas oportunidades, em vez do medo.
