O bilionário Elon Musk e mais de mil especialistas assinaram na quarta-feira, 29 de março, um apelo por uma pausa de seis meses nas pesquisas sobre sistemas avançados de inteligência artificial (IA). A carta aberta destaca que o avanço desenfreado da tecnologia representa “grandes riscos para a humanidade”.
Na petição, publicada no site futureoflife.org, eles pedem um prazo até que sejam estabelecidos sistemas de segurança com novas autoridades regulatórias, vigilância de sistemas de IA, técnicas que ajudem a distinguir entre o real e o artificial e instituições capazes de fazer frente às “dramáticas perturbações econômicas e políticas (especialmente para a democracia) que a IA irá causar”.
Assinam a carta personalidades que expressaram medo de uma IA incontrolável superando os humanos, como Musk, dono do Twitter e fundador da SpaceX e da Tesla, e o historiador Yuval Noah Harari. Sam Altman, CEO da OpenAI, startup criadora do ChatGPT, reconheceu ter “um pouco de medo” de que sua criação seja usada para “desinformação em grande escala ou ataques cibernéticos”.
“Nos últimos meses, vimos como os laboratórios de IA se lançaram em uma corrida descontrolada para desenvolver e implantar cérebros digitais cada vez mais potentes que ninguém, nem mesmo seus criadores, podem entender, prever ou controlar de maneira confiável”, afirma a carta.
“Devemos permitir que as máquinas inundem nossos canais de informação com propaganda e mentiras? Devemos automatizar todos os trabalhos, incluindo os gratificantes? (…) Devemos arriscar perder o controle de nossa civilização? Essas decisões não devem ser delegadas a líderes de tecnologia não eleitos”, conclui o texto.
Os signatários incluem o cofundador da Apple, Steve Wozniak, membros da DeepMind, startup de IA do Google, o diretor da startup Stability AI, Emad Mostaque, bem como especialistas e acadêmicos americanos de IA e engenheiros executivos da Microsoft, parceira da OpenAI.
Riscos
Desde que o ChatGPT foi lançado no último mês de novembro, os possíveis riscos da tecnologia passaram a ser debatidos com intensidade em todo o mundo – especialistas preveem uma grande desestabilização do mercado de trabalho, incluindo ocupações de nível superior.
Além disso, existem temores de que a humanidade estaria próxima da “singularidade” (nome dado ao fenômeno que descreve o suposto despertar da consciência das máquinas), algo refutado por especialistas na área. Na semana passada, pesquisadores da Microsoft publicaram um estudo que afirma que o GPT-4, novo “cérebro” do ChatGPT, dá sinais de apresentar “capacidade humana”.
As afirmações foram refutadas por diferentes nomes da área, incluindo Gary Marcus, professor da Universidade de Nova York. Há também temores sobre a sofisticação na criação de fake news – no último final de semana, uma imagem do papa Francisco gerada por IA viralizou nas redes sociais e levantou dúvidas sobre sua veracidade.
Impacto
Apesar das boas intenções, a carta deve ter poucos efeitos práticos para frear o desenvolvimento da tecnologia, segundo especialistas. “Pegue a história do desenvolvimento das armas nucleares e veja se houve pausa. Todas as grandes nações e empresas vão desenvolver porque dá lucro e competitividade. E há o medo de que se ele não desenvolver o concorrente ou país inimigo vai”, diz Reinaldo Bianchi, professor do Centro Universitário da FEI.