1. Home
2. Colunistas
3. Chat GPT e o impacto na humanidade

No final de março, o mundo foi assombrado por uma carta aberta publicada pela ONG Future of Life Institute (FLI), que declarava “... a IA avançada pode representar uma mudança profunda na história da vida na Terra e deve ser planejada e gerenciada com cuidados e recursos proporcionais.” Estamos falando dos acelerados e descontrolados avanços das várias tecnologias de Inteligência Artificial que vêm assolando a atual civilização.

O assunto saiu das sombras e saltou para o cenário midiático com a apresentação ao mundo do Chat GPT-4 da empresa OpenAI, da qual Elon Musk foi fundador em 2015 junto com Sam Altman. Inicialmente criada para ser uma organização sem fins lucrativos, hoje é uma empresa associada à Microsoft com o objetivo de maximizar os lucros. Além da mudança de missão da ex-organização, Elon Musk se desligou da OpenAI em 2018 por um fator ainda mais preocupante. Ele acredita que a ferramenta está sendo treinada para ser mais “woke” (cons- ciente) e menos agnóstica (aberta a possibilidades de opiniões).

Para entender essa polêmica, é preciso ter conhecimento do que vem a ser o Chat GPT. O Chat GPT (em português: trans- formador pré-treinado de gerador de conversas) é o nome da tecnologia (ferramenta) de IA voltada para o desenvolvimento de chatbots online (robôs usados por empresas para simular conversas humanas quando interagimos, por exemplo, para resolução de dúvidas). O esperado é que a ferramenta replique ao longo do tempo, pelo aprendizado de interações humanas anteriormente realizadas, o pensamento e a atuação de uma pessoa, gerando conversas mais ‘humanizadas’ a ponto de não ser possível perceber a diferença entre uma resposta robotizada ou humana. Portanto, a ferramenta Chat GPT pode criar várias aplicações com a finalidade de simular um relacionamento humano. Até o momento, a aplicação mais poderosa conhecida é o chatbot Chat GPT-4.

Aparentemente nada de catastrófico até aqui. Então, por que uma ferramenta de simulação artificial com interatividade humana tem causado tanto barulho, a ponto de uma instituição da envergadura da FLI vir a público com uma declaração tão forte como a reproduzida aqui: “... pedimos a todos os laboratórios de IA que parem imediatamente por pelo menos seis meses o treinamento de sistemas de IA mais poderosos que o GPT-4. Essa pausa deve ser pública e verificável e incluir todos os principais atores.”

De acordo com a organização, os sistemas de IA, com inteligência competitiva humana, podem representar riscos profundos para a humanidade. Nos últimos meses, os laboratórios de IA estão numa corrida tão frenética para desenvolver e implantar mentes digitais cada vez mais poderosas, que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável. Infelizmente, o planejamento e o gerenciamento desses impactos não estão sendo avaliados com a mesma velocidade. A organização questiona: “Devemos arriscar perder o controle de nossa civilização? Tais decisões não devem ser delegadas a líderes tecnológicos não eleitos.” O que ela pleiteia é o desenvolvimento de um protocolo de segurança auditável por fonte independente, evitando as nocivas caixas pretas, além de políticas públicas claras que incluam certificações dos desenvolvedores de IA.

Nós sabemos que essa não é a primeira vez que a humanidade pleiteou e fez uma pausa no acelerado desenvolvimento de uma tecnologia com efeitos potencialmente catastróficos para a nossa existência. O mesmo ocorreu com os desenvolvimentos sem controle por ocasião do surgimento das técnicas de clonagem humana, do surgimento dos organismos geneticamente modificados e nas atuais pesquisas de eugenia e de ganhos genéticos de função.

A civilização humana – e, através dela, cada vez mais toda a vida na Terra – sem dúvida foi formada no crisol da tecnologia. No entanto, agora e sem precedentes, a humanidade detém o poder de afetar significativa e permanentemente a vida como a conhecemos. Recentemente, por meio do desenvolvimento contínuo da biotecnologia e da IA, entramos em uma era em que a vida e a inteligência não são mais projetadas pelo lento e adaptativo meio natural, autoajustável, mas sim única e violentamente pela vontade humana.

Objetivando reduzir na humanidade os danosos impactos e inerentes riscos, sejam eles causados acidental ou intencionalmente pelo uso de tecnologias transformadoras, acredito ser favorável que o desenvolvimento da tecnologia de IA passe por uma reorientação ética, visando uma maior segurança e transparência, afastando e mitigando as incertezas que a natureza humana fatalmente introduzirá em mais esse inevitável passo do desenvolvimento humano.