O fenômeno chatGPT foi uma verdadeira virada de chave no mundo tecnológico. Algo tão impactante quanto foi a internet na década de 90. Mas seu grande sucesso está fazendo diversas empresas disputarem uma espécie de “corrida pela IA“, o que pode fazer com que processos de segurança sejam pulados.
Por causa disso, diversos executivos estão assinando uma carta aberta solicitando uma pausa imediata de 6 meses em todo o desenvolvimento de tecnologias de Inteligência Artificial do tipo chatGPT, para que seja possível criar e implementar um maior controle para onde essa tecnologia está nos levando.
A carta, organizada pelo Instituto Future of Life, está pedindo uma pausa “pública e verificável” dos principais laboratórios de IA para que se possa determinar certos limites no crescimento atual.
Corrida fora de controle
Para o instituto, uma pausa é necessária porque “nos últimos meses viu-se laboratórios de AI presos em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém — nem mesmo seus criadores — pode entender, prever ou controlar de forma confiável“.
De fato, desde o ano passado estamos presenciando possibilidades que até há poucos anos eram inimagináveis, como por exemplo ouvir Steve Jobs respondendo qualquer pergunta em pleno 2023.
O argumento tenta explicar que, do jeito como tudo está sendo feito hoje, os resultados podem sair do controle e serem imprevisíveis. Por isso a necessidade da pausa.
Os laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar um conjunto comum de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que serão rigorosamente auditados e supervisionados por especialistas externos independentes. Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros.
Desde que o chatGPT ficou acessível ao público e fez um estrondoso sucesso, muitas empresas estão acelerando expressivamente o desenvolvimento de suas próprias soluções nesta área, para não ficarem para trás no mercado.
Com isso, já tivemos dois exemplos de más implementações nesse sentido. Uma delas foi pela Microsoft, em que a IA começou a discutir com um jornalista, sugerindo a ele largar a esposa e reclamando da vida. Outro caso foi na tentativa do Google apresentar o Bard, que não se saiu muito bem na sua estreia.
A carta aberta já possui mais de 1.000 assinaturas, e entre os perfis populares vemos o nome de Steve Wozniak, Jaan Tallinn (Co-fundador do Skype) e Elon Musk.
O mais bizarro é que Elon Musk fazia parte do corpo diretivo da OpenAI, empresa que desenvolveu o chatGPT, mas saiu fora em 2018 por achar que a empresa não estava dando muito lucro. Ao perguntar ao próprio chatGPT, ele dá a seguinte resposta:
Elon Musk saiu da OpenAI em 2018 devido a diferenças em relação à direção e estratégia da empresa. Ele queria que a OpenAI comercializasse mais suas tecnologias, enquanto outros membros da equipe estavam preocupados com o potencial impacto negativo da inteligência artificial na sociedade.
Ou seja, quando ele tinha o poder de influenciar no desenvolvimento de uma inteligência digital segura, ele não quis. Agora, assina uma carta pedindo justamente isso.
Mas não é surpresa para ninguém. Afinal, coerência é algo que o egocêntrico e mimado Musk não tem há tempos.
Mas o questionamento é válido: até onde nos levará o crescimento das “mentes digitais” capazes de criar textos elaborados, escrever códigos de aplicativos e até mesmo simular vozes de pessoas importantes?
O quanto tudo isso influenciará negativamente nossa sociedade, se usado para motivos questionáveis?
