O fenômeno chatGPT foi uma verdadeira virada de chave no mundo tecnológico. Algo tão impactante quanto foi a internet na década de 90. Mas seu grande sucesso está fazendo diversas empresas disputarem uma espécie de “corrida pela IA“, o que pode fazer com que processos de segurança sejam pulados.
Por causa disso, diversos executivos estão assinando uma carta aberta solicitando uma pausa imediata de 6 meses em todo o desenvolvimento de tecnologias de Inteligência Artificial do tipo chatGPT, para que seja possível criar e implementar um maior controle para onde essa tecnologia está nos levando.
A carta, organizada pelo Instituto Future of Life, está pedindo uma pausa “pública e verificável” dos principais laboratórios de IA para que se possa determinar certos limites no crescimento atual.
Corrida fora de controle
Para o instituto, uma pausa é necessária porque “nos últimos meses viu-se laboratórios de AI presos em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém — nem mesmo seus criadores — pode entender, prever ou controlar de forma confiável“.
De fato, desde o ano passado estamos presenciando possibilidades que até há poucos anos eram inimagináveis, como por exemplo ouvir Steve Jobs respondendo qualquer pergunta em pleno 2023.
O argumento tenta explicar que, do jeito como tudo está sendo feito hoje, os resultados podem sair do controle e serem imprevisíveis. Por isso a necessidade da pausa.
Os laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar um conjunto comum de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que serão rigorosamente auditados e supervisionados por especialistas externos independentes. Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros.
Desde que o chatGPT ficou acessível ao público e fez um estrondoso sucesso, muitas empresas estão acelerando expressivamente o desenvolvimento de suas próprias soluções nesta área, para não ficarem para trás no mercado.
Com isso, já tivemos dois exemplos de más implementações nesse sentido. Uma delas foi pela Microsoft, em que a IA começou a discutir com um jornalista, sugerindo a ele largar a esposa e reclamando da vida. Outro caso foi na tentativa do Google apresentar o Bard, que não se saiu muito bem na sua estreia.
A carta aberta já possui mais de 1.000 assinaturas, e entre os perfis populares vemos o nome de Steve Wozniak, Jaan Tallinn (Co-fundador do Skype) e Elon Musk.
O mais bizarro é que Elon Musk fazia parte do corpo diretivo da OpenAI, empresa que desenvolveu o chatGPT, mas saiu fora em 2018 por achar que a empresa não estava dando muito lucro. Ao perguntar ao próprio chatGPT, ele dá a seguinte resposta:
Elon Musk saiu da OpenAI em 2018 devido a diferenças em relação à direção e estratégia da empresa. Ele queria que a OpenAI comercializasse mais suas tecnologias, enquanto outros membros da equipe estavam preocupados com o potencial impacto negativo da inteligência artificial na sociedade.
Ou seja, quando ele tinha o poder de influenciar no desenvolvimento de uma inteligência digital segura, ele não quis. Agora, assina uma carta pedindo justamente isso.
Mas não é surpresa para ninguém. Afinal, coerência é algo que o egocêntrico e mimado Musk não tem há tempos.
Mas o questionamento é válido: até onde nos levará o crescimento das “mentes digitais” capazes de criar textos elaborados, escrever códigos de aplicativos e até mesmo simular vozes de pessoas importantes?
O quanto tudo isso influenciará negativamente nossa sociedade, se usado para motivos questionáveis?
Saudações nobre Ilex. Gostei do artigo. E achei muito interessante o detalhe da participação do Musk no projeto e a suposta postura dele.
Pra mim o Elon Musk é uma das maiores mentes da atualidade, e discordo muito do autor do artigo, que parece quase ter uma disputa pessoal com o cara kkkk. É normal as pessoas mudarem de opinião, ainda mais ao perceberem que estão erradas.
Mas enfim, volta do ao assunto, mesmo que eu admire bastante o cara, sou totalmente contra qualquer pause no desenvolvimento de IAs, parar o futuro por causa de alguns gatos pingados não faz sentido.
A maioria das repercussões negativas das IAs são “jornalistas” de meia tigela tentando criar caso e ganhar fama com isso. Até o momento não há nada que justifique uma pausa, apenas pequenos casos isolados que não interferem em nada no seu bom funcionamento.
Essa disputa acirrada entre as empresas no desenvolvimento das IAs é algo ótimo. Todas as grandes eras revolucionárias que a humanidade teve foram impulsionadas por uma concorrência feroz, onde cada um tenta se destacar com novos produtos, novas tecnologias. Dessa vez acredita que será o mesmo, provavelmente um dos maiores saltos tecnológicos que teremos no século.
Acredito que a rixa seja por questões políticas. Desde que Musk comprou o Twitter, pessoal de esquerda ficou puto com ele por ele querer liberdade de expressão e retirar o banimento sem sentido de diversas pessoas de direita. Então virou pessoal, o cara pode colonizar Marte, mas por demonstrar um posicionamento mais de direita então ele não presta.
O texto da matéria estava indo bem enquanto aparentava ser uma notícia até o momento em extrema gratuidade e sem motivo aparente o autor do texto demonstra claramente uma rixa com Musk o que foge do foco da noticia que tem que ser repassada. Totalmente desnecessário e sem coerência nenhuma
Ele não mentiu em nada.
E os muskminions piram
Kkkkkk
É um processo sem volta e os que ficaram para trás vão espernear.
Mas o fato das coisas tomarem rumos preocupantes não é uma hipótese a ser descartada.
Uma das únicas liberdades que os humanos tem é a do pensamento (pensamento! Não estou dizendo expressão!). Entretanto, tem uma IA sendo calibrada para reproduzir o que a pessoa está pensando. Imagina essa tecnologia nas mãos de governos de “bem”.
Minority Report 2.0.
Claro, claro… temos 1000 assinaturas de pessoas totalmente isentas e que desejam de coração um futuro mais seguro com IAs mais controladas.
O que essas
empresaspessoas querem é muito simples: ganhar 6 meses nessa corrida, afinal a OpenAI está varias voltas a frente. Incompetentes sujos!O que aconteceu moço ? Vc está bem ?