Vale do Silício pede paralisação de novas tecnologias IA 2efm

Os executivos do Vale do Silício estão pedindo que laboratórios de inteligência artificial suspendam por ao menos seis meses o desenvolvimento de novos sistemas superiores ao GPT-4, software mais recente do ChatGPT lançado no início deste mês pela OpenAI.

A petição foi formalizada em uma carta aberta, publicada nesta quarta-feira, 29. O documento possui 1187 s até o momento desta publicação e foi divulgada pela Future of Life, instituição financiada por Elon Musk, segundo aponta o Brazil Journal.

O apelo afirma que “sistemas de IA com inteligência competitiva-humana podem representar um profundo risco para a sociedade e humanidade, como mostrado por extensas pesquisas e reconhecido pelos maiores laboratórios de IA”, uma vez que poderiam “gerar profundas mudanças na história da vida na Terra e deveriam ser planejados e gerenciados com cuidados e recursos proporcionais”.

O problema é que, segundo a carta, esse nível de planejamento e gerenciamento não está acontecendo, mesmo diante da corrida entre laboratórios de inteligência artificial para desenvolver e lançar tecnologias cada vez mais poderosas que “ninguém – nem mesmo seus criadores – pode entender, prever ou controlar”.

A pergunta proposta pelos executivos é se deveríamos deixar que “as máquinas inundem nossos canais de informação com propaganda política e inverdades”, além de automatizar todas as profissões ao desenvolver mentes não humanas que podem eventualmente nos superar em número e capacidade, nos tornando obsoletos e substituíveis”.

De acordo com os redatores do documento, estamos sob o risco de perder o controle da civilização diante das novas tecnologias de inteligência artificial e que, por isso, elas devem apenas ser desenvolvidas quando tivermos certeza de que seus efeitos serão positivos e seus riscos, gerenciáveis.

O documento sugere ainda que a pausa nos desenvolvimentos sejam públicas e verificáveis, incluindo todos os atores-chave do processo. Caso o pedido não seja aceito rapidamente pelas empresas e laboratórios, os executivos pedem que o governo institua uma moratória.

Durante o hiato proposto, a carta diz ainda que o ideal seria que os laboratórios e experts independentes dedicassem seu tempo para “desenvolver e implementar um conjunto de protocolos de segurança para o design avançado de inteligência artificial e desenvolvimentos rigorosamente auditados e fiscalizados por profissionais externos".

“Isso não significa pausar os desenvolvimentos de IA em geral, é meramente um afastamento da perigosa corrida para aumentar os modelos imprevisíveis de caixa preta com capacidades emergentes. Pesquisas e desenvolvimentos de IA devem ser redirecionados para tornar os poderosos sistemas de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais. A sociedade já pausou outras tecnologias que poderiam potencialmente gerar riscos catastróficos à civilização. Nós podemos fazer o mesmo aqui”, finaliza o documento.

HISTÓRICO

A preocupação das empresas de tecnologia não é novidade. No início de março, o Walmart deu um puxão de orelha em seus funcionários em um comunicado interno vazado referente ao compartilhamento de informações sensíveis da companhia com inteligências artificiais como o ChatGPT.

A varejista havia bloqueado anteriormente o uso da solução ao identificar atividades de colaboradores que considerou íveis de riscos para a empresa, conforme reporta o Business Insider.

Recentemente, a Amazon já havia alertado seus funcionários sobre os perigos do uso desta nova onda de inteligência artificial autogerada, após a ferramenta responder corretamente perguntas complexas de entrevistas de emprego para uma posição de programação e reproduzir dados internos da companhia, segundo o Daily Mail.

A Microsoft também não ficou atrás e disse aos colaboradores que podem usar a tecnologia no trabalho, desde que não comprometam informações sensíveis.