Quando levamos a sério os “doomers” de IA?
Esse é um subtexto chave da tentativa de Elon Musk de fechar o negócio de IA com fins lucrativos da OpenAI. Seus advogados argumentaram que a organização foi criada como uma caridade focada em segurança de IA e se desviou em busca de lucro. Para provar isso, eles citaram e-mails e declarações antigas dos fundadores da organização sobre a necessidade de um contrapeso de espírito público ao Google DeepMind.
Hoje, eles chamaram o único perito a falar diretamente sobre tecnologia de IA: Stuart Russell, professor de ciência da computação da Universidade da Califórnia, Berkeley, que estuda IA há décadas. Seu trabalho foi oferecer um contexto sobre IA e estabelecer que essa tecnologia é perigosa ou suficiente para se preocupar.
Russell co-assinou uma carta aberta em março de 2023 pedindo uma pausa de seis meses na pesquisa de IA. Em um sinal das contradições aqui, Musk também assinou a mesma carta, mesmo enquanto lançava o xAI, seu próprio laboratório de IA com fins lucrativos.
Russell disse aos jurados e à juíza Yvonne Gonzalez Rodgers que havia uma variedade de riscos associados ao desenvolvimento de IA, variando de ameaças de cibersegurança a problemas de dessalinização e à natureza “o vencedor leva tudo” do desenvolvimento de Inteligência Artificial Geral (AGI). Na última análise, ele disse que havia uma tensão entre a busca pela AGI e a segurança.
As preocupações de Russell sobre as ameaças maiores existentes da IA irrestrita não foram apresentadas em tribunal aberto após objeções dos advogados da OpenAI levarem a julgamento a limitar o testemunho de Russell. Mas Russell tem sido há muito tempo um crítico da dinâmica de corrida armamentista criada por laboratórios de ponta em todo o mundo competindo para alcançar a AGI primeiro, e pediu aos governos que regulamentassem o campo com mais rigor.
Os advogados da OpenAI passaram pelo seu interrogatório estabelecendo que Russell não estava avaliando diretamente a estrutura corporativa da organização ou suas políticas de segurança específicas.
Mas este repórter (assim como o juiz e os jurados) ponderará sobre o valor da relação entre a gestão corporativa e as preocupações com a segurança da IA. Virtualmente os fundadores da OpenAI alertaram veementemente sobre os riscos de IA, ao mesmo tempo em que enfatizavam os benefícios, tentando construir IA o mais rápido possível — e elaborando planos para todas as empresas com fins lucrativos focados em IA que eles controlariam.
Do lado de fora, uma questão clara aqui é uma percepção crescente dentro da OpenAI após sua fundação de que a organização simplesmente precisava de mais gastos com computação se desejasse ter sucesso. Esse dinheiro só poderia vir de investidores com fins lucrativos. O medo da equipe fundadora da AGI nas mãos de uma única organização os levou a buscar o capital que acabou por separar a equipe, criando a corrida armamentista que hoje conhecemos — e nos trazendo a este processo.
A mesma dinâmica já ocorre em nível nacional: a pressão do senador Bernie Sanders por uma lei impondo uma moratória na construção de data centers cita medos de IA anunciados por Musk, Sam Altman, Geoffrey Hinton e outros. Hoden Omar, que trabalha na organização comercial Center for Data Innovation, objetou a Sanders citar seus medos sem suas esperanças, dizendo ao TechCrunch que “não está claro porque o público deveria descartar tudo o que os bilionários da tecnologia dizem, exceto quando suas palavras podem ser recrutadas para preencher lacunas em um argumento precário”.
Agora, ambos os lados do caso estão pedindo ao tribunal que faça exatamente isso: levar a sério parte dos argumentos de Altman e Musk, mas descartar as partes que são menos úteis para seu argumento legal.
Correção: O artigo foi atualizado para corrigir o nome de Stuart Russell, professor de ciência da computação da Universidade da Califórnia, Berkeley.
Fonte: Techcrunch
