O esforço legal de Elon Musk para desmantelar a OpenAI pode depender de como sua subsidiária com fins lucrativos, melhorias ou prejuízos a missão fundadora do laboratório de ponta de garantir que a humanidade se beneficie da inteligência artificial geral.
Na quinta-feira, um tribunal federal em Oakland, Califórnia, reuniu um ex-funcionário e membro do conselho para dizer que os esforços da empresa para lançar produtos de IA no mercado comprometeram seu compromisso com a segurança da IA.
Rosie Campbell ingressou na equipe de prontidão para AGI da empresa em 2021 e deixou a OpenAI em 2024 após o desmantelamento de sua equipe. Outra equipe focada em segurança, a equipe Super Alignment, foi encerrada no mesmo período.
“Quando entrei, foi muito focado em pesquisa e comum as pessoas falarem sobre AGI e questões de segurança”, testemunhou ela. “Com o tempo, tornou-se mais como uma organização focada em produtos.”
Sob interrogatório, Campbell afirmou que um financiamento significativo era provavelmente necessário para o objetivo do laboratório de construir AGI, mas disse que criar um modelo de computador superinteligente sem as medidas de segurança adequadas não se encaixaria na missão da organização que ela originalmente entrouu.
Campbell mencionou para um incidente em que a Microsoft implantou uma versão do modelo GPT-4 da empresa na Índia através de seu mecanismo de busca Bing antes que o modelo fosse avaliado pelo Deployment Safety Board (DSB) da empresa. O modelo em que não apresentava um grande risco, disse ela, mas a empresa precisava “estabelecer fortes precedentes à medida que a tecnologia se torna mais poderosa. Queremos ter bons processos de segurança em vigor que saibamos que estão sendo seguidos de forma confiável.”
Os advogados da OpenAI também fizeram Campbell admitir que, em sua “opinião especulativa”, a abordagem de segurança da OpenAI é superior à da xAI, uma empresa de IA fundada por Musk que foi adquirida pela SpaceX no início deste ano.
A implantação do GPT-4 na Índia, no entanto, foi um dos sinais de alerta que levaram o conselho sem fins lucrativos da OpenAI a demitir brevemente o CEO Sam Altman em 2023. Esse incidente ocorreu após funcionários, incluindo o então cientista-chefe Ilya Sutskever e o então CTO Mira Murati, reclamarem do estilo de gestão de Altman, que evitou conflitos. Tasha McCauley, membro do conselho na época, testemunhou sobre preocupações de que Altman não estava sendo suficientemente transparente com o conselho para que sua estrutura incomum funcionasse.
McCauley também discutiu um padrão amplamente divulgado de Altman enganando o conselho. Notavelmente, Altman mencionou a outro membro do conselho sobre a intenção de McCauley de remover Helen Toner, um terceiro membro do conselho que publicou um white paper que incluía algumas críticas implícitas à política de segurança da OpenAI. Altman também deixou de informar o conselho sobre a decisão de lançar o ChatGPT publicamente, e os membros ficaram preocupados com sua falta de divulgação de potenciais conflitos de interesse.
“Somos um conselho sem fins lucrativos e nosso mandato era supervisionar a entidade com fins lucrativos abaixo de nós”, disse McCauley ao tribunal. “Nossa principal maneira de fazer isso estava sendo questionada. Não tínhamos um alto grau de confiança para acreditar que as informações que nos foram transmitidas nos permitiram tomar decisões de forma informada.”
No entanto, a decisão de demitir Altman ocorreu ao mesmo tempo que uma oferta pública de ações para os funcionários da empresa. McCauley disse que, quando os funcionários da OpenAI se reuniram com Altman e a Microsoft trabalharam para restaurar o status quo, o conselho acabou revertendo o curso, com os membros contrários a Altman renunciando.
O aparente fracasso do conselho sem fins lucrativos em influência a organização com fins lucrativos vai diretamente ao caso de Musk de que a transformação da OpenAI de uma organização de pesquisa em uma das maiores empresas privadas do mundo culturais o acordo implícito dos fundadores da organização.
David Schizer, ex-decano da Columbia Law School, que está sendo pago pela equipe de Musk para atuar como testemunha especialista, ecoou pelas preocupações de McCauley.
“A OpenAI enfatizou que uma parte fundamental de sua missão é a segurança e que eles priorizarão a segurança sobre os lucros”, disse Schizer. “Parte disso é levar as regras de segurança a sério; se algo precisa ser solicitado a uma revisão de segurança, isso precisa acontecer. O que importa é a questão do processo.”
Com a IA já profundamente integrada em empresas com fins lucrativos, a questão vai muito além de um único laboratório. McCauley disse que as falhas de governança interna na OpenAI deveriam ser um motivo para abraçar uma regulamentação governamental mais forte sobre IA avançada — “[se] tudo se resume a um CEO tomando essas decisões, e temos o bem público em jogo, isso é muito subótimo.”
Fonte: Techcrunch
