Crédito da imagem: TechCrunch
Novo órgão regulador proposto para supervisão de modelos avançados de IA
No início da manhã de terça-feira, o CEO do Google DeepMind, Demis Hassabis, sugeriu a criação de um novo organismo normativo para acompanhar o lançamento de modelos de inteligência artificial de vanguarda. Em uma publicação no X, intitulada “Um Marco para IA de Vanguarda e o Início de Uma Nova Era”, ele defendeu a criação de um “organismo normativo”, inspirado na Autoridade Reguladora da Indústria Financeira (FINRA), que poderia testar modelos e estabelecer práticas recomendadas.
O texto afirma: “Inicialmente, as equipes de pesquisa voluntariamente compartilhariam modelos com o organismo normativo até 30 dias antes do lançamento. Após a validação da eficácia do protocolo de avaliação, seria possível formalizar uma exigência legal para que todos os modelos de vanguarda passassem por esse processo antes de serem disponibilizados no mercado norte-americano.”
Contexto e críticas anteriores
O plano se baseia nas revisões ad hoc realizadas pelo governo dos EUA sobre os modelos Mythos (da Anthropic) e Sol (da OpenAI). Essas avaliações foram criticadas por falta de conhecimento técnico e ausência de transparência no processo de decisão para a liberação de novos modelos. Segundo Hassabis, uma nova abordagem permitiria transferir essa responsabilidade para uma entidade independente, financiada pela indústria da IA e instalada pelo governo.
Controvérsias políticas
A ideia de comércio exterior para IA ainda gera debates entre o setor tecnológico e a administração Trump. Recentemente, Sriram Krishnan, consultor da Casa Branca e parceiro da a16z, rejeitou a possibilidade de um órgão regulador dentro do executivo, afirmando que “não existe um FDA para IA”.
Estrutura proposta
Hassabis imagina que o órgão normativo seja composto por representantes da comunidade open-source e especialistas técnicos da indústria, com financiamento garantido pelos laboratórios de IA. O modelo também poderia externalizar algumas avaliações para grupos focados em segurança da IA, que retêm expertise em riscos específicos.
“A força dessa abordagem não tem equilíbrio entre foco técnico e apoio à inovação, incentivando comportamentos responsáveis,” explicou Hassabis. “O plano foi projetado para acompanhar o ritmo acelerado do setor, adaptando-se aos maiores riscos identificados e intensificando as medidas conforme a gravidade da situação exigida.”
Com informações do Techcrunch
