CEO da OpenAI defende a regulamentação da IA

Especialistas divergem sobre as rotas para a regulamentação da IA

Blumenthal sugeriu que alguns métodos de regulação de IA poderiam incluir o desenvolvimento de scorecards para sistemas de IA que fornecem informações, como em quais dados os modelos de IA estão sendo treinados. Também recomendou limitar o uso de IA na tomada de decisões que afetam os meios de subsistência dos consumidores.

Blumenthal disse que as empresas de IA também devem ser obrigadas a testar rigorosamente os sistemas de IA antes de lançá-los ao público.

Na verdade, Altman da OpenAI disse que antes de lançar qualquer novo sistema, a OpenAI realiza seus testes e, ao mesmo tempo, envolve partes externas para auditorias do sistema. Antes de lançar seu mais recente modelo de IA, GPT-4, a OpenAI passou seis meses testando e reunindo equipes externamente, disse ele. No entanto, Altman concordou com Blumenthal que intervenções regulatórias, como requisitos de licenciamento e teste para desenvolvimento de modelos de IA, serão necessárias para lidar com os riscos.

“Este é um momento extraordinário para trabalhar com inteligência artificial, mas à medida que essa tecnologia avança, entendemos que as pessoas estão ansiosas para aprender como isso pode mudar a maneira como vivemos”, disse Altman. "Mas acreditamos que podemos e devemos trabalhar juntos para identificar e gerenciar as possíveis desvantagens, para que todos possamos aproveitar o tremendo lado positivo."

Alguns senadores propuseram a criação de uma nova agência governamental para supervisionar a regulamentação da IA, o que foi contestado por Christina Montgomery, diretora de privacidade e confiança da IBM e testemunha na audiência. Montgomery destacou uma alegação feita por várias agências de aplicação da lei, incluindo a Comissão Federal de Comércio, de que podem fazer cumprir as leis existentes de proteção ao consumidor em relação aos sistemas de inteligência artificial.

Em vez disso, Montgomery instou o Congresso a governar a implantação da IA em casos de uso específicos, em vez de regular a própria tecnologia.

Montgomery disse que isso envolveria a definição de riscos e a criação de regras diferentes para diferentes níveis de risco. Por exemplo, um risco que os senadores destacaram durante a audiência foi que pessoas mal-intencionadas usariam ferramentas como o ChatGPT para criar e espalhar desinformação eleitoral, que Montgomery disse representar uma categoria de alto risco.

Gary Marcus, professor de psicologia e neurociência na Universidade de Nova York e outra testemunha durante a audiência, destacou a necessidade de acesso de terceiros a sistemas de IA para testes, principalmente quando se trata da ideia de desenvolver scorecards para sistemas de IA.

Marcus disse que os desafios técnicos permanecem, incluindo a compreensão de como modelos avançados de IA generalizam informações de grandes conjuntos de dados.

“É importante que os cientistas façam parte desse processo e que tenhamos muito mais transparência sobre o que está acontecendo nesses sistemas”, disse Marcus.

Sobre a autora: Makenzie Holland é redatora de notícias que cobre grandes regulamentações federais e de tecnologia. Antes de ingressar na TechTarget Editorial, ela foi repórter geral do Wilmington StarNews e repórter de crime e educação no Wabash Plain Dealer.