Jacob Coxon, ex-pesquisador da Anthropic, prestará depoimento nesta segunda-feira (5) em uma audiência conduzida pelo Conselho Municipal de Nova York (EUA) sobre o tema da inteligência artificial (IA). Ele estará na sessão ao lado de representantes de grandes empresas do setor, como Anthropic, OpenAI, Google e Meta.

O convite para Coxon foi feito pela presidente do Conselho Municipal, Julie Menin, que tem enfatizado a importância da inclusão de denunciantes de empresas de IA nas discussões acerca dos perigos associados a essa tecnologia. Neste momento, os legisladores nova-iorquinos estão analisando um conjunto de projetos de lei que visam criar mecanismos de proteção em relação ao uso da IA.

Recentemente, Coxon se desligou da Anthropic e expressou preocupações sérias sobre a competição entre empresas para desenvolver sistemas de IA cada vez mais avançados. Durante essa ocasião, ele criticou tanto a Anthropic quanto a OpenAI por estarem “apostando nossas vidas”. O pesquisador confirmou sua presença na audiência.

Críticos da IA estarão frente a frente com gigantes do setor

• A sessão reunirá alguns dos críticos mais destacados da indústria de IA junto aos representantes das próprias companhias responsáveis pelo desenvolvimento dessas tecnologias;
• Além de Coxon, também deverão depor Alex Turner, ex-pesquisador do Google DeepMind, e Daniel Kokotajlo, diretor-executivo do AI Futures Project e ex-pesquisador da OpenAI;
• Fontes próximas ao assunto relataram que Anthropic, OpenAI, Google e Meta enviarão representantes das áreas dedicadas a políticas públicas e segurança;
• Turner confirmou sua participação na audiência. Um porta-voz do Google não fez comentários sobre o assunto. Kokotajlo e os outros representantes das empresas ainda não responderam aos pedidos de esclarecimentos feitos pela imprensa.

Leia mais:

• Os desafios para desenvolver a próxima geração da inteligência artificial
• Criticas à OpenAI por alerta de ex-funcionário sobre os riscos da IA
• Trump anuncia criação de uma “força de superinteligência” para coordenar o avanço da IA nos EUA

Nova York quer ampliar participação na regulação da IA

A audiência é parte dos esforços das autoridades locais para aumentar o envolvimento da cidade na regulamentação da inteligência artificial. A indústria tem crescido rapidamente em Nova York, enquanto grande parte das normas referentes à tecnologia permanece sob jurisdição dos governos federal e estadual.

Uma das propostas em discussão, patrocinada por Menin, sugere incentivos financeiros para denunciantes. De acordo com essa proposta, indivíduos que reportarem infrações cometidas por empresas de IA poderão receber uma fração das multas ou outras penalidades impostas pelo governo.

Além disso, outros projetos que estão sendo avaliados incluem medidas que permitiriam que pessoas afetadas por sistemas de IA processassem seus desenvolvedores em determinadas situações.

Ainda está sendo debatida a exigência de validação independente para certos sistemas antes que possam ser utilizados na cidade.

Empresas aceitaram depor após ameaça de intimação

Após um aviso do gabinete de Menin sobre a possibilidade de emissão de intimações caso não comparecessem, Anthropic, OpenAI e Google concordaram em participar da audiência. A Meta já havia demonstrado anteriormente seu compromisso em comparecer.

Além disso, o Conselho Municipal intimou a unidade de IA da SpaceX depois que a empresa não respondeu às solicitações para participar do evento.