'Desviando atenção': o que está por trás dos apelos de magnatas para regular a IA

Líderes de gigantes da tecnologia como OpenAI, Meta e X estão ditando o debate sobre a regulamentação da inteligência artificial. Influência crescente preocupa pesquisadores e ativistas

Enquanto a inteligência artificial (IA) transforma indústrias e a própria sociedade, políticos quebram a cabeça pensando em como regulamentá-la.

CEOs das principais empresas de tecnologia do mundo surgiram como vozes de destaque nesse debate, apresentando seus pontos de vista sobre os potenciais benefícios e riscos da IA.

Pesquisadores e ativistas, porém, têm se mostrado preocupados com a influência crescente do setor na conversa. Eles apontam para uma exasperante dominância de empresas americanas, suscitando questionamentos sobre a sub-representação de outras regiões do mundo, especialmente do Sul GlobaL. Também temem que essa situação possa ofuscar questões críticas como violação de privacidade e proteção trabalhista.

"Temos visto essas empresas pautarem o debate com muita habilidade", afirma Gina Neff, diretora-executiva do Centro Minderoo para Tecnologia e Democracia na Universidade de Cambridge.

Veja quem são e o que defendem as vozes mais influentes no debate de regulamentação da AI.

Elon Musk, o profeta da ruína

Nenhum empresário tem sido mais enfático ao falar sobre os potenciais riscos da inteligência artificial do que o bilionário Elon Musk | Foto: Alain Jocard/AFP

É o empresário mais enfático ao falar sobre os potenciais riscos da inteligência artificial. O bilionário comanda várias corporações no setor de tecnologia, incluindo o novo empreendimento xAI.

'Mais perigosa que armas nucleares'. Musk tem alertado por anos sobre os impactos potencialmente catastróficos da IA sobre a civilização. Em 2018, ele se referiu à tecnologia como "muito mais perigosa que armas nucleares". Durante uma conversa com o primeiro-ministro britânico, Rishi Sunak, neste mês, o empresário repetiu avisos de que a IA pode ser "a força mais disruptiva da história" e exortou reguladores a agirem como "árbitros".

Musk também advertiu contra o controle excessivo. Ele disse a Sunak que governos devem evitar "cair em cima com regulações que inibam o lado positivo" da tecnologia.

Desviando atenção de outras preocupações. Para Daniel Leufer, analista sênior do Access Now, grupo de direitos digitais baseado em Bruxelas, ao destacar esses riscos existenciais, Musk continua desviando atenção de preocupações tecnológicas urgentes, tais como a proteção de dados pessoais e a garantia de sistemas de IA justos.

Ele está desviando atenção da tecnologia com a qual estamos lidando neste momento para coisas que são bem especulativas e, muitas vezes, estão no âmbito da ficção científica. 

— Daniel Leufer, analista sênior do Access Now

Sam Altman, o encantador de reguladores

CEO da OpenAI, Sam Altman | Foto: JACK GUEZ/AFP/Getty Images

CEO da Open AI, embarcou em uma turnê para discutir a regulamentação da IA. Sua empresa, sediada em San Francisco, lançou o ChatGPT, em novembro de 2022. A "turnê" abarca legisladores mundo afora – de Washington a Bruxelas.

Altman foi alçado à vanguarda do debate. Nos encontros, o empresário disse que aplicações de IA de alto risco poderiam causar "danos significativos ao mundo" e precisavam ser regulamentadas, apenas para em seguida oferecer a expertise da OpenAI para orientar os legisladores em meio às complexidades de sistemas de ponta de IA.

Basicamente, ele está dizendo: 'Não confiem em nossos concorrentes, não confiem em vocês mesmos, confiem em nós para fazer esse trabalho' É uma comunicação corporativa brilhante.

— Gina Neff, diretora-executiva do Centro Minderoo para Tecnologia e Democracia na Universidade de Cambridge

Especialista alerta para participação da sociedade. Para Neff, a abordagem da OpenAI, embora eficaz do ponto de vista dos interesses da empresa, pode não refletir adequadamente a diversidade de vozes na sociedade. "Pedimos mais responsabilidade e participação democrática nessas decisões, e não é isso o que estamos ouvindo de Altman."

Mark Zuckerberg, o gigante silencioso

O pai do Facebook e dono da Meta, Mark Zuckerberg | Foto: JOSH EDELSON/AFP/Getty Images

O CEO da Meta, empresa líder em desenvolvimento de IA, tem estado notavelmente quieto no debate. Dirigindo-se a congressistas americanos em setembro, Mark Zuckerberg defendeu a colaboração conjunta entre legisladores, acadêmicos, sociedade civil e indústria para "minimizar os potenciais riscos dessa nova tecnologia, mas também para maximizar os potenciais benefícios".

Zuckerberg parece ter delegado boa parte da discussão regulatória a seus subordinados, como o presidente de assuntos globais da empresa, o ex-político britânico Nick Clegg.

I’m looking forward to attending the AI Safety Summit in the UK this week. I hope we spend as much time as possible developing much-needed solutions to current problems – for example, on the transparency and detectability of AI-generated content

— Nick Clegg (@nickclegg) October 31, 2023

Nos bastidores da recente cúpula de IA no Reino Unido, Clegg minimizou temores sobre riscos da IA que possam ameaçar a sobrevivência humana – enfatizando, em vez disso, ameaças mais imediatas, como o risco de interferência indevida nas eleições no Reino Unido e nos EUA, marcadas para o ano que vem – e defendeu a busca por soluções de curto prazo para questões como a detecção de conteúdo online gerado por IA.

Dario Amodei, o novo garoto no pedaço

O empresário Dario Amodei, ex-OpenAI e hoje à frente da Anthropic | Foto: Kimberly White/Getty Images for TechCrunch

CEO da Anthropic, conquistou um lugar no debate sobre regulamentação de IA. A Anthropic foi fundada em 2021 por ex-funcionários da OpenAI, é uma empresa de IA na área de segurança e atraiu rapidamente investimentos substanciais, incluindo possíveis 4 bilhões de dólares (R$ 19,4 bilhões) da gigante de tecnologia Amazon.

Amodei falou sobre 'perigos' dos sistemas atuais de IA. Segundo ele, podem ser até relativamente limitados, mas provavelmente se tornarão muito sérios em algum momento desconhecido no futuro próximo". O discurso foi feito para legisladores durante a cúpula de Segurança de IA em Bletchley Park e divulgado pela própria empresa.

Apresentou aos legisladores metodologia desenvolvida pela Anthropic para lidar com ameaças iminentes. A abordagem categoriza os sistemas de IA com base nos riscos potenciais à segurança dos usuários. Uma metodologia semelhante, segundo ele, poderia servir como um "protótipo" para a elaboração de projetos de lei para regulamentar a tecnologia.

Especialista destaca necessidade de independência. Leufer, da ONG Access Now, alerta contra qualquer dependência excessiva de atores corporativos como a Anthropic para a elaboração de políticas públicas: embora suas contribuições para o debate sejam necessárias e úteis, os legisladores devem manter sua independência.

Com certeza não deveriam ser eles a ditar as regras. Devemos ter muito cuidado em deixar que eles determinem a agenda.

— Daniel Leufer, analista sênior do Access Now

Publicado originalmente em DW