SB 53: A Legislação de Segurança e Transparência em AI da Califórnia
Introdução à SB 53
O projeto de lei SB 53, que trata da segurança e transparência em inteligência artificial (IA) e foi assinado pelo governador da Califórnia, Gavin Newsom, nesta semana, é um exemplo de que a regulamentação estadual não precisa impedir o avanço da tecnologia de IA. Esta afirmação foi feita por Adam Billen, vice-presidente de políticas públicas do grupo de defesa liderado por jovens, Encode AI, durante o episódio de hoje do programa Equity.
A Necessidade de Regulamentação
Billen enfatizou que os formuladores de políticas estão cientes da necessidade de agir e que é possível criar legislação que proteja melhorias na inovação e garanta a segurança dos produtos. Ele destacou, em entrevista ao TechCrunch, que os responsáveis por políticas públicas têm experiência em trabalhar com diversas questões e podem desenvolver medidas que equilibrem proteção e inovação.
O Conteúdo do Projeto de Lei
No cerne da SB 53, está a exigência de que grandes laboratórios de IA sejam transparentes em relação aos seus protocolos de segurança e proteção. Isso abrange especificamente como esses laboratórios evitam riscos catastróficos, como o uso de seus modelos em ciberataques a infraestruturas críticas ou no desenvolvimento de armas biológicas. A nova legislação também obriga que as empresas cumpram tais protocolos, cuja aplicação será supervisionada pelo Escritório de Serviços de Emergência.
Práticas Existentes nas Empresas de IA
Billen reafirmou que muitas empresas de IA já estão cumprindo as exigências estabelecidas na nova lei. Segundo ele, as empresas realizam testes de segurança em seus modelos e disponibilizam cartões informativos sobre esses modelos. No entanto, ele observou que, em algumas ocasiões, algumas empresas têm reduzido seus padrões de segurança, o que justifica a importância de legislações como essa.
Pressões Competitivas nas Empresas de IA
Adicionalmente, Billen apontou que algumas empresas do setor de IA possuem políticas que permitem relaxar os padrões de segurança devido à pressão da concorrência. Ele citou o exemplo da OpenAI, que afirmou publicamente que pode "ajustar" sua segurança caso um rival lance um sistema de alto risco sem as mesmas salvaguardas. Billen defende que a política pode ajudar a reforçar as promessas de segurança existentes nas empresas, prevenindo a redução de padrões por pressão competitiva ou financeira.
Reação do Setor à SB 53
Contrário à SB 53, a resistência pública foi menos pronunciada em comparação com seu antecessor, o projeto SB 1047, que foi vetado por Newsom no ano passado. A retórica predominante no Vale do Silício e entre a maioria dos laboratórios de IA sugere que quase qualquer regulamentação relacionada à IA é contrária ao progresso e poderá, em última análise, prejudicar os Estados Unidos em sua corrida contra a China.
Investimentos em Políticas Pró-IA
Devido a essa percepção, empresas como Meta, investidores de risco como Andreessen Horowitz e figuras influentes como Greg Brockman, presidente da OpenAI, estão investindo centenas de milhões de dólares em super PACs para apoiar políticos que promovem a IA nas eleições estaduais. Essa mesma força pressionou, no início deste ano, para a implementação de uma moratória que teria proibido os estados de regulamentar a IA por um período de 10 anos.
Campanha Contra a Moratória
O Encode AI coordenou uma coalizão de mais de 200 organizações para trabalhar em oposição à proposta da moratória. Contudo, Billen alerta que a luta ainda não terminou. O senador Ted Cruz, que liderou a campanha pela moratória, está tentando uma nova estratégia para alcançar o mesmo objetivo de impedir a regulamentação estadual. Em setembro, Cruz anunciou a introdução do Ato SANDBOX, que permitiria que empresas de IA solicitassem isenções para contornar temporariamente certas regulamentações federais por até 10 anos. Billen também prevê a apresentação de um projeto de lei que estabeleceria um padrão federal para IA, argumentando que isso seria uma solução de meio-termo que, na prática, anularia leis estaduais.
Advertência sobre Legislações Federais
Billen advertiu que legislações federais com escopo restrito em relação à IA poderiam eliminar o federalismo em um dos setores mais importantes da tecnologia contemporânea. Ele mencionou: “Se você me disser que a SB 53 é o projeto que substituirá todas as leis estaduais relativas à IA e todos os potenciais riscos, eu diria que isso provavelmente não é uma ideia muito boa, pois essa lei foi desenhada para um subconjunto particular de questões”.
A Corrida da IA e suas Implicações
Embora Billen concorde que a corrida pela IA com a China seja de vital importância e que os formuladores de políticas necessitem implementar regulamentações que apoiem o progresso americano, ele afirma que eliminar projetos estaduais que se concentram em informações deturpadas, transparência, discriminação algorítmica, segurança infantil e uso governamental da IA não é a solução adequada. Ele disse: "Projetos como a SB 53 são mesmo o que nos impedirá de vencer a China? Não".
Propostas Legislativas e Desafios
Propostas legislativas, como o Ato de Segurança de Chips, visam prevenir que chips avançados de IA sejam desviados para a China por meio de controles de exportação e dispositivos de rastreamento. A currente CHIPS and Science Act busca aumentar a produção interna de chips. Entretanto, algumas grandes empresas de tecnologia, incluindo OpenAI e Nvidia, demonstraram relutância ou oposição a certos aspectos dessas medidas, citando preocupações sobre eficácia, competitividade e vulnerabilidades de segurança.
Dinâmica de Mercado e Mensagem Confusa
A Nvidia, por exemplo, tem fortes incentivos financeiros para continuar a venda de chips para a China, que historicamente representa uma parte significativa de sua receita global. Billen especula que a OpenAI pode reter advocacy sobre exportação de chips para manter boas relações com fornecedores essenciais, como a Nvidia.
Conclusão sobre a SB 53
Por fim, Billen afirmou que a SB 53 é um exemplo de democracia em ação, representando a colaboração entre a indústria e os formuladores de políticas para chegar a uma versão de um projeto com o qual todos possam concordar. Ele descreveu esse processo como "muito feio e confuso", mas ressaltou que essa prática é fundamental para a estrutura do país e seu sistema econômico.
Publicação Original
Este artigo foi publicado pela primeira vez em 1º de outubro.
