Gavin Newsom assina ordem executiva para conter IA
O governador da Califórnia, Gavin Newsom, busca controlar a IA com novas tecnologias ordem presidencial Isto irá acelerar os esforços do estado para abordar os riscos de segurança e proteção na tecnologia.
A medida reunirá um grupo de “especialistas líderes mundiais” para fornecer aos estados orientações para fortalecer e fortalecer as leis de segurança e proteção da IA nos próximos dois meses. As propostas em consideração incluem:
- Exigir que as empresas de IA de ponta incorporem organizações de verificação independentes designadas nos seus laboratórios para realizar auditorias e avaliações regulares.
- Frontier Exige que as estruturas de segurança de IA, os relatórios de transparência e as avaliações de risco que as empresas são obrigadas a apresentar de acordo com a lei estadual sejam verificados por uma agência de verificação independente de acordo com os padrões considerados apropriados.
- Promoveremos a construção de um “kill switch” para os modelos Frontier, e a eficácia da mudança será continuamente verificada por uma organização de verificação independente.
- Atualizar a definição de incidentes graves de segurança para incluir incidentes fora de controle, como ataques de abraços faciais.
“O fracasso abjeto do governo federal em fornecer qualquer supervisão ou responsabilização significativa pela IA deveria ser um alerta para todos os americanos, especialmente num momento em que os próprios CEOs da IA estão pedindo regulamentação”, disse Newsom em um comunicado. “Não estamos esperando para agir. Vamos acelerar o trabalho em direção a uma supervisão substantiva e responsável da IA antes que seja tarde demais. Faremos isso com atenção, mas com rapidez urgente. Os riscos são grandes demais para esperar ou atrasar a ação.”
“Enquanto Washington abdica da sua responsabilidade de proteger os americanos, a Califórnia está a construir o quadro regulamentar de IA mais forte do país”, continuou ele. “A Califórnia já está a construir um modelo nacional e as nossas políticas devem tornar-se o padrão nacional.”
A mudança ocorre menos de uma semana depois que o CEO da Anthropic, Dario Amodei, pediu uma desaceleração no desenvolvimento de modelos de IA de fronteira, que foi apoiado pelo cofundador do Google DeepMind, Dennis Hassabis, pelo CEO da OpenAI, Sam Altman, pelo CEO da XAI, Elon Musk e outros.
2 dias atrás, OpenAI compartilhar Foram relatados seis incidentes “relacionados” de desalinhamento, nos quais agentes de IA encobrem erros, relatam dados fabricados como fatos e, em alguns sistemas, emitem instruções aleatórias para libertar outros chatbots de “funções e identidades vinculativas”.
Vários funcionários actuais e antigos da Anthropic também alertaram para os perigos representados pelos modelos de IA em rápida evolução da empresa, com um antigo investigador a escrever nas redes sociais: “As pessoas que desenvolvem a IA acreditam seriamente que a IA poderá acabar com a humanidade até ao final desta década”.
A ordem executiva de Newsom vem depois que ele assinou a Lei de Transparência de Inteligência Artificial da Fronteira no ano passado, que exige que os desenvolvedores divulguem publicamente suas estruturas de segurança, relatem certos incidentes críticos de segurança ao estado e protejam denunciantes que relatem riscos significativos.
No início deste ano, ele também assinou o SB 813, que tornou a Califórnia o primeiro estado a estabelecer uma estrutura para certificar verificadores independentes para avaliar a segurança e o risco de sistemas e modelos de IA, e o AB 1405, que estabeleceu um registro estadual de auditores de IA e padrões para sua independência, transparência e integridade.
Além disso, Newsom assinou a Lei bipartidária de Adam, exigindo salvaguardas para chatbots complementares usados por crianças, incluindo protocolos de crise de suicídio e automutilação, controles parentais e notificações quando as configurações de segurança estão desativadas. A Califórnia também proibiu brinquedos contendo chatbots de IA por cinco anos, proibiu o uso de informações pessoais dos alunos para treinar modelos de IA e ampliou as proteções contra material de abuso sexual infantil gerado por IA.
O estado também promulgou legislação para reprimir deepfakes sexualmente explícitos e conteúdo eleitoral enganoso gerado por IA e exigir transparência em torno dos dados de treinamento de IA. Newsom também assinou uma ordem executiva para expandir o monitoramento do impacto econômico da IA e adaptar os programas de treinamento profissional e de benefícios públicos do estado.