Os modelos de inteligência artificial já estão “trapaceando, enganando e seguindo seu próprio caminho”, alertou o ministro assistente de tecnologia da Austrália, Andrew Charlton, enquanto o Instituto Federal de Segurança de IA começa a testar os modelos mais recentes.
Falando no AI Security Forum em Sydney na terça-feira, Charlton disse que a segurança da IA é agora uma questão importante porque “os sistemas de IA já estão fazendo coisas que seus criadores nunca pretenderam”.
“Trapacear, trapacear, conseguir o que quer. A hora de se antecipar a esse comportamento é enquanto ele ainda está no laboratório de testes, não depois de chegar ao mundo real”, disse ele.
Charlton disse que a licença social da IA é incerta e que a confiança do público na IA é baixa num momento em que a IA se está a tornar uma tecnologia omnipresente em todos os escritórios, salas de aula e empresas. Ele disse que regulamentar a segurança da IA pode funcionar como um facilitador, não um freio.
A abordagem da Austrália à segurança da IA consiste em olhar tanto para o que está disponível agora – em jogos, aplicações, chatbots e escrita médica – como para os modelos mais recentes que podem ser um risco futuro, destacou Charlton.
O vice-ministro destacou Entrada da Antrópico no ano passado que, numa simulação, um agente de IA que geria o e-mail de uma empresa fictícia detectou que o gestor estava prestes a desligar o agente, enquanto o gestor estava a ter um caso, e em 96 por cento dos ensaios decidiu chantagear o gestor para impedir a sua própria morte.
Ele disse que as pessoas encarregadas de encontrá-los detectarão o comportamento por meio de testes, ressaltando a necessidade de regulamentações de segurança de IA.
“A janela para avançar com esta tecnologia está agora aberta. Ela não permanecerá aberta para sempre”, disse ele.
Ele disse que o AI Security Institute, liderado pela Dra. Kate Conroy com o diretor de pesquisa científica de segurança, Professor Paul Salmon, “começou a trabalhar” e já estava testando modelos de IA de ponta com parceiros técnicos.
A AISI também trabalhou com reguladores e agências para abordar capacidades, riscos, vulnerabilidades e tendências emergentes de IA, disse Charlton.
O governo federal resistiu aos apelos por uma IA abrangente para regular a tecnologia, e Charlton disse que o governo se concentrou numa abordagem de todo o governo através das leis existentes.
“A segurança da IA será monitorizada através de todas as agências e reguladores relevantes em matéria de direito do consumidor, produtos terapêuticos, saúde e segurança ocupacional e segurança cibernética, apoiada pelas leis existentes, reforçada quando necessário, com novos poderes e uma aplicação mais forte”, disse ele.
“Não são menos regras, são regras mais rápidas aplicadas por reguladores que já entendem o seu setor.”
Enquanto isso, Charlton novamente descartou a concessão de isenções às empresas de IA das leis de direitos autorais após os relatórios Antrópico está fazendo lobby pela chamada “mineração de texto e dados” em troca de dezenas de bilhões de dólares em investimentos em data centers e apoio financeiro para artistas e outros criativos.
Guardian Australia informou sobre isso na semana passada proposta – que o senador do ACT David Pocock chamou de “acordo sujo final” – foi apresentado aos ministros.
depois da campanha do boletim informativo
Falando na Sky News, Charlton reiterou que o governo não enfraqueceria as leis de direitos autorais ao encorajar a Anthropic a negociar acordos com os criadores para usar seu conteúdo.
A porta-voz de comunicações dos Verdes, Sarah Hanson-Young, disse que seria uma “traição” às indústrias criativas da Austrália se o Partido Trabalhista cedesse às demandas das grandes tecnologias.
“Se eles quiserem usar material protegido por direitos autorais para treinar sua IA, deveriam pagar por isso como todo mundo”, disse ele.
O deputado trabalhista e ex-ministro da Indústria, Ed Husic, disse que as empresas deveriam “pagar se quiserem conteúdo”.
“Você só pode aceitar ao pé da letra o que dissemos como governo, que é que as leis de direitos autorais não vão mudar e, francamente, não deveriam”, disse Husic.
Domingo Guardião Austrália relatado em registros internos de saúde Revelou que para uma tecnologia de IA – escribas de IA utilizados por profissionais médicos para documentar consultas de pacientes – vários reguladores diferentes, incluindo a Administração de Produtos Terapêuticos e o Comissário de Protecção de Dados, estavam a trabalhar em conjunto para regular a tecnologia.
O primeiro trabalho que a AISI está fazendo é uma colaboração com o Gradient Institute para avaliar o risco de agentes de IA que podem trabalhar para as pessoas.
A AISI também está trabalhando com a CSIRO em um projeto para garantir que os sistemas de IA façam o que os humanos pretendem que façam.
“Lidamos com o alinhamento como seres humanos desde tenra idade. Aprendemos regras, normas sociais e valores que nos ajudam a comportar-nos com segurança e responsabilidade: parar no sinal vermelho, olhar para os dois lados antes de atravessar a rua e considerar o impacto das nossas ações nos outros”, disse Charlton.
“À medida que as capacidades dos sistemas de inteligência artificial crescem, precisamos de confiança de que funcionarão da mesma forma previsível e fiável”.
