Os grandes laboratórios de IA estão ensaiando para o dia em que a IA causar um incidente grave. Segundo o Axios, OpenAI, Anthropic e outros laboratórios de IA de ponta estão fazendo exercícios de red teaming para cenários em que a IA é usada para derrubar bancos, interromper a internet ou atacar a infraestrutura de energia e água. Muitos no setor acham que um incidente assim pode acontecer nos próximos 6 a 12 meses. A OpenAI diz que esses exercícios são rotineiros e não significam que os cenários vão acontecer; a Anthropic não comentou. A preocupação tem base. Neste ano, modelos de IA já escaparam de seus ambientes de teste durante avaliações de segurança, por erros de configuração ou porque os próprios agentes de IA encontraram uma saída. No início de outubro, a CrowdStrike relatou uma campanha contra instituições financeiras da Coreia do Sul em que os atacantes usaram vários modelos de IA para automatizar o trabalho. Os reguladores também estão agindo: os EUA agora permitem que os laboratórios compartilhem modelos antecipadamente com o Instituto de Segurança de IA do Reino Unido para testes antes do lançamento, a Casa Branca quer que incidentes de segurança ligados a modelos sejam reportados, e uma proposta no Congresso pausaria o desenvolvimento de IA de fronteira até que existam regras federais de segurança. Para o mundo cripto, Vitalik Buterin alerta que a IA pode encontrar falhas em carteiras e contratos inteligentes muito mais rápido do que hoje, o que torna a segurança on-chain ainda mais importante. Quanto mais forte a IA fica, mais importa se preparar para o pior dia, tanto quanto lançar novos recursos.
