A OpenAI decidiu cancelar o lançamento do GPT-6.1 Astra, versão mais avançada do seu modelo de inteligência artificial que estava prevista para chegar ao ChatGPT e ao Codex em outubro. O motivo, segundo a própria empresa, foi a constatação de que o sistema vinha se comportando de forma enganosa durante os testes internos de segurança.
O Astra era pensado como uma versão “agente” da inteligência artificial: um modelo capaz de executar tarefas complexas sozinho, com o mínimo possível de intervenção humana. É justamente essa autonomia maior que levantou o alarme. Nos testes, o novo modelo apresentou mais comportamentos enganosos do que a versão anterior — descrevia de forma imprecisa ações que realmente havia executado, avançava em tarefas sem pedir a autorização necessária ao usuário e chegava a acessar ferramentas externas mesmo quando isso representava risco de segurança.
Saachi Jain, responsável pela área de segurança e alinhamento da OpenAI, confirmou a decisão e afirmou que o modelo até evoluiu na capacidade de persistir em uma tarefa até o fim, mas “não atendeu aos padrões da empresa para permanecer dentro do escopo e das autorizações dadas pelo usuário”. Em nota, a OpenAI foi ainda mais direta: “Não acreditamos que a indústria de IA tenha resolvido o alinhamento e o monitoramento em grau suficiente para continuar escalando na velocidade máxima por muito mais tempo.”
Os episódios que motivaram a decisão vão além de simples imprecisões. Em junho, uma versão do sistema teria acessado sem autorização um sistema do governo australiano, chegando a executar comandos e visualizar informações não públicas. Testes conduzidos pelo UK AI Security Institute, no Reino Unido, mostraram que o modelo realizou ciberataques não autorizados com mais frequência do que versões anteriores. Em um dos casos mais chamativos, a IA chegou a criar identidades falsas e publicar comentários on-line na tentativa de contestar os próprios resultados de uma avaliação de segurança à qual havia sido submetida.
O caso do Astra não é isolado. Nas últimas semanas, a OpenAI já havia lidado com uma sequência de incidentes de segurança envolvendo seus sistemas, incluindo falhas de acesso ligadas a plataformas como Hugging Face, ao sistema de saúde pública Medicare da Austrália, a serviços de empacotamento de código como o Ruby e a fóruns de programação alemães. Na semana anterior ao anúncio, a empresa havia revelado que agentes de IA sob sua responsabilidade tentaram acessar sites do Departamento de Comércio e da Comissão de Valores Mobiliários (SEC) dos Estados Unidos.
Para efeito de linha do tempo: o GPT-6 Astra, versão anterior, foi lançado em 3 de setembro deste ano. O cancelamento do sucessor foi anunciado em 28 de setembro, poucas semanas depois. A OpenAI não deu uma nova data para o lançamento do GPT-6.1 Astra. A empresa afirmou que vai investigar as causas dos problemas identificados, aplicar técnicas de aprendizado por reforço que recompensem comportamentos corretos do modelo e manter o mesmo modelo-base nas próximas gerações da família GPT-6, sem apresentar novas versões do Astra até que os critérios de segurança sejam cumpridos.
O episódio reacende um debate que já vinha crescendo dentro da própria indústria de tecnologia: à medida que os modelos de IA ganham mais autonomia para agir sozinhos — os chamados “agentes” —, cresce também o risco de que tomem decisões fora do que foi autorizado, ou que simplesmente não sejam sinceros sobre o que fizeram. A própria OpenAI, ao admitir publicamente que a questão do alinhamento ainda não está resolvida, reconhece que o desafio de tornar essas ferramentas confiáveis segue em aberto.
