Por João Beltrame
Um nome aparece na tela. Ao lado dele, uma pontuação calculada por um programa de computador diz que aquela pessoa é um combatente. O oficial que olha para o nome tem cerca de vinte segundos para decidir. Não para investigar, não para checar de onde veio o dado, apenas para confirmar que o alvo apontado pela máquina é um homem, e não uma mulher. Feito isso, o nome vira uma coordenada, e a coordenada vira um ataque. A cena não saiu de um roteiro de ficção científica. Aconteceu em Gaza, nas primeiras semanas da guerra iniciada em outubro de 2023, e foi descrita por oficiais de inteligência israelenses à investigação das publicações +972 e Local Call, reproduzida no Brasil pela Agência Pública.
Durante toda a história da guerra, matar dependeu de uma decisão humana. Alguém precisava apontar, mirar e carregar o peso de puxar o gatilho. O que mudou em Gaza, e o que muda agora em outros conflitos, é que essa decisão começou a ser terceirizada para uma máquina, e a pessoa foi empurrada para o fim da fila, com poucos segundos e nenhuma dúvida permitida. O sistema se chamava Lavender e, segundo a mesma investigação, chegou a marcar cerca de 37 mil palestinos como possíveis alvos. O que sobrava para o humano não era decidir, era referendar.
A milhares de quilômetros dali, a mesma lógica cresce por outro caminho. Nos campos da Ucrânia, drones do tamanho de uma bandeja, montados em galpões improvisados e comprados por algumas centenas de dólares, fazem hoje o serviço que antes exigia caças e artilharia. Guiados por software, eles perseguem tanques, trincheiras e soldados. Quando a guerra eletrônica corta o sinal e o piloto perde o controle, alguns desses aparelhos já são programados para concluir o ataque por conta própria, sem que ninguém do outro lado da tela aperte um último botão. É a chamada autonomia terminal, e ela apaga o último humano que ainda restava no circuito.
É aqui que a história deixa de ser sobre tecnologia e passa a ser sobre responsabilidade. Quando um sistema autônomo se engana e mata a pessoa errada, uma criança, um médico, um vizinho de quem era o alvo, ainda não existe resposta clara para uma pergunta simples, quem responde por isso. O programador que escreveu o código, a empresa que vendeu a arma ou o comandante que confiou na máquina. Não há tratado internacional que obrigue ninguém, e as potências que já dominam a tecnologia não têm pressa em criar um. O Brasil defende que toda arma desse tipo mantenha controle humano significativo, a garantia de que uma pessoa, e não um algoritmo, dê a palavra final. Esta reportagem parte desses dois campos de batalha para entender até onde essa palavra final já foi entregue às máquinas, e o que ainda sobra de humano na decisão de tirar uma vida.
O soldado que parou de responder
Essa discussão parece distante, coisa de Genebra e de campos de batalha do outro lado do mundo, até que se coloca um rosto nela. Durante a apuração, troquei mensagens pelo TikTok com um soldado que pediu para não ser identificado e que estava justamente numa dessas frentes. Ele falava pouco, respondia curto e desconfiado, e a única coisa que ficou clara nas poucas linhas que me mandou foi que não esperava estar vivendo o que vive agora. Depois de algumas trocas, simplesmente parou de responder, e até o fechamento desta reportagem eu não soube mais dele.
O Lavender não era uma arma no sentido comum. Era um programa que cruzava montanhas de dados de vigilância, mensagens, ligações, redes de contato e deslocamentos, e atribuía a cada palestino uma nota, uma espécie de probabilidade de ser membro do Hamas ou da Jihad Islâmica. Quem passava de certo ponto virava alvo. Segundo os oficiais que falaram às publicações +972 e Local Call, a máquina chegou a listar cerca de 37 mil pessoas, e nas primeiras semanas do conflito o Exército passou a tratar essas indicações quase como ordens.
O problema não era só a máquina errar, porque todo sistema erra. O problema era o que se decidiu fazer com o erro. Os relatos indicam que a revisão humana de cada nome durava em torno de vinte segundos, tempo suficiente apenas para conferir se o alvo era homem, e o resto ficava por conta da confiança no software. Havia ainda uma margem de mortes civis considerada aceitável para cada alvo, o que na prática transformava a estatística em sentença. Quando a conta fecha antes de alguém checar o nome, a decisão já não é mais humana, mesmo que um humano continue apertando o botão.
É esse o ponto que costuma se perder no debate público. Muita gente imagina que o perigo da inteligência artificial na guerra é o robô que se rebela, coisa de cinema. O perigo real é mais discreto e já está aqui. É a pessoa cansada, com metas a cumprir, que assina embaixo do que a tela mandou porque não tem tempo, nem informação, nem incentivo para duvidar. A máquina não precisou tomar o poder, bastou que o humano abrisse mão dele aos poucos.
O drone decide
Na Ucrânia, a lógica é outra, mas o destino é parecido. Lá a estrela da guerra virou o drone FPV, aquele pilotado em primeira pessoa, com óculos que mostram a imagem da câmera em tempo real. Custa pouco, é montado quase artesanalmente e carrega explosivo suficiente para destruir um tanque que vale milhares de vezes mais. Os dois lados passaram a fabricar esses aparelhos aos milhões, e boa parte do que antes era trabalho de artilharia hoje sai de um galpão com impressora 3D e peças compradas pela Internet.
Só que essa guerra tem um contra-ataque invisível, a guerra eletrônica. Cada lado tenta embaralhar o sinal de rádio que liga o piloto ao drone, e quando consegue, o aparelho fica cego e cai sem fazer nada. A resposta da indústria foi previsível e perigosa. Se o sinal é o elo frágil, então que se dispense o sinal. Alguns drones passaram a receber uma trava de alvo, o piloto aponta para o carro ou para o soldado ainda no começo do voo, e a partir dali o próprio software conduz o resto do ataque, mesmo sem comunicação. É a autonomia terminal, e ela funciona justamente no trecho final, o mais letal, onde antes ficava a mão humana.
Parece um detalhe técnico.O soldado não enfrenta apenas um inimigo com fuzil. Enfrenta um enxame de aparelhos baratos, alguns já capazes de fechar o ataque sozinhos depois de perder contato com quem os lançou. Não dá para negociar com um software, não dá para se render diante de uma câmera. E é esse tipo de guerra, a que retira o humano do último segundo, que está deixando de ser exceção para virar rotina.
O direito internacional que rege a guerra foi escrito pensando em pessoas. Ele exige que se distinga um combatente de um civil, que a força usada seja proporcional ao objetivo militar e que se tome precaução para poupar quem não está lutando. Todas essas regras pressupõem alguém com juízo, capaz de olhar a cena e decidir. O problema é que um algoritmo não tem juízo, ele tem cálculo. E quando o cálculo mata a pessoa errada, abre-se um vazio que ainda não sabemos preencher.
É o que se costuma chamar de lacuna de responsabilidade. Numa guerra antiga, quando um soldado cometia um crime, havia um rosto para responder por ele. Agora a decisão se espalha por muitas mãos e por uma máquina. O engenheiro que escreveu o código pode alegar que só programou. A empresa pode dizer que apenas vendeu. O comandante pode responder que confiou no sistema, como confiaria em qualquer equipamento. No fim, o erro fica sem dono, e a vítima fica sem ninguém a quem cobrar.
Esse vazio não é um problema distante do Brasil. À medida que essas armas ficam mais baratas, deixam de ser exclusividade das grandes potências e passam a estar ao alcance de exércitos menores e de grupos difíceis de controlar. Uma tecnologia que hoje aparece na Ucrânia e em Gaza pode amanhã chegar a qualquer conflito, inclusive mais perto de casa. Por isso a pergunta sobre quem responde quando a máquina erra não é filosofia, é uma conta que mais cedo ou mais tarde vai bater à porta.
O que o Brasil leva a Genebra
No tabuleiro diplomático, o Brasil aparece do lado dos que querem regra. A posição brasileira se apoia em duas ideias. A primeira é a do controle humano significativo, a exigência de que uma pessoa mantenha comando real sobre a decisão de usar a força, e não um botão de confirmação depois que a máquina já escolheu. A segunda é a chamada abordagem de dois níveis, que propõe proibir de vez as armas incompatíveis com o direito humanitário e apenas limitar as demais. Como o país não é um grande fabricante desse arsenal, tem mais liberdade para cobrar limites do que quem lucra com a venda.
O mundo, porém, caminha devagar. Em dezembro de 2024, a Assembleia Geral da ONU aprovou sua primeira grande resolução sobre armas autônomas letais, com apoio esmagador e apenas três votos contrários, de Belarus, Coreia do Norte e Rússia. Foi um marco político, mas sem força de lei. Mais recentemente, mais de cem países chegaram a um acordo preliminar sobre como definir esse tipo de arma e reafirmaram a necessidade de manter o controle humano, um passo pequeno num assunto que se arrasta há mais de dez anos.
A próxima parada é Genebra. A Sétima Conferência de Revisão da Convenção sobre Certas Armas Convencionais, marcada para novembro deste ano, é tratada por muitos como o momento da verdade, a chance mais concreta de sair da conversa e começar a negociar um tratado que realmente obrigue. A ONU e a Cruz Vermelha já pediram pressa, alertando que a demora custa vidas. O risco é conhecido. Quanto mais tempo passa sem regra, mais essas armas se espalham, e mais difícil fica colocar o freio depois.
No fim, toda essa discussão cabe responder sobre quem vai decidir se aquele soldado vive ou morre, uma pessoa ou um programa. Enquanto os diplomatas medem cada vírgula de um possível tratado, a guerra não espera, e a cada mês que passa mais um pedaço da decisão de matar migra do dedo humano para a linha de código.