Controle Significativo Humano

Um dos tópicos que mais assustam as pessoas que têm um mínimo conhecimento sobre Sistemas de Armamentos Autônomos Letais é o Controle Humano Significativo, ou basicamente, até que ponto haverá uma mente humana no processo de decisão ou não. Partindo do pressuposto que todos já possuem um conhecimento prévio sobre os SAAL, o post a seguir já parte para questões mais densas e de grande importância para a Convenção Sobre Certas Armas Convencionais.

Há um grande debate se os SAAL infringiriam diretamente algumas grandes questões éticas e morais. Dar a uma máquina o poder completo de decidir usar força letal poderia vir a violar princípios humanitários básicos, pois, por sua natureza, esses sistemas não poderiam respeitar ou entender o valor da vida humana.

Algumas fontes apontam ainda que esses sistemas tomariam ações baseadas pura e simplesmente em funções, algoritmos, cálculos matemáticos, que podem muitas vezes mostrar uma versão que não condiz com a realidade, causando danos indiscriminados a todos os atores envolvidos, sem distinção ou proporcionalidade.

Isso leva à discussão, nos fóruns internacionais, sobre o conceito de “controle humano significativo”, introduzido pela organização não governamental Article 36, ao afirmar em um de seus relatórios sobre o assunto, que uma forma bem útil de abordar a questão da autonomia seria através do esforço em criar definições/conceito para “controle significativo humano”. (Article 36, 2014).

Este termo substituiria o conceito “envolvimento humano apropriado”, pois haveria casos em que envolvimento humano nenhum seria apropriado, como em defesa antiaérea. Em casos assim, o sistema de defesa deve possuir autonomia para ações rápidas e precisas, quando humanos não seriam capazes de tamanha agilidade. (GUBRUD, 2012; ASARO, 2012 apud SAUER, 2014).

IMAGEM 1: Um soldado em frente a um Shadow, um drone que é sobretudo usado no Afeganistão, na abase de Vilseck-Grafenwoehr.

img1

Fonte: MICHAELA REHLE/REUTERS

Basicamente, o conceito do “controle humano significativo” parte de duas premissas:

a) que uma máquina operando sem qualquer controle humano seria considerado inaceitável;

b) que um humano simplesmente apertando um botão para abrir fogo, seguindo indicações de um computador que processou as informações, não é suficiente para ser considerado ‘controle humano’ de forma significativa. (SAUER, 2014; MOYES, 2016).

Ou seja, o processo de tomada de decisão pode ocorrer de duas formas: uma máquina ajuda o operador humano a analisar os dados e o último aperta o botão, ou o sistema fica responsável por todo o processo até o momento final (Guia de Estudos, 2017).

Atualmente, o operador humano deve ter posse de informações suficientes sobre o alvo e ter controle sobre seu armamento, tendo consciência dos efeitos que um ataque terá para, então, tomar decisões.

cadeia de comando militar também não pode deixar de levar em conta o Direito Internacional, pois sobre eles pode recair a responsabilidade do ataque. Devem ser seguidos os princípios fundamentais de distinção entre civis e combatentes, proporcionalidade e precauções durante um ataque. Alguns países já vêm defendendo essa posição, assim como o Reino Unido que

afirmou que seus sistemas de armas estarão sempre sob controle humano, indicando algum compromisso com este princípio básico. Com base nisso, o Reino Unido disse que não desenvolverá sistemas de armas autônomas letais (SAAL).” (Article 36, 2016)

Entretanto, como dito anteriormente, se essas decisões começarem a ser tomadas por uma máquina, um sistema técnico, seriam exercidas por algoritmos e programação. (SAUER, 2014). Obviamente, essa repassada de responsabilidade dará uma velocidade inimaginável para as decisões tomadas pelas máquinas, alguns defensores desses sistemas, recorrem a esse argumento para conseguir apoio.

De acordo com eles, esses sistemas, sem o processo de julgamento humano teriam a capacidade de impedir maiores tragédias, protegendo os Estados contra ataques inimigos.

Uma maneira de considerar o vínculo entre a legalidade das armas autônomas e o controle humano significativo é considerar que os princípios da humanidade – sobre os quais o direito internacional humanitário existente e o direito internacional dos direitos humanos se baseiam – podem ser vistos exigindo um raciocínio moral deliberativo, por humanos seres, sobre ataques individuais. As armas que não permitem que tais controles humanos e ataques sem esse controle humano sejam proibidos. Um novo instrumento jurídico parece necessário para tornar isso explícito “. (Article 36, 2014)

IMAGEM 2: Agentes que trabalham com navios autônomos podem vir usar uma nova área de teste na Finlândia.

img1

Fonte: LAGER & DISTRIBUTION, 2017.

Existe um certo consenso de que o controle humano deve ser de alguma forma ‘significativa’. Porém, há muitas divergências sobre a palavra “significativa” e o sentido real que ela tem nesse conceito, isto é, ele ainda não está definido. O conceito ainda é vago, carecendo de maior definição para quando for utilizada em discursos políticos e diplomáticos.

Se caso isso não ocorra, pode-se abrir margem para países utilizarem-no para desviar atenções do processo necessário para a comunidade internacional delinear os elementos-chave para o controle humano (MOYES, 2016).

Fica então a questão: quais são os níveis adequados entre a autonomia do sistema e o julgamento humano decisório sobre o uso da força letal?

Escrito pelo diretor assistente Carlos Henrique Vieira

Referências:

AUTONOMOUS weapons, meaningful human control and the CCW. May 21, 2014 . Disponível em: <http://www.article36.org/weapons-review/autonomous-weapons-meaningful-human-control-and-the-ccw/&gt;. Acesso em: 03 out. 2017.

MOYES, Richard. Key Elements of Meaningful Human Control. ​Genebra: UNOG. 2016. Disponível em: . Acesso em: 28 dez. 2016.

SAUER, Frank. Banning Lethal Autonomous Weapon Systems (LAWS): ​The way forward. Genebra: CICV, 2014. Disponível em: . Acesso em: 27 fev. 2017.

THE UNITED Kingdom and lethal autonomous weapons systems. April 8, 2016 . Disponível em: <http://www.article36.org/autonomous-weapons/uk-ccw-2016-paper/&gt;. Acesso em: 03 out. 2017.

IMAGEM 1: WHITLOCK, CRAIG . Os drones caídos do céu: uma investigação conduzida ao longo de um anos revela os perigos trazidos pelos aviões não tripulados.. de Julho de 2014, 0:00. Disponível em: <https://www.publico.pt/2014/07/06/mundo/noticia/os-drones-caidos-do-ceu-1661450&gt;. Acesso em: 03 out. 2017.

IMAGEM 2: LAGER & DISTRIBUTION, EL. Verdens første globale testområde for autonome skibe åbner i Finland. 24.08.17. Disponível em: <http://www.scm.dk/verdens-f%C3%B8rste-globale-testomr%C3%A5de-autonome-skibe-%C3%A5bner-i-finland&gt;. Acesso em: 03 out. 2017.

 

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s