Michael Sandel: “é imoral um carro-robô pôr a vida de seu dono acima da de pedestres”

 

“Imagine que você é o condutor de um trem, descendo rapidamente uma ladeira. Imagine que, mais adiante, há cinco homens trabalhando no trilho. Você tenta brecar, mas os freios não funcionam. Você se sente desesperado por saber que, se atingir os cinco trabalhadores, eles vão morrer. Até notar um trilho alternativo, onde há um homem trabalhando. É possível desviar o trem e matar uma pessoa, em vez de cinco. Qual é a coisa certa a fazer?” Esses são os dois primeiros minutos de Justiça, curso do professor Michael Sandel na Universidade Harvard registrado em vídeo e visto 6 milhões de vezes no YouTube (versão original em inglês, com tradução automática de legendas para português). Não há resposta certa para o problema, proposto pela primeira vez em 1967, pela filósofa inglesa Philippa Foot. Seu propósito era alimentar uma discussão sobre julgamentos morais. Com a popularização de drones e carros sem motorista, o “dilema do trenzinho” deixa de ser um exercício teórico. Torna-se uma questão concreta que demanda respostas objetivas, necessárias para programar o comportamento das máquinas autônomas. Sandel também já lançou um vigoroso ataque intelectual contra o que acredita ser a comercialização de princípios morais, no livro What money can’t buy: the moral limits of markets (O que o dinheiro não pode comprar: os limites morais dos mercados). Esse tipo de questão também afetará o carro autônomo – na iminência de um acidente envolvendo outras pessoas, ele deveria dar prioridade à proteção do dono, que pagou por ele? Em visita ao Brasil para a conferência anual da CNseg, a confederação nacional de seguradoras, Sandel foi convidado por ÉPOCA a responder sua própria pergunta: qual será a coisa certa a fazer?

ÉPOCA – Carros sem motorista trazem à vida real o “dilema do trenzinho”. Seguir em frente e atropelar cinco pedestres ou desviar para atropelar um? Isso fará parte da programação. Quais questões emergem da popularização de máquinas autônomas?
Michael Sandel – É um erro crer que máquinas, mesmo máquinas inteligentes, possam exercer julgamentos morais. Um drone pode ser programado para atingir um alvo ou para evitar o ataque, se encontrar civis nos arredores. Mas mesmo essas instruções são feitas por humanos. Ao desenhar o software capaz de guiar as respostas de drones ou robôs de uso militar, os programadores estão fazendo escolhas morais. O mesmo estão fazendo os criadores de carros autônomos. Não importa como eles programem esses carros para resolver dilemas. São julgamentos morais que só humanos podem fazer. Não é possível eliminar o julgamento moral envolvido na programação de carros sem motorista.

ÉPOCA – Tornar a escolha aleatória aliviaria a consciência do programador? Um idoso saberia que foi atropelado não porque o carro prefere atingir idosos, mas porque era uma vítima possível e acabou dando azar.
Sandel – O programador encararia outras questões difíceis, porque raramente a questão é tão simples quanto parece. O pedestre neste lado da pista é uma mãe empurrando um carrinho de bebê. No outro lado estão dois idosos. O número de pessoas é o mesmo, duas de cada lado. Queremos que a escolha do carro seja aleatória ou moral? E podemos colocar no problema outro grupo, a de três homens adultos. Moralmente falando, o número de vítimas não é a única coisa que conta.

ÉPOCA – Humanos, às vezes, tomam decisões apoiados só em estimativas feitas por computadores. Se uma máquina avaliou os cenários e as consequências, e o operador só aperta o botão, o julgamento ainda é humano?
Sandel – Máquinas não podem assumir responsabilidades por conta própria. Nem a mais inteligente delas. Nenhum avanço tecnológico tornará possível aos humanos livrar-se da responsabilidade de seu julgamento moral. Se dissermos “a máquina decidiu, não eu”, não estaremos sendo honestos. Algum humano desenhou aquela máquina, escreveu aquele programa e fez aquela escolha. Talvez tenha feito isso com competência. Talvez não. Talvez tentem evitar responsabilidade ao dizer que o robô decidiu. Creio que agir assim é desonesto. A responsabilidade humana jamais pode ser delegada às máquinas.

ÉPOCA – Quem deve ser responsabilizado pelos atos de um carro sem motorista? A montadora, que o programou? Ou é sempre o proprietário?
Sandel – A montadora dirá que não tem responsabilidade sobre o uso do carro.

ÉPOCA – E se for um carro inteiramente autônomo? O dono pode não ter tomado decisão nenhuma.
Sandel – Mesmo um carro plenamente autônomo não decide inteiramente o que vai fazer. O dono escolhe quando e aonde ir. Imagine que há uma tempestade de neve, com pista escorregadia e visibilidade ruim. O risco de acidente é mais alto. Mas formulemos melhor a hipótese: o dono está dentro do carro e consegue avaliar a mudança das condições ao longo da viagem? Ou está dormindo em casa e o carro está se deslocando sozinho?

ÉPOCA – Suponhamos que ele esteja dormindo dentro do carro, durante a viagem.
Sandel – As companhias aéreas lidam com essa situação. Muitos aviões têm piloto automático. Voam por conta própria. Mas o piloto tem de decidir quando ligar o piloto automático ou quando retomar o controle manual. Ele dorme, mas deixa um responsável no lugar. Um avião jamais fica inteiramente entregue ao piloto automático.

ÉPOCA – Mas o piloto é um profissional pago. O motorista de um carro não é um profissional nem tem, necessariamente, um copiloto para compartilhar a responsabilidade. Em sua opinião, não deveríamos pensar em dormir em nossos carros, quando eles forem autônomos?
Sandel – Não sei se deixarão o motorista do carro dormir. Talvez não devam. Talvez deva ser como no avião, onde alguém sempre deve estar acordado. Então, se o motorista dormir, será moralmente responsável pelo que ocorrer. Precisamos saber melhor como os carros autônomos vão funcionar, para poder dizer se o motorista poderá dormir alguma hora. Os carros autônomos mudarão bastante a vida das seguradoras, não?

ÉPOCA – Carros autônomos poderiam andar em comboio nas estradas, como vagões de um trem virtual, liderados por motoristas profissionais. Isso resolveria o problema da responsabilidade moral?
Sandel – Realmente, isso seria bom.

ÉPOCA – Carros autônomos podem reduzir dramaticamente o número de mortes no trânsito. Mas a chegada deles ao mercado depende da disposição de compradores. Para garantir essa disposição, em caso de acidente, o carro deveria sempre proteger o dono?
Sandel – Racionalmente, faz algum sentido o carro ser fiel a seu dono, como um cão de guarda. Também faz sentido a um motorista reagir, numa situação de pânico, conforme seu instinto de sobrevivência. Mas é moralmente inaceitável, aos programadores do carro autônomo, privilegiar o comprador. Seria escolher quem deve ter mais chances de sobreviver, baseado em quem pagou mais. É moralmente inaceitável.

ÉPOCA – Se a conduta do carro autônomo deve beneficiar a sociedade, e se ele reduzirá acidentes de trânsito e roubos, haveria sentido em o Estado incentivar sua difusão? O governo deveria destinar parte do dinheiro hoje empregado no transporte coletivo para antecipar e baratear o carro autônomo?
Sandel – Acho que o transporte público precisa tão urgentemente de incentivos que seria uma pena desviar parte do dinheiro para carros autônomos particulares. Seria uma perda. Em geral, não investimos o suficiente em transporte público. Se o motivo para subsidiar os carros autônomos seria reduzir mortes no trânsito, creio que incentivar o transporte público levaria ao mesmo efeito. Talvez até com maior eficácia. Não tenho números a respeito, mas imagino que sim. O transporte público é socialmente mais justo, por estar ao alcance de todos.

ÉPOCA – Automóveis autônomos são individuais, mas não necessariamente particulares. Podem ser de uso coletivo, como táxis ou carros compartilhados.
Sandel – O uso compartilhado aumentaria o interesse social por esses carros autônomos. Temos um embrião dessa mentalidade com os serviços de carro compartilhado, como o ZipCar, que funcionam como as bicicletas coletivas. Isso poderia fundir as noções de carro particular e transporte público numa coisa só.