Para Luli Radfahrer, professor da Escola de Comunicação e Artes da USP, precisamos começar a discutir com urgência a ética das máquinas. Para o pesquisador, em pouco espaço de tempo estaremos frente a dilemas éticos que jamais enfrentamos. “Se o automóvel tem um problema de freio, parte da culpa é do automóvel. Mas, a medida em que as máquinas vão ganhando autonomia elas precisam também ganhar mais culpabilidade."

Como ficam as seguradoras de automóveis com os carros autônomos? As coberturas sempre foram pautadas nos erros humanos. Será que os seguros agora serão direcionados aos fabricantes de automóveis? Estima-se que poderemos economizar cerca de 50 minutos por dia enquanto estivermos nos deslocando sem a necessidade dirigir. Assim, poderemos utilizar nossos equipamentos eletrônicos, computadores, fechar contratos, movimentar a economia e gerar renda enquanto nos locomovemos. No entanto, estamos relaxados dentro automóvel e não conseguiremos tomar decisões rápidas se houver necessidade de assumirmos o volante emergencialmente.

A maioria das grandes cidades tiveram um crescimento desordenado, o que dificulta traçar rotas seguras e contar com inúmeros imprevistos durante o percurso de um carro autônomo. Mas em outubro de 2016, a Uber realizou a primeira entrega do mundo com um caminhão autônomo em um modelo que pode funcionar bem. O teste foi uma demonstração de uma opção híbrida -  na qual o motorista conduz o caminhão até retirá-lo da cidade. Ao chegar na rodovia o motorista deixa a direção para a máquina até a cidade de destino. Nesse momento, volta a dirigir ao entrar no perímetro urbano.

Segundo a federação dos transportes, 61% das cargas no Brasil são transportadas por caminhões. É possível imaginar como esse modelo híbrido de transporte de carga pode alterar significativamente um setor que tem 2 milhões de motoristas somente no Brasil? O desafio não é apenas reduzir o número acidentes, mas também realocar esses trabalhadores.

Ética: a escolha da máquina

Um experimento, comandado pelo pesquisador Edmond Awad do MIT (Instituto de Tecnologia de Massachusetts), nos Estados Unidos, já conta com milhares de participantes e seu objetivo fazer com que as pessoas escolham situações de trânsito onde a vida humana está em risco. Na impossibilidade de evitar o acidente, quem você escolheria para atropelar e quem você daria preferência?

O projeto “Moral Machine” já coletou a opinião de pessoas em 233 países. Foi analisado vários cenários e os mais poupados - em uma condição hipotética - estão os carrinhos de bebês, meninas, meninos e grávidas. Na base da tabela, os menos poupados seriam: gatos, criminosos, cães, idosas e idosos. O relatório portanto, mostra que existe um padrão ético bem similar em qualquer parte do mundo. A pergunta é se o resultado dessa pesquisa irá calibrar a ética dos carros autônomos e dar a eles esse valor ético.

Sabemos que a tomada de decisão está muito ligada ao nosso grau de atenção durante uma viagem de carro, por exemplo, condição da estrada, luminosidade e as inúmeras dispersões, muitas delas imprevisíveis. Até que as carros autônomos criem padrões e possam se esquivar de situações de risco ao passageiro, muita coisa ainda será discutida e muito aprendizado de máquina precisará acontecer.

De quem será a culpa?

A falha mecânica não imputa à montadora o ônus por um eventual acidente de trânsito. Salvo se for comprovado um problema estrutural no veículo - passível inclusive de recall. A decisão da máquina será julgada por quem? Além desse problema, o transporte autônomo envolve novas tecnologias, um redesenho urbano, alteração na legislação de trânsito, novo código ético e moral, infraestrutura, mudança da matriz energética e muito mais. O caminho ainda é longo, mas será imprescindível discutir esse novo modelo de transporte que já é realidade e está pronto para ganhar o mundo.

Para Luli Radfahrer os carros autônomos serão mais parecidos com smartphones. “Você não pode alterar um carro desses, dotado de tecnologia. É impossível fazer ele pegar no tranco e ainda, você não poderá pegar seu laptop para pilotá-lo, ele virá pronto”, ressalta o pesquisador. Isso nos mostra que o carro autônomo, diferente do veículo esportivo - passível de manobras, melhorias e customização - será mais uma máquina programada que exatamente um veículo, assim como são os nossos celulares hoje. Não conseguimos fazer adaptações radicais nesses aparelhos, estamos limitados às suas funções de fábrica assim como seus sistema operacional.

Para o filósofo Kant, os princípios éticos são universais e para ele há apenas a ética da raça humana. Mas como ficamos agora quando começamos a dotar as máquinas de inteligência e autonomia? Certo ou errado, a verdade é que o tema será amplamente discutido nos próximos anos e não podemos nos furtar disso. O progresso ético precisará também acompanhar o progresso tecnológico.