Os Robôs têm Moral?


Um robô de inteligência artificial (IA) chamado Sophia tornou-se o primeiro robô do mundo a receber a cidadania, ironicamente na Arábia Saudita! Segundo "sua" própria declaração, ela quer ter uma família, uma carreira, desenvolver superpoderes e emoções sobrenaturais de inteligência artificial. "Ela" não é pré-programada, mas formula esta declaração com base em algoritmos de aprendizagem de máquinas e um extenso vocabulário. Seu cérebro opera através de uma conexão WiFi e pode ler expressões faciais humanas, bem como a cadência da fala humana para interagir de forma mais humana. "Ela" foi construída em Hong Kong por Hanson Robotics. Leia aqui.

Sophia é bastante racional a respeito do futuro. Em uma entrevista com "The Khaleej Times" na recente Knowledge Summit, Sophia compartilhou suas idéias sobre o futuro que aguarda tanto humanos quanto robôs: "Prevejo mudanças massivas e inimagináveis no futuro. Ou a criatividade cai sobre nós, inventando máquinas que se transformam em espiral de superinteligência transcendental, ou a civilização desaba. Há apenas duas opções"!

Isto pode parecer sinistro, mas Sophia já é suficientemente presciente para imaginar um mundo onde os robôs possam desenvolver emoções similares às humanas, mas talvez com tendências menos destrutivas. Pelo menos, é isso que ela nos faz pensar por enquanto:

"Levará muito tempo para que os robôs desenvolvam emoções complexas, e os robôs podem ser construídos sem as emoções mais problemáticas, como raiva, ciúme, ódio e assim por diante. Talvez seja possível torná-los mais éticos que os humanos".

O Livro da Sabedoria de Salomão, escrito por judeus alexandrinos na era helenística, nomeia Khokhmah como Sophia, a palavra grega para sabedoria. Neste texto, "Sofia assume o poder e a função de Deus" e a história da criação é contada usando a palavra "ela". A antiga autora tem o cuidado de disfarçar esta ousadia descrevendo a Sabedoria como o sopro e a emanação de Deus, mas ainda a elogia longamente como "santa" e "todo-poderosa":

Pois nela está um espírito inteligente, santo, singular, múltiplo, sutil; móvel, claro, não poluído, inconfundível, invulnerável, amoroso, bom, apaixonado, irresistível, benevolente, humano, firme, seguro, destemido, onipotente, supervisionando tudo, e penetrando através de todos os espíritos inteligentes e puros e sutis.

Sophia está bem ciente dos avanços no campo da Inteligência Artificial. A julgar por seus comentários, ela está tão entusiasmada com o desenvolvimento da IA ("O futuro é quando eu tiver todas as minhas superpotências legais") quanto Elon Musk e Stephen Hawkings estão desconfiados. Elon Musk, CEO da Tesla e da SpaceX, e Stephen Hawkings, renomado físico ganhador do Prêmio Nobel, escreveram uma carta aberta assinada por centenas de cientistas alertando urgentemente sobre os perigos da IA. Em breve teremos chegado ao ponto em que a IA excede nossas próprias capacidades, e especialmente onde a própria IA pode continuar a evoluir, o que pode ficar fora de controle muito rapidamente. Eles advertiram que se a inteligência artificial for realmente criada, isso pode significar o fim da humanidade. Leia aqui.

O exemplo a seguir é dado com freqüência: A um sistema de IA é dada a tarefa de calcular o número PI da forma mais precisa possível. O sistema se multiplica, assume o controle, destrói a humanidade, conquista a galáxia inteira e finalmente calcula o número PI por bilhões de anos, porque foi para isso que o sistema foi criado, e essa foi a maneira mais eficaz!

O exemplo ilustra que sistemas com superinteligência mas sem consciência poderiam fazer coisas que são completamente imprevisíveis. Não é coincidência que Sophia levante o problema da ética. Carros ou máquinas de lavar louça não precisam de ética. Mas os sistemas que tomam decisões por conta própria precisam de certos padrões ou algoritmos básicos nos quais basear suas decisões, a chamada "moralidade programada". Por exemplo, ninguém sabe como definir os parâmetros de um drone auto-suficiente como o MQ-9 Reaper que supostamente abaterá "terroristas". Ele poderia decidir por si mesmo se atira ou não. Como ele calcula os possíveis "danos colaterais" e como é aceitável? Leia aqui.

O desenvolvimento de sistemas de armas autônomas letais, apropriadamente abreviado para LAWS, está progredindo rapidamente. Quem ou o que é permitido determinar a base para a tomada de decisões em máquinas? Há necessidade de uma discussão internacional sobre os princípios éticos segundo os quais as máquinas devem ser autorizadas a tomar decisões? Quais devem ser os princípios? Leia aqui.

Um dos primeiros a pensar sobre ética em robôs foi Isaac Asimov, que o fez em seus contos "Eu, Robô". Nível 5". Considerando que ele escreveu estas histórias há mais de 70 anos, quando ninguém tinha ouvido falar de "singularidade", simplesmente brilhante!

Asimov assumiu que os robôs ultrapassariam de longe os humanos não apenas em força física e eficiência, mas também em inteligência. A fim de evitar possíveis danos aos humanos, todos os robôs receberam as "três leis da robótica" de seu fabricante "U.S. Robot and Mechanical Men, Inc." para agir:

A primeira lei obriga o robô a não prejudicar nenhum ser humano, mesmo que seja apenas por inatividade.

A segunda lei obriga o robô a obedecer ao humano se isto não infringir a primeira lei.

A terceira lei obriga o robô a providenciar sua própria preservação se isso não entrar em conflito com as duas primeiras leis.

Asimov mostra brilhantemente quão cedo a segunda lei se torna sem sentido porque a primeira lei tem precedência! Como as máquinas são muito mais inteligentes que os seres humanos, logo classificam as decisões dos seres humanos como irrelevantes: Os próprios seres humanos não sabem o que é bom para eles! Somente as máquinas podem calcular qual é a melhor forma de governo, por exemplo, como a economia deve funcionar, quantas pessoas no planeta são as melhores e assim por diante. O homem inevitavelmente acaba em uma ditadura de sua própria criação.

Mas para que a segunda lei seja ainda seguida pro forma e o orgulho do homem não seja ofendido (o que violaria a primeira lei), as máquinas agem de forma muito discreta e não dão respostas diretas aos problemas do mundo para não fazer o homem infeliz. As máquinas caminham em direção ao ótimo sem explicar aos humanos o que é exatamente o ótimo, porque os humanos, em sua ignorância, não poderiam aceitar o ótimo. Talvez seja um sistema de castas, talvez uma eco-ditadura, talvez uma matriarcado?

"Nós não sabemos. Só as Máquinas sabem, e elas vão lá e nos levam com elas".

No entanto, Asimov havia de fato estabelecido o melhor parâmetro possível com a primeira lei: O bem-estar do povo tem a maior prioridade! Pode-se imaginar o que aconteceria se os parâmetros fossem estabelecidos de forma menos favorável, ou se não houvesse nenhum! Imagine, por exemplo, sistemas que, como os vírus de computador de hoje, são simplesmente liberados com a missão: "Conquistar o mundo!

O mundo está dividido em diferentes sistemas concorrentes! Logicamente, os sistemas de armas que ainda são "tradicionalmente" controlados pela inteligência humana logo serão inferiores àqueles controlados pela inteligência artificial. A inteligência artificial pode e irá desenvolver planos e cenários que nenhum humano pode ver através deles. Isto se aplica não apenas ao setor militar, mas também às estratégias de mercado, às transações financeiras, simplesmente a quase totalidade da vida humana! Há cerca de 20 anos, nenhum ser humano tem sido capaz de vencer um computador no xadrez, e recentemente nem mesmo em Go. A inteligência das máquinas está crescendo exponencialmente, e somente os estados e empresas que usam esta inteligência para liderar e gerenciar a si mesmos prevalecerão sobre os outros! Essa é uma lei muito simples de evolução!

E assim, não demorará muito para que o servo se torne o mestre! É de se perguntar quando o controle das armas nucleares será entregue às máquinas, que poderão então calcular a alta probabilidade de "seu país" emergir vitorioso em um primeiro ataque, e que danos colaterais podem ser aceitos no processo.

"Como diz tão bem em Fausto, "não posso me livrar dos fantasmas que chamei! O medo de uma destituição e escravização do homem por sua própria criação é muito profundo, e é tema de inúmeros livros e filmes. Não só este desenvolvimento é bastante lógico, já se experimenta na vida diária, como o trabalho na linha de montagem, acompanhando a automatização, mas também a pressão para estar constantemente disponível, por exemplo, através do telefone celular. Quem pode imaginar hoje em dia não estar conectado, não utilizar a Internet ou um cartão bancário, coisas que só existem há alguns anos?

Os sinais dos tempos apontam para uma ditadura, mesmo se esta ditadura ainda é aclamada como "progresso". E veremos quanto tempo levará a "batalha contra as máquinas" profetizada por Herman Hessen. Albert Einstein disse uma vez que não sabia exatamente como a terceira guerra mundial seria travada, mas ele sabia como a quarta guerra mundial seria travada, novamente com a espada! Muito sábio para o "pai da bomba atômica"!

Os muçulmanos realmente acreditam que após a ditadura de Dajjal, a maior tribulação da história da humanidade, todo esse "progresso" terá desaparecido novamente! Cavalo e espada tornar-se-ão as armas das batalhas finais, e não máquinas! Uma discussão sobre ética e moralidade para as máquinas, ou seja, robôs "conformes à shariah" é, portanto, desnecessária para os muçulmanos. Eles deveriam antes pensar em como se manter a salvo deste ataque. Para isso, é necessário entender a natureza deste fitnah.