Moralidade das máquinas na ficção

Durante um rápido pulo na Bienal do Livro, um dos livros que comprei foi Futuro Proibido, uma coletânea organizada por Robert Anton Wilson, Rudy Rucker e Peter Lamborn Wilson. Já tinha visto esse livro nas livrarias antes, mas só agora que fui ler e alguns dos contos são interessantes de tão polêmicos que foram (e outros são ruins hehe). Reúne alguns autores que conheço como William Gibson, Bruce Sterling e outros desconhecidos (e tô pensando em correr atrás das obras desses). Mas esse post não é para falar sobre o livro.

Foi nessa coletânea que fiquei curiosa sobre um dos autores, Rudy Rucker, um matemático e cientista da computação que também escreveu alguns livros de ficção. Descobri que tem uma tetralogia escrita por ele disponível gratuitamente no site ManyBooks (de maneira legal). Estou no terceiro livro, e é interessante, resumindo, é sobre a história das relações entre os humanos e entre máquinas chamadas boppers (que são IAs que evoluem), em uma determinada época do século 21 e tendo como cenários a Terra e a Lua.

O que tenho notado nesses livros e em outras obras de ficção científica é o medo das máquinas suplantarem os humanos, na maioria das tramas, de maneira hostil e direta (como em Terminator) ou de maneira bem sutil, de modo que as intenções reais das inteligências artificiais são só descobertas bem depois (até ia mencionar algumas obras aqui, mas vai que seja spoiler involuntário). É engraçado ver que em boa parte das histórias que vi, os escritores usam como recurso, para manter as máquinas sob controle, simplesmente mencionando as leis da robótica de Asimov.

Só há alguns anos atrás que os cientistas começaram a levar a sério a questão de imbuir nas máquinas algo parecido à moralidade humana. Não vou dizer que estejam tentando aplicar essas leis de Asimov na prática, porque codificar explicitamente essas leis não é algo viável e prático no momento. O máximo que podem fazer é tentar construir agentes morais, e ver como a moralidade poderia evoluir artificialmente. Esse é um ramo recente da inteligência artificial, chamado de moralidade das máquinas.

É uma área bem interessante e eu bem que gostaria de ver alguma obra de ficção que explorasse esse aspecto, para fugir do tradicional clichê de mencionar simplesmente as leis de Asimov. De maneira grosseira, até se pode dizer que essas leis poderiam resumir a moralidade artificial, mas não é bem por aí. E será que realmente no futuro vamos ter alguma agência reguladora de Inteligências Artificiais? Não seria exagero tentar impedir a evolução das máquinas, por meio de repressão e punindo cientistas que incentivam o livre-arbítrio nas máquinas?

Claro que devemos acompanhar atentamente a evolução das inteligências artificiais, mas sem colocar rédeas e freios. No máximo, só incentivá-las e colocá-las no caminho certo. Porque acredito que, no final das contas, do jeito que a tecnologia anda, uma simbiose amigável entre homem e máquina é inevitável. Na real, já temos um tipo de simbiose, mas não no sentido biológico… enfim. Vamos ver se acho alguma obra de ficção que explore a fundo as implicacões interessantes da moralidade das máquinas.

Se alguém souber de alguma obra de ficção que explore a questão da moral nas máquinas sem recorrer às leis de Asimov, compartilhe nos comentários 🙂

E pretendo explorar mais a fundo essa questão, mas fica para um outro post.

Para ler mais:
Moral Machines? New Approach To Decision Making Based On Computational Logic
Moral Machines – Blog de Wendell Wallach e Colin Allen, que escreveram o livro Moral Machines
As leis da robótica de Asimov são balela?

Anúncios

Sobre giseli

Eu: Engenheira, sedenta por bits e chocólatra assumida. Além de ser fã de IAs, principalmente Wintermute e HAL9000
Esse post foi publicado em inteligência artificial, Livros. Bookmark o link permanente.

7 respostas para Moralidade das máquinas na ficção

  1. Romeu Martins disse:

    Hmm, não me lembro de nada que detalhe a questão. Muitas vezes já é mostrada uma realidade consolidada, em que consciências artificiais convivem com humanos e já segindo algum código consolidado… Taikodom do Gerson Lodi é um exemplo.

    Acho que esse seria um bom campo pra você explorar, academica e ficcionalmente 😉

  2. Danilo disse:

    Gi não conheço nada sobre esse tema, mas é um assunto muito interessante!
    O que o Romeu Martins falou é verdade. A maioria das obras que eu conheço trabalha uma realidade homem-maquina já estabelecida, não a construção dessa relação. “Os Dias da Peste” do Fábio Fernandes foi a única que me veio a mente sobre o inicio da convivência da humanidade com as IAs.

  3. Romeu Martins disse:

    @Danilo

    Por email eu dei o exemplo do livro do Fábio, Danilo, até porque o autor vai desenvolver o tema em uma trilogia.

  4. Benê disse:

    Bem, em livros eu não conheço mesmo, mas nos quadrinhos tem coisas interessantes como o MACHINE MAN de Jack Kirby (http://en.wikipedia.org/wiki/Machine_Man) e os METAL MEN de Robert Kanigher (http://en.wikipedia.org/wiki/Metal_Men) .Nada muito profundo, mas existem coisas bem legais feitas com esses personagens.Vale a pena conhecer, se vc curtir HQs, é claro.
    Abs!

  5. Jorge Pereira disse:

    Excelente post de cunho muito provocador, Gi ! è bom ver você de volta ao batente e ver que voc\~e não perdeu nada da sua verve neste tempo que ficou afastada

  6. Pingback: CyberGi » Moral Machines

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s