Moral Machines

Esse post serve como um complemento ao meu outro post sobre a moralidade das máquinas na ficção e também faço um resumo das premissas do livro Moral Machines, de Wendell Wallach e Colin Allen, que li no final do ano passado.

  • Mesclar humanos com tecnologia poderia fornecer sensibilidade para fazer considerações morais, mas a tecnologia que interfaceia diretamente com o humano não pode interferir com a autonomia humana.
  • Parece que a maioria das pessoas ainda não se sente à vontade em deixar 100% do controle de certos processos e sistemas vitais à máquina, como por exemplo, o metrô de SP (e de outras partes do mundo) tem um operador na janela para supervisionar o trajeto. Mas teoricamente o metrô é capaz de operar sozinho sem o operador, a presença humana se fez necessária mais para passar uma imagem de confiança do serviço aos usuários.
  • Claro que não se pode ir botando totalmente o controle nas máquinas, há limites para atribuir faculdades que as máquinas não têm. Para deixar claro, um exemplo, na época da Guerra Fria, houve vários exemplos de falsos positivos nos radares que supervisionavam o espaço aéreo. Já imaginou o que aconteceria se a última palavra para lançar uma bomba nuclear fosse dada aos computadores? Os operadores humanos dos radares sempre esperavam um tempo depois do falso positivo, para esperar por confirmação de terceiros. Ao que parece, prudência ainda é uma boa característica humana…
  • Uma peça de teatro chamada R.U.R., escrita por Karel Capek deu origem à palavra robota, que em tcheco, significa servo. Não é lá grande coisa como livro, mas vale pelo significado histórico.
  • Ter conhecimento de como a mente funciona não implica que devemos construir algo próximo disso. Para entender isso, pense nos conhecimentos do vôo. Sabemos como os pássaros voam, mas não construímos aviões que batem asas, certo? Não precisamos construir uma mente artificial baseada estritamente nos moldes de uma inteligência humana.

Esses são alguns dos pontos abordados pelo livro, interessante para quem quiser se aprofundar no estudo da moralidade das máquinas. Vale a pena para quem é da área ou mesmo curioso. E também serve para evitar uma espécie de Skynet no futuro…

Anúncios

Sobre giseli

Eu: Engenheira, sedenta por bits e chocólatra assumida. Além de ser fã de IAs, principalmente Wintermute e HAL9000
Esse post foi publicado em inteligência artificial, Livros e marcado , . Guardar link permanente.

Uma resposta para Moral Machines

  1. Pingback: Tweets that mention CyberGi » Moral Machines -- Topsy.com

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair / Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair / Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair / Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair / Alterar )

Conectando a %s