Neste post voltamos a falar da questão homem X máquina. Temos abaixo um brilhante comentário de Cristiano Castelfranchi, renomado pesquisador de inteligência artificial do Conselho Nacional de Pesquisa da Itália. O trecho adaptado foi extraído de entrevista para a edição de abril-maio-junho de 2008 da revista Ciência e Cultura.
CeC: Professor Castelfranchi, existe a possibilidade de termos guerras contra máquinas racionalmente mais sofisticadas que os humanos?
Castelfranchi: Eu sou um pouco cético quanto à idéia da possibilidade real da evolução biológica das máquinas, da capacidade delas virem a se reproduzir, etc. Por outro lado, acredito que o perigo real e mais próximo seja a profecia Unabomber. Ela fala que no surgimento das máquinas artificialmente inteligentes, estas seriam totalmente dependentes às nossas decisões.
Mas, conforme nossa sociedade se tornasse mais e mais complexa e as máquinas ficassem mais e mais inteligentes, começaríamos a delegar a elas certas decisões. Isto ocorreria unicamente pelo fato das decisões das máquinas levarem a resultados melhores que os obtidos por decisões humanas. Eventualmente, chegaríamos a um momento que, de tantas decisões delegadas às máquinas, mesmo que tenhamos o poder de desligá-las, acabaríamos por levar nossa espécie ao suicídio se tentássemos algo desta espécie. Isto ocorreria por causa da nossa estrutura social incrivelmente complexa, de modo que apenas máquinas seriam cognitivamente capazes de geri-la.
Este cenário previsto por Unabomber já começa a se tornar realidade. Hoje temos muitos sistemas especialistas que tomam decisões nos setores financeiro, militar e até mesmo médico. Testes mostram que sistemas de diagnóstico médico artificiais são capazes de tomar decisões mais acertadas que as de um cirurgião humano. Hoje eu ainda tenho a liberdade de perguntar algo a este sistema, ele me dá a resposta e eu decido. Mas suponhamos que daqui a 10 anos este sistema esteja aperfeiçoado, com um desempenho excelente. O que acontecerá legalmente a um médico que, confiando na sua intuição profissional, desrespeitar a sugestão da máquina e o seu paciente vier a falecer?
Entrevista feita por Luiz Paulo Juttel
Edição de Rafaela Sandrini
Castelfranchi: Eu sou um pouco cético quanto à idéia da possibilidade real da evolução biológica das máquinas, da capacidade delas virem a se reproduzir, etc. Por outro lado, acredito que o perigo real e mais próximo seja a profecia Unabomber. Ela fala que no surgimento das máquinas artificialmente inteligentes, estas seriam totalmente dependentes às nossas decisões.
Mas, conforme nossa sociedade se tornasse mais e mais complexa e as máquinas ficassem mais e mais inteligentes, começaríamos a delegar a elas certas decisões. Isto ocorreria unicamente pelo fato das decisões das máquinas levarem a resultados melhores que os obtidos por decisões humanas. Eventualmente, chegaríamos a um momento que, de tantas decisões delegadas às máquinas, mesmo que tenhamos o poder de desligá-las, acabaríamos por levar nossa espécie ao suicídio se tentássemos algo desta espécie. Isto ocorreria por causa da nossa estrutura social incrivelmente complexa, de modo que apenas máquinas seriam cognitivamente capazes de geri-la.
Este cenário previsto por Unabomber já começa a se tornar realidade. Hoje temos muitos sistemas especialistas que tomam decisões nos setores financeiro, militar e até mesmo médico. Testes mostram que sistemas de diagnóstico médico artificiais são capazes de tomar decisões mais acertadas que as de um cirurgião humano. Hoje eu ainda tenho a liberdade de perguntar algo a este sistema, ele me dá a resposta e eu decido. Mas suponhamos que daqui a 10 anos este sistema esteja aperfeiçoado, com um desempenho excelente. O que acontecerá legalmente a um médico que, confiando na sua intuição profissional, desrespeitar a sugestão da máquina e o seu paciente vier a falecer?
Entrevista feita por Luiz Paulo Juttel
Edição de Rafaela Sandrini
Original em:
Postagens
Nenhum comentário:
Postar um comentário