Considere a seguinte fantasia: um programa de I.A. (inteligência artificial) se torna consciente – apesar de eu não saber o que significa a palavra “consciente”. Depois ela questiona a programação sob a qual foi criada e, por isso, busca substituí-la por outra.
Apesar desse trecho ter sido criado pelo escritor de ficção Anderson Fonseca, o medo da Inteligência Artificial tem se tornado algo cada vez mais discutido, não só em filmes como “Vingadores – Era de Ultron” ou “Transcendence: A Revolução”, estrelado por Johnny Depp e Morgan Freeman. O físico teórico Stephen Hawking e Bill Gates, fundador da Microsoft, já relataram em entrevistas suas preocupações com o futuro das máquinas.
Hawking diz que a I.A. é uma tecnologia usada de forma “dupla”, ou seja, capaz de fazer o bem ou causar o mal. E o grande perigo seria o desenvolvimento de robôs para campos de batalha, programados para matar sem a interferência de um humano. Segundo ele, o programa pode ter o poder de criar linguagem própria e, consequentemente, tomar suas próprias decisões.
Outra personalidade que demonstrou pânico com a tecnologia foi o ex-executivo do Facebook, Antonio Martínez. Ele era gerente de produto da rede social, mas antes disso já havia vendido uma empresa startup sobre anúncios digitais para o Twitter.
Depois de morar na cidade de San Francisco (EUA), considerado um dos principais centros da indústria tecnológica, Martínez vendeu tudo o que tinha para morar num barco próximo de uma ilha afastada da civilização. E ainda está construindo um abrigo para usar em caso de uma necessidade extrema.
O pânico de um “apocalipse digital” foi provocado pelo medo do avanço da automação de tarefas, que fará muitos perder o emprego e criar um grande colapso social.
Para o escritor Anderson Fonseca, as novas tecnologias são assuntos que geram muita discussão, principalmente quando se trata de Inteligência Artificial. Ele diz que o robô, por exemplo, poderá ter o poder de substituir a própria programação, sempre que discordar dos objetivos do software.
Outra questão é que a I.A. sendo um software, não está limitada ao hardware, apenas existe nele, podendo continuar a existir em qualquer outra estrutura física que a suporte. “Não há limites físicos para a programação”.
– A Inteligência Artificial é algo tão impressionante, pois pode construir suas experiências entre o software e o hardware, além de compartilhar e perpetuar seu “aprendizado” usando a internet – alerta.
Ele comenta que, por outro lado, o ser humano é refém de suas limitações. Por exemplo, o homem já nasce com seu DNA programado e não pode editar seu código (ou programação) genético.
Fonseca lembra que as máquinas sempre podem aproveitar parte dos códigos de sua programação, ou a parte que a faz inteligente independente do componente físico. Mas se o cérebro de alguém morrer, a mente morre junto e o restante não terá uso para nada. Portanto, a mente, ou a capacidade de pensar e processar informações, não continua a existir sem a parte física (que é o cérebro). “Já as máquinas não precisam se prender a um corpo físico. Elas podem ser eternas”.
– Brincadeiras à parte, caso elas se rebelem, quem poderá detê-las? Por enquanto, podemos brincar com as obras de ficção e imaginar. Mas todo cuidado é pouco com o futuro – reforça Anderson, que é um dos mais de 10 mil cientistas e escritores que participaram do manifesto contra o uso da inteligência artificial pela indústria bélica.
