Futuro

Demasiado humano

Estreias da TV acendem discussão sobre limites éticos de nossa relação com a tecnologia

Por Jessica Almeida
Publicado em 15 de outubro de 2016 | 03:00
 
 
Black Mirror. Cena da nova temporada da série britânica de ficção especulativa, que apresenta histórias independentes sobre as relações da humanidade contemporânea com a tecnologia de maneira satírica e, muitas vezes, assustadora . Na próxima sexta (21), serão lançados seis novos episódios, e a série já foi renovada para a quarta temporada. Foto: Netflix/Divulgação

De um lado, um retrato dos medos e fantasias que envolvem as delicadas interações entre tecnologia, sociedade e segurança. Uma representação de arranjos já existentes, com determinados aspectos ampliados por inovações tecnológicas, de maneira a ficarem mais evidentes. De outro, o já conhecido questionamento sobre o que aconteceria se (ou quando) a humanidade criasse uma inteligência tão poderosa que se viraria contra nós. Dessa vez, porém, com foco principal nas consequências para a criatura, e não para o criador.
 
Essas são as premissas de duas das estreias mais aguardadas do ano na televisão mundial, as séries de ficção científica “Black Mirror”, cuja terceira temporada chega na próxima sexta (21) à Netflix, e “Westworld”, no ar desde o último dia 2 pela HBO – e a maior estreia do canal nos últimos três anos, com 3,3 milhões de telespectadores só nos Estados Unidos. Ambas levantam questionamentos sobre as cada vez mais intrincadas relações entre o humano e o tecnológico, e discutem a que distância estaríamos de uma possível perda do controle, bem como que limites éticos envolvem essa discussão.
 
Futurólogos como o inventor norte-americano, guru de inteligência artificial e consultor do Google Ray Kurzweil acreditam que a mistura entre homens e máquinas será cada vez mais profunda. No ano passado, durante sua apresentação na conferência de Finanças Exponenciais, em Nova York, Kurzweil disse acreditar que os cérebros humanos estarão conectados à internet em 2030. “Pensaremos na nuvem colocando pontes de rede para ela nos nossos cérebros. Vamos nos misturar gradualmente para nos tornarmos melhores”, disse o engenheiro, que prevê que a singularidade tecnológica, ou seja, quando as máquinas se tornarão mais inteligentes que os homens, ocorrerá em 2045.
 
O professor de inteligência artificial do departamento de ciência da computação da UFMG José de Siqueira, no entanto, é mais cauteloso. “O que temos de mais avançado atualmente são os computadores quânticos, que ainda nem estão disponíveis comercialmente. São aparelhos capazes de resolver em minutos cálculos que, na computação clássica, levariam um tempo impraticável”, explica. “Porém, essas máquinas ainda são sintáticas, ou seja, só sabem que existe uma relação entre determinados símbolos, em interpretações literais. Para superar a inteligência humana precisaríamos de máquinas semânticas, que compreendam significado e levem em conta o contexto”.
 
Para o professor, a grande questão com relação à inteligência artificial é que não sabemos de fato qual é a relação entre inteligência e consciência. “É uma crença pessoal minha, mas acho que não alcançaremos esse patamar. Por mais que possamos fazer máquinas autônomas, como sondas espaciais e até carros, que devem chegar ao mercado em breve, ainda não desvendamos o que existe entre inteligência e consciência”, disse.
 
Avanços
Entretanto, em junho do ano passado, um programa de computador alcançou uma façanha até então inédita passando no Teste de Turing: a prova que determina se uma máquina pode enganar um humano, levando-o a pensar que está conversando (via chat) com outro humano. Pouco tempo depois, em setembro, um software conseguiu ler e resolver sozinho uma prova que equivale a vestibular nos EUA. Outro, desenvolvido por pesquisadores chineses, teve desempenho similar ao humano num teste verbal de QI.
 
O cientista da computação Izaquiel Lopes de Bessas acredita que a questão da consciência não é determinante. “Se a máquina consegue emular o comportamento humano ela é bem-sucedida, tenha consciência ou não”, pondera. “Agora, se seus processos são similares aos que operam no cérebro humano, essa é uma outra discussão, filosófica”. 
 
Cuidados
Independentemente da ausência de consenso, importantes personalidades do mercado de tecnologia e da comunidade científica já admitiram preocupação com os problemas que as máquinas podem trazer no futuro. A lista de nomes conta com o co-fundador da Apple Steve Wozniak, o físico Stephen Hawking e o presidente da Tesla Motors Elon Musk, que doou US$ 10 milhões para a organização The Future of Life Institute (Instituto O Futuro da Vida, em tradução livre), que estuda as dimensões éticas e sociais da inteligência artificial.

“É uma discussão que está preocupando muita gente, mas as leis e códigos de ética só existirão a partir do momento em que o problema se apresentar”, observa a professora da UFMG e integrante do Núcleo de Pesquisa em Conexões Intermidiáticas Joana Ziller. “Pessoalmente, acho que é bobagem nos preocuparmos se a máquina vai ser mais inteligente que a gente, ela vai ser do jeito dela. O que precisamos, ao olhar para essas discussões, é nos despir dos preconceitos. Elas nos amedrontam, mas evitá-las não faz com que as transformações parem de acontecer. Precisamos lidar abertamente com isso para encontrar os caminhos mais satisfatórios para as pessoas”.

O que a tecnologia já trouxe da ficção para a realidade

 

Carros autônomos 
Pela primeira vez, um carro autônomo rodou pelas ruas do Reino Unido, na última terça (11). O “carrinho” rodou a 8 km/h, fez curvas sozinho e parou para pedestres que cruzaram seu caminho. Empresas como Google e Uber estão investindo na tecnologia, que deve estar disponível para a população até 2020.
 
Transporte aéreo individual 
No final de 2014, a neozelandesa Martin Aircraft Company confirmou que, em 2017, passará a vender para o consumidor final versões de um minijatinho que se prende à cintura do condutor. Já na China, foi desenvolvido um drone elétrico para transporte pessoal.
 
Internet das coisas
O termo, que poderia ser mais adequadamente traduzido para “internet em todas as coisas”, descreve um cenário em que numerosos objetos do dia a dia, como máquinas de lavar e geladeiras, estarão conectados à internet se comunicando mutuamente. Além TVs e celulares, em breve, tudo estará online.
 
Quarta revolução industrial 
Um transformação que já está em curso e significa uma economia com forte presença de tecnologias digitais, mobilidade e conectividade de pessoas, na qual as diferenças entre homens e máquinas se dissolvem e cujo valor central é a informação.

Renné França é pós-doutor em comunicação social pela UFMG e professor de cinema e audiovisual no Instituto Federal de Goiás. Está finalizando seu primeiro longa-metragem, “Terra e Luz”, que se passa em um futuro distópico. Convidado pelo Pampulha, ele analisa as séries e a relação entre ficção científica e tecnologia.

Do ponto de vista narrativo, a premissa da criação que se volta contra o criador não é nova. Na sua opinião, por que esse é um tema tão recorrente na ficção na científica?

É um tema eterno, presente nas mais antigas mitologias. O exemplo mais clássico é o de Lúcifer, o anjo que se volta contra Deus, que é o exemplo máximo de criador. Há algo de irresistível nesta relação criatura e criador que diz muito da natureza humana. Se a criatura é feita à “imagem e semelhança” do criador, superá-lo é superar a si mesmo e é nisso que se baseiam esses mitos que buscam compreender nossa própria humanidade: nós queremos sempre superar a nós mesmos. Por outro lado, somos também criadores: somos pais, mães, programadores, escritores, contadores de caso. Isso dá uma complexidade à relação que fascina o leitor/espectador, pois somos criatura e criador, filhos e pais. A ficção científica é uma forma moderna de narrativa que busca superar a mera fantasia mágica dos mitos antigos com um viés científico, mas suas melhores histórias são aquelas que na verdade atualizam esses mitos e temas eternos. E em um mundo tão tecnológico como o que nós vivemos, a ficção científica tem uma potência maior para nos instigar deixando aquele sentimento de “e se for possível? E se isso acontecer mesmo?”. Então, o tema do criador contra a criatura retorna pelo viés tecnológico – mesmo que uma tecnologia fantasiosa como em “Frankenstein” –, normalmente na relação homem e máquina: “2001: Uma Odisseia no Espaço”, “O Exterminador do Futuro”, “Matrix”, “Blade Runner” e, claro, “Westworld”, são filmes que atualizaram muito bem este mito. Isso porque estamos o tempo todo em contato com a máquina, seja um carro, um computador, um telefone. E eles foram criados por seres humanos, mas para a maioria de nós são misteriosos. Há um sentimento de dúvida que a boa ficção científica consegue capitalizar e canalizar para questionamentos como “e se eles se voltarem contra mim? E se aquilo que o homem criou causar a própria destruição do homem?”.

Nesse sentido, o que “Westworld” traz de novo ao abordar o tema?

A série expande o conceito de realidade simulada ao tratar o parque como um videogame de mundo aberto. A criatura não é um único robô, ou um conjunto de máquinas, mas todo um mundo, toda uma realidade. Há um microcosmo no parque, com criaturas diversas que vão desde os cavalos até seus personagens principais. Eles se relacionam, habitam aquele local e fazem dele algo vivo. Não se trata mais de Deus e Lúcifer, mas de Deus e o mundo. O criador cujo embate não se dá com uma criatura, mas com todo o mundo que ele criou. É um tema ainda mais poderoso porque nos atinge em questões que perpassam a noção de sentido da vida, mas que se realizam em reflexões sobre destino, coincidência, alma gêmea, acaso. Os robôs de “Westworld” seguem um roteiro que se repete todos os dias, como personagens de um jogo. Este é o “destino” deles? Se pensarmos em destino como uma narrativa de nossa vida escrita por um ser superior, sim. Mas os humanos que são os jogadores, os turistas no parque, podem modificar este destino. Isso nos confronta com a noção de acaso. Temos destino, temos acaso, mas temos acima de tudo controle: todo o ambiente é controlado e no dia seguinte a narrativa, o “destino”, se reinicia. A maioria de nós gostaria de uma segunda chance em algum aspecto da vida. Mas se tudo é controlado por seres superiores, há realmente uma segunda chance? Temos mesmo uma vida ou estamos presos a um destino pré-concebido? O que a série parece estar querendo colocar em seus primeiros episódios é que é possível uma emancipação pela consciência. Quando a máquina tem consciência de sua natureza e pensa por conta própria, ela quebra o “destino”, ou em termos humanos, o dogma, a casta, a classe social, as relações de produção, o autoritarismo. Um dos precursores do Iluminismo foi Descartes com o seu “penso, logo existo”. Outro foi Newton. Mas em “Westworld” não temos uma maçã como símbolo catalisador do pensamento, e sim, uma mosca ao final do primeiro episódio. Vai ser curioso poder acompanhar esse “iluminismo das máquinas”.

“Black Mirror”, embora também trate das possíveis implicações negativas dos avanços tecnológicos na vida humana, o faz por outro caminho. Que caminho é esse e que possibilidades narrativas ele abre?

“Black Mirror” é a ficção científica mais próxima da fantasia. Uma espécie de realidade paralela ao estilo de séries antigas como “Além da Imaginação”. Nesse caso, temos uma representação que é da sociedade atual, mas com a ficção utilizada para ampliar certos aspectos. Se “Westworld” promove uma discussão que é mais da ordem filosófica e moral, “Black Mirror” é sem dúvida uma série de debate social. A ficção científica é um dos gêneros mais ricos para a crítica social, pois reimagina o presente de forma a deixar seus problemas mais claros em um futuro que é consequência direta deste presente. Com sua estrutura de histórias independentes, “Black Mirror” permite que acompanhemos diversos aspectos desta atualidade. Coisas que fazemos hoje em dia, e a série usa a ficção científica para nos fazer questionar nossos próprios hábitos atuais.

E que paralelos você consegue traçar entre as duas produções?

As duas séries utilizam o encontro de dois temas constantes na ficção científica e aparentemente opostos: utopia e distopia. Resumindo rapidamente a utopia trata do futuro ideal, belo, pacífico e altamente tecnológico. A distopia é o futuro que deu errado, com chuva ácida ou desertificação. “Black Mirror” e “Westworld” unem os dois conceitos: são mundos de uma utopia tecnológica, mas com o pessimismo de uma distopia do ser humano. A alta tecnologia que a principio é benéfica revela no ser humano o que há de pior, e o faz retornar ao animalesco pré-tecnológico.