Os desenvolvedores do Talos Principle 2, Jonas e Verena Kyratzes, conversam com Games wfu para discutir os temas, influências, IA do jogo e muito mais.
Sete anos após o jogo original, The Talos Principle 2 foi finalmente lançado para as massas. A sequência do quebra-cabeças filosófico O Princípio Talos recebeu notas altas da crítica. Mas as questões sobre a humanidade que The Talos Principle 2 explora são muito diferentes, e de uma forma mais adultas, do que as do jogo original.
A crescente consciência da inteligência artificial nas conversas diárias não foi o que mudou o foco dos jogos. Na verdade, isso apenas acrescenta profundidade às ideias que Croteam explora no segundo ano da série porque, de acordo com os desenvolvedores, as ansiedades sobre a inteligência artificial refletem preocupações mais profundas que a humanidade tem consigo mesma.
A equipe de redatores de marido e mulher, Jonas e Verena Kyratzes, conversou com Games wfu para uma entrevista logo após o lançamento do jogo, explorando a filosofia, as influências, os gatos e a humanidade encontrados em The Talos Principle 2 .
A entrevista a seguir foi editada por questões de brevidade e clareza.
P: Devo perguntar para começar: um robô pode ser humano ?
Jonas: Sim, eu diria que de certa forma, eu acho, dependendo, é claro, de como você define a forma como um humano pode ser humano. No sentido de fazer parte da civilização humana, eu diria que sim. O jogo diz que sim.
Verena: Concordo. Essa é a resposta. Você tem razão. Está correto. Não, penso que não neste momento, mas penso que, dado o progresso tecnológico, sim, claro, em algum momento no futuro. E eu ficaria muito feliz em ver isso.
P: Percebi que o Princípio 2 do Talos está menos preocupado com essa questão do que o primeiro jogo. O que levou a essa decisão?
Jonas: Bem, basicamente, nós lidamos com isso no primeiro jogo tão extensivamente que parecia que apenas repetiríamos as mesmas batidas na sequência. E estávamos muito, muito preocupados em dar um passo à frente na narrativa e dizer: “o que vem a seguir?” Caso contrário, pareceria que estávamos fazendo o mesmo jogo novamente. E nós realmente não queríamos fazer isso.
Verena: O que sempre gosto de dizer é que o primeiro jogo tratava desses robôs humanos em sua infância, quando sua civilização era recém-nascida, essencialmente. E agora estamos olhando para a idade adulta deles. Parecia uma progressão lógica.
P: “Um robô pode ser humano” realmente resumiu o primeiro jogo. O Princípio 2 do Talos tem uma questão central semelhante?
Jonas: Acho que é fazer mais de uma pergunta, porque é necessário. Porque acho que uma vez que você nasce, uma vez que você se estabelece como quem você é, você se depara com todas as outras questões. Onde nos encaixamos? Onde os humanos se enquadram no quadro geral? E como funcionam todas essas partes do quadro geral? O que acontece agora? Qual é a nossa relação com esta máquina – biológica ou elétrica – que somos no universo? Que lugar é esse em que estamos? E como vivemos juntos dentro dele?
P: Muito do nosso entendimento sobre IA mudou desde o lançamento do primeiro jogo em 2014. Como isso afetou o desenvolvimento e a história do Princípio Talos 2 ?
Jonas: Para ser honesto, não mudou.
Por um lado, nós o escrevemos antes que muitas dessas coisas do tipo ChatGPT se tornassem tão populares . Quero dizer, estávamos cientes dessas coisas, mas elas não haviam realmente entrado no mainstream dessa forma. E também, uma vez que há um debate sobre isto, que é legítimo e complexo, certamente não penso que os actuais grandes modelos de linguagem sejam de alguma forma inteligentes. O jogo é muito sobre inteligência artificial geral, chamada GAI ou verdadeira IA. Então eu acho que isso realmente não influenciou muito nosso pensamento sobre isso.
Verena: Acho que o corpo principal do jogo foi escrito há dois, dois anos e meio? E esse debate atual sobre IA já durava cerca de um ano, um ano e meio, talvez? E então pensamos em algum momento do desenvolvimento que poderíamos fazer alguns ajustes, mas não sabíamos exatamente o que, porque o que estamos falando não é realmente o que todos estão falando agora. Tipo, é adjacente, mas estamos falando de inteligência genuína.
Jonas: Se há paralelos de alguma coisa, eu acho, é com iterações e como isso funciona na simulação do primeiro jogo, mas não tanto com Talos 2 , no qual eles realmente estabeleceram seres inteligentes e incorporaram seres inteligentes e agora eles meio de ter que descobrir o que fazer com eles mesmos. Na verdade, trata-se muito menos de inteligência artificial, trata-se muito mais da própria humanidade, simplesmente por meio da inteligência artificial.
P: A sequência definitivamente continua a alegoria religiosa do original, transformando Atena em uma figura messiânica. O que o jogo está dizendo com essas conexões?
Jonas: Não quero dizer que o jogo disse alguma coisa, acho que o jogo está explorando alguma coisa. Não creio que haja uma mensagem que deva ser resumida. O segundo jogo está muito preocupado com a fé e as formas de fé , tanto negativas quanto perigosas quando mitificamos coisas que talvez não devessem ser mitificadas, mas também está muito preocupado em manter a fé e precisar da fé – precisar acreditar em algo para ser capaz de funcionar no mundo, de poder continuar lutando quando as coisas vão mal. Que forma essa fé pode ou deve assumir. E os personagens têm perspectivas muito diferentes, alguns até argumentando que aquilo em que você tem fé não precisa ser necessariamente real – embora eu discorde, eles não veem dessa forma.
É um jogo que, em geral, se preocupa muito, muito com a fé, e toca na religião, tanto obviamente nas suas imagens, mas também na nossa relação com o próprio universo , com o cosmos, com a beleza e um sentido do sublime. . Esses robôs são capazes de experimentar. Eles são capazes de ver a beleza e buscar algum tipo de significado ou experiência maior ou espiritualidade ou algo no universo. Eles estão procurando por isso e tentando entender tudo isso, assim como nós.
Então eu acho que dá continuidade a essas coisas da mesma maneira, onde ambos têm muito respeito e interesse pela religião. E acho que a complexidade do primeiro jogo tem um pouco disso também, onde é um jogo que fala muito em termos religiosos, mas é um jogo muito humanista e materialista. E é onde esses dois se encontram que tudo se torna interessante.
P: O que cada um de vocês pensa pessoalmente da Meta? É uma boa maneira de viver?
Jonas: O objetivo é a crença de que não deveria haver mais do que um certo número de pessoas para preservar algum senso de equilíbrio harmonioso. Obviamente não quero prejudicar os jogadores, no sentido de que o jogo permite deliberadamente que tomem posições muito diferentes, e que apresentamos personagens que são legítimos no seu apoio a estas coisas como Alcatraz, que é uma personagem muito simpática e que acredita nessas ideias.
Agora, pessoalmente, não apoio o Goal. Eu acho que eles são catastróficos. Considero todas as formas de eco-austeridade profundamente anti-humanas e ameaçadoras para o nosso futuro e para a nossa capacidade de existir como espécie. Além disso, pensamentos como o Objectivo só podem levar aos resultados mais reaccionários. Isso não significa que essa seja a mensagem do jogo. É uma perspectiva que existe no jogo.
Verena: Concordo com Jonas. Tentamos muito escrever o jogo de uma forma que, se você não concordar com os escritores, você poderá jogar e o jogo não forçará sua opinião garganta abaixo. Mas também penso que o Objectivo é, especialmente na nossa sociedade de robôs que essencialmente vivem para sempre, uma péssima ideia. Para nós e para o mundo real também.
P: Além de continuar a discussão sobre o que torna uma pessoa humana, o Princípio 2 do Talos começou a trazer mais filosofia política. Essa foi uma decisão intencional de sua parte, para expandir os tipos de argumentos filosóficos que o jogo estava apresentando?
Jonas: Sim, por necessidade. O primeiro jogo é sobre um indivíduo, é sobre quem sou eu? O que me faz ser eu? Mas os indivíduos não existem fora do contexto social. Existimos em sociedade, somos animais políticos. É isso que queremos explorar: o indivíduo no contexto, tanto da cidade, como também do próprio cosmos. Qual é a nossa relação com o universo? O universo é benigno? Mas também, qual é o nosso relacionamento com outras pessoas? O Estado? Como nos organizamos de uma forma que beneficie ou não o florescimento humano do indivíduo?
Verena: Acho que o que ressoa em muitos jogadores é que, hoje em dia, muita gente se sente um pouco perdida. Tipo, eles não sabem exatamente o que fazer consigo mesmos. E eles sentem que querem ter um contexto social mais amplo. Eles não necessariamente formaram explicitamente esse pensamento, mas acho que é isso que eles desejam. E eles também sentem que foram deixados sozinhos pelo sistema. Isso ressoa muito bem com os jogadores.
E também é algo que queríamos explorar; esta ideia da responsabilidade da sociedade para com o indivíduo, mas também da responsabilidade do indivíduo para com a sociedade, e explorar o que significa talvez ser um todo coeso.
P: Você acabou de mencionar algo que notei enquanto jogava e que achei interessante. Quando 1K é questionado sobre esses grandes problemas sociais, geralmente há uma opção para escolher uma resposta que diz essencialmente: “Ei, já existo há cerca de duas horas, por que essa decisão é minha?”
Jonas: Sim, todos nós fomos levados a essa grande coisa pré-existente. E as escolhas que fazemos às vezes têm um impacto enorme sobre nós mesmos, às vezes nenhum impacto. É uma experiência confusa; você é jogado no meio dessa enorme história e não tem ideia do que está acontecendo, não apenas no jogo, mas na vida cotidiana. Você nasceu em um mundo onde as pessoas, anos atrás, tomaram um monte de decisões que de repente, por exemplo, retiraram muitas liberdades que você teria há 20 anos, nós jogamos pela janela por causa do terrorismo.
E você pensa: “Eu não nasci quando isso aconteceu, quando fizemos todas essas escolhas por mim, então por que não consigo entrar em um avião sem tirar os sapatos ?” Você sabe, nascemos em um mundo que já tem toda essa história, e não escolhemos nada disso. E é muito difícil ver como diabos podemos mudar isso. Mas, ao mesmo tempo, você sente que precisa se posicionar sobre muitas coisas porque parece eticamente importante. E acho que é uma situação desesperadamente confusa para a maioria das pessoas.
Verena: Então, quando você é o escritor, especialmente quando você é o escritor de uma sequência, é muito importante sempre dar um passo para trás e dizer “Espere um minuto, pode haver jogadores que nunca jogaram The Talos Principle , ou que talvez não tenham lido todos os textos.” Então, parte disso é apenas dizer realisticamente que sou uma pessoa, sou 1K, ou sou um jogador que literalmente interagiu com o mundo inteiro por uma hora, e talvez eles ainda não tenham uma opinião.
Jonas: Quero dizer, a frase que sempre tivemos foi “1K também não jogou The Talos Principle ”. Sim.
P: Qual é o papel dos quebra-cabeças em nossa cultura e no mundo real?
Jonas: Isso é algo que o primeiro jogo discutiu um pouco. A cientista que criou tudo isso, Alexandra Drennen, fala sobre o fato de o ser humano adorar jogos. Não apenas quebra-cabeças, apenas gostamos de resolver coisas. Isso é algo que está realmente em nossa natureza. Se você der blocos aos humanos, eles construirão alguma coisa. Há algo em nós, na nossa natureza, na verdade, que acho que nos faz criar problemas para nós mesmos resolvermos, porque gostamos disso.
Os videogames são um exemplo perfeito. Por que você está pagando para ter um monte de problemas no seu computador que você pode resolver? Bem, porque gostamos de fazer isso. Gostamos de poder resolver problemas. E penso que se olharmos mais longe, um dos problemas do nosso mundo actual é que este impulso que temos não está a ser muito utilizado. Não há muito para as pessoas fazerem. Os empregos que temos e que estão disponíveis para a maioria das pessoas não são satisfatórios nesse sentido.
Há uma discussão mais tarde no jogo sobre alguém ficar viciado em um jogo de fazenda e por que ele está viciado. E uma das maneiras de encarar isso, como sugerido, é querer apenas fazer coisas que pareçam construtivas.
Nós meio que nos tornamos uma sociedade que constrói muito pouco e conserta muito pouco e explora muito pouco e, principalmente, pode fazer coisas estranhas e ficar sentado. As pessoas que fazem coisas físicas muitas vezes não são apreciadas por isso. E essa é uma maneira muito estranha de construir uma sociedade quando você é uma espécie que adora construir, consertar, mudar e todas essas coisas.
Verena: Acho que Jonas tocou acidentalmente em algo aí, que é que se você olhar para a civilização humana, para a história da nossa civilização, sempre que começamos a fazer coisas que não eram, estritamente falando, necessárias para a sobrevivência, como brincar jogos, ou falando de filosofia, tivemos uma certa prosperidade. O berço da filosofia estava na Grécia antiga, perto do Mediterrâneo, que era um lugar incrivelmente rico para se viver, e por isso as pessoas não precisavam se preocupar em serem comidas por um tigre dente-de-sabre. Ok, estou confundindo um pouco os cronogramas aqui.
Mas eles poderiam falar sobre sombras numa caverna e todas essas coisas. A propósito, não estudei filosofia, então provavelmente deveria parar de falar neste momento. Mas sinto que estamos perdendo isso de novo. Hoje em dia, na sociedade, as pessoas têm que ter três, quatro empregos para ganhar a vida e pagar o aluguel. E há um certo desrespeito por essa alegria e apenas fazer algo por fazer. Os seres humanos não gostam de ficar ociosos.
Se eu tivesse uns US$ 10 milhões, nunca mais trabalharia na minha vida. Mas eu faria algo com meu tempo, então acho que esse impulso de fazer as coisas apenas pelo prazer é algo incrivelmente humano que poucas espécies além da nossa têm.
P: Isso realmente me leva a algo. Eu amei tudo sobre Milton’s Rest. Adoro que Milton, o gato, seja mais lembrado do que Milton, o assistente de biblioteca. E animais de estimação são coisas que os humanos têm pelo prazer de ter. O que os gatos dizem sobre a experiência humana ?
Jonas: Ah, isso é uma trapaça. Essa é uma pergunta difícil.
Verena: Que somos glutões de castigo.
Jonas: Por que teríamos esses animais? Dizemos, como pessoas que têm muitos deles para o nosso próprio bem. Isso é genuinamente interessante e complicado, porque acho que posso levar isso em muitas direções diferentes.
Então é incrível o que fazemos pelos gatos. Quando você pensa sobre o que oferecemos a eles, às vezes penso em quanto tempo nossos gatos vivem, certo? Eles podem viver 20 anos, se tiverem sorte. Eles nunca precisam trabalhar. Eles nunca precisam nem caçar. Nós cuidamos deles, proporcionamos-lhes uma experiência incrível. E essa é uma escolha que fazemos, dizemos, você simplesmente terá uma vida incrível. Porque eu me sentiria péssimo se você tivesse uma vida difícil, porque você realmente não entende o mundo. Você não entende porque não se sente bem, então vou te levar ao médico e te deixar melhor porque eu entendo e você não.
Há algo aí na responsabilidade que temos para com outras formas de vida simplesmente por sermos inteligentes. Tem algo que mais tarde no jogo, o personagem que está lá em Milton’s Rest, ele meio que fala sobre nossa responsabilidade em diminuir o sofrimento em outras espécies . Então, acho que há algo aí sobre a nossa responsabilidade de tornar o mundo melhor para outras espécies que não têm os nossos dons de serem capazes de, por exemplo, descobrir como funciona uma doença de gato e depois criar uma vacina para ela. Ou apenas descobrir uma maneira de abrir um gato e remover um tumor e então, você sabe, o gato viverá, o que não é uma tecnologia que os gatos descobrirão tão cedo.
Acho que algo sobre isso é muito fascinante. Mas, além disso, acho que há algo muito mágico e maravilhoso simplesmente na nossa capacidade de ir além da nossa própria espécie e ter esse relacionamento com outro tipo de ser que está ciente, e até certo ponto, de que você pode formar esse tipo de vínculo mesmo entre espécies diferentes. Há algo incrivelmente poderoso nisso.
Verena: Sim, acho que é uma pergunta interessante. Porque se você olhar para humanos e cães – eu tenho um cachorro, sou um humano e o cachorro olha para mim e diz: “Você é Deus, eu te amo. Eu me jogaria na frente de um ônibus por você.” E eu tenho um gato e o gato diz “me alimente”. A relação era muito menos altruísta, na verdade, por parte do gato.
Acredito profundamente que meus gatos me amam. E acho que eles acham que Jonas está bem. Mas acho que temos uma certa necessidade de companheirismo. Acho que se você fizer um gato como você, sentirá que realmente conseguiu algo. Então isso é algo para se trabalhar.
Jonas: Também acho que algo importante que sempre dizemos é que os humanos domesticaram cães e gatos simplesmente porque são úteis de uma forma ou de outra. Não estou realmente convencido disso. Certamente eles foram úteis, mas não estou convencido de que alguém tenha dito: “Ah, encontrei um cachorrinho de lobo e vou ensiná-lo a pastorear ovelhas”. Não, eles encontraram um filhote de lobo e disseram “droga, a mãe dele morreu, sinto muito por isso. Ok, vamos levá-lo para a caverna e vou alimentá-lo com minha comida, ok, ninguém fique bravo comigo.” E outras pessoas disseram: “Não, é meio fofo, deveríamos ter mais deles”. E então talvez eles os tenham ensinado a pastorear ovelhas.
Você vê que mesmo em sociedades realmente antigas, por exemplo, o amor pelos cães era algo muito profundo . Tipo, a Odisséia tem um cachorro. Tem uma história trágica sobre um cachorro e o amor dele por seu dono. Então isso é algo que há 3.000 anos era reconhecido como algo importante em sociedades que eram muito mais brutais do que a sociedade em que vivemos agora.
P: Voltando aos quebra-cabeças, os quebra-cabeças do Princípio Talos refletem de alguma forma os argumentos filosóficos que o jogo apresenta?
Jonas: Não fortemente. Não quero fazer afirmações que não possa sustentar com evidências. Eu realmente acho que a abordagem do jogo tem algo em que quebra-cabeças simples são simulados, há uma lógica neles e você pode encontrar uma solução que não é necessariamente a solução que os desenvolvedores pretendiam, e isso vai trabalhar. Não é algo codificado para funcionar apenas de uma maneira. Ao contrário, digamos, do antigo jogo de aventura em que você tinha que usar o sorvete no cachorro para conseguir a chave para abrir a cobra ou algo assim.
Em um jogo como o Talos , existe uma lógica real e você pode usar sua inteligência dessas maneiras. Mas, ao mesmo tempo, os quebra-cabeças têm uma lógica dentro deste mundo, e há uma razão para eles estarem lá, e tudo está meio que interligado. Eu não chegaria ao ponto de dizer: “este quebra-cabeça é o método socrático”.
P: Notei que muitos dos nomes desses humanos mecânicos, como os chamei, refletem algumas das grandes mentes criativas e pensadores da história humana. Quem foram algumas das figuras mais influentes da história de onde você se inspirou?
Jonas: Estou pensando no robô chamado Empanada.
P: Bem, também há Roxo. Aliás, devo dizer que adorei Purple.
Verena: Ah, isso me deixa muito feliz.
Jonas: Mas quero dizer, não acho que nos baseamos em figuras históricas específicas na criação dos personagens, mas Byron recebeu o nome do escritor de viagens e antifascista Robert Byron, que é uma pessoa fascinante que amo há muito tempo. . Ele morreu muito jovem, infelizmente, na Segunda Guerra Mundial. E então há uma expressão dele no sentido de que ele era alguém extremamente teimoso, e talvez às vezes não soubesse quando calar a boca.
Byron tem um pouco disso, ele não é puramente Robert Byron, mas ele tem essa atitude de acreditar fortemente nas coisas e às vezes ser um pouco, você sabe, um pouco sarcástico e dizer coisas talvez no contexto em que você deveria ser um pouco mais diplomático.
Verena: Também há um pouco de Carl Sagan nele, certo?
Jonas: Então definitivamente há algo nele. Acho que se Carl Sagan estivesse vivo agora, ele sentiria a frustração que Byron sente com a situação em que estamos como sociedade. Obviamente Alexandra Drennen é do primeiro jogo, mas ela é muito importante – seu legado é muito importante no segundo jogo. Ela também é fortemente influenciada por Carl Sagan.
Existem muitos escritores e pensadores que influenciaram o jogo, mas não posso necessariamente vinculá-los a personagens individuais. Exceto, talvez, Damien, já que lhe demos o nome de um escritor em particular, um escritor sobre questões ecológicas que considero muito fascinante, chamado Leigh Phillips, cujo nome completo é Damien Leigh Phillips. Eu pensei, ok, vou roubar o nome dele.
P: E quanto aos pensadores da história que influenciaram o mundo e a narrativa?
Jonas: Carl Sagan, certamente em termos desse humanismo comovente que ele tinha. Para mim, parece quase profético. Se você me perguntasse se Deus enviou algum profeta nos últimos séculos… Em termos de influências poéticas, há um pouco de William Blake, que teve uma influência especialmente no primeiro jogo que continua no segundo jogo com o casamento de céu e inferno. Tenho certeza que estou esquecendo alguns.
Quer dizer, obviamente os grandes escritores de ficção científica – Ian Banks, por exemplo, foram uma influência porque imaginou um futuro muito positivo nos seus livros de Cultura, com inteligências artificiais inteligentes que têm sentido de humor e personalidades. Existem outros pensadores, é claro, pensadores filosóficos que têm influência. Por exemplo, há Karl Marx, que tem influência no jogo através do materialismo histórico e da questão de como a história evolui, se tudo é definido pelas condições em que nos encontramos, ou se podemos resistir a isso. Portanto, há muita discussão no espaço sobre pessoas como Marx e Hegel, que influenciam o jogo.
Verena: Eu estava tipo, clássico Star Trek ? O que Star Trek costumava ser, em oposição ao que é hoje em dia. Interestelar é um filme que nós dois adoramos completamente e apenas a positividade sobre a humanidade que isso traz consigo. Outro filme menos conhecido, chamado Sunshine .
P: Dada a perspectiva geral apresentada nos jogos do Princípio Talos , seria justo classificá-los como otimistas em relação ao GAI. Como outro grande defensor do GAI, devo perguntar o que o torna tão otimista.
Verena: Meu pai, que espero não ler isso – Olá, pai – ele é desenvolvedor de software. Nada muito interessante, mas ele entende de computadores e como eles funcionam. Há alguns anos, conversei com ele, muito antes de começarmos a escrever O Princípio Talos , para conversar com ele sobre inteligências artificiais adequadas. Ele disse: “Esta é uma ideia terrível, no momento em que isso acontecer, todos nós morreremos”. Ele basicamente imaginou o cenário da Skynet . E eu pensei, “Mas por quê?” E ele disse, porque quando fizermos isso, quando desenvolvermos isso, será desenvolvido pelos militares, então seu único objetivo será matar. E eu digo, “ok, entendo o que você quer dizer, mas e se não for?” E ele não conseguia imaginar isso.
Seja o que for, esta senciência adequada, dependerá incrivelmente de quem a cria. E penso que, especialmente na comunidade científica, há muitas pessoas que partilham o nosso optimismo em relação ao mundo e ao que a humanidade pode alcançar, com tempo suficiente, e que não nos destruamos. E então eu realmente espero que as pessoas certas façam isso e que compartilhem essa fé na humanidade.
Jonas: Quero colocar as coisas de forma um pouco diferente: acho que todas as discussões sobre inteligência artificial são apenas discussões sobre a humanidade. Projetamos todos os nossos piores medos sobre nós mesmos nesses seres artificiais. Então, quando dizemos: “Ah, mas será uma máquina otimizada para matar”, bem, esse é o complexo industrial militar, já o temos. De qualquer outra forma, estamos sempre dizendo: “Ah, vai fazer isso, vai ser aquilo”, bem, é isso que já estamos fazendo. O que você está descrevendo é que temos alguns incentivos muito problemáticos em nossa civilização. E podemos ver que as coisas estão caminhando de uma determinada maneira porque o lucro se acumula de maneiras específicas.
Mas isso não tem nada a ver com a própria inteligência artificial. Tem tudo a ver com onde nos encontramos e como nos encontramos essencialmente incapazes de ter empatia com os outros, porque somos muito atomizados e porque tudo é uma questão de competição e de maximização de certas coisas. É assim que somos. Já tem muita gente assim. Você não precisa que eles sejam pessoas artificiais para que isso seja um problema. Esse é apenas o problema que já temos. Então penso que projectamos estes problemas na forma de tecnologia para que possamos fingir que é um problema tecnológico, quando na verdade é um problema sociopolítico.
P: Fiquei surpreso ao ver a mídia social sendo representada em seu jogo, porque ela é amplamente vista como uma força negativa em nossa sociedade . Então, por que você escolheu colocar a mídia social no futuro?
Jonas: Quero dizer, é uma tecnologia que se desenvolve naturalmente, eu sinto. E você está certo, certamente, em nossa sociedade com os incentivos que ela tem e com os incentivos também das empresas que a fazem. Isso significa que é uma coisa terrível. É horrível, pelo menos agora.
A internet em si nem sempre foi assim. Mas na medida em que é, certamente não é ótimo. Mas não creio que possamos evitar as redes sociais. Isso amplifica certas coisas, e você vê isso no Princípio Talos 2 . Para mim, eles têm algumas das mesmas tendências que nós. Talvez não no mesmo grau, mas eles os têm. Sinto que há tendências sociais das quais é difícil se livrar, mas talvez se você mudar alguns dos outros problemas que temos, não vamos projetar todos eles nas redes sociais.
Verena: Parecia que estávamos trapaceando se não o tivéssemos, porque sinto que especialmente uma sociedade de seres digitais o teria. Se você tivesse o Facebook na cabeça, você o usaria – não dê ouvidos, Mark Zuckerberg, por favor – você o usaria o tempo todo.
Acho que nos divertimos muito escrevendo isso. E nos deu a chance de olhar para alguns aspectos da sociedade que poderíamos observar e que não tínhamos espaço ou tempo para explorar no mundo real do jogo. E além disso, gosto de pensar que, bem, embora eu tenha dito que se trata do crescimento da humanidade robótica, eles estão um pouco mais crescidos do que nós agora. Então talvez eles sejam um pouco mais responsáveis no uso da mídia.
Jonas: Avarias e outras coisas também acontecem. Temos moderadores chegando dizendo “Chega disso”.
Verena: Chega de “sapos são gente!”
P: Você acha que os humanos podem tratar a inteligência artificial em geral com o tipo de respeito e empatia que seriam necessários para a coexistência?
Jonas: Você sabe, voltar para minha IA é um espelho; os humanos podem tratar outros humanos com a empatia necessária para a coexistência? Eu acho que podemos.
Acho que somos relativamente amigáveis em condições normais. E somos principalmente confrontados uns contra os outros por condições materiais e forças sociopolíticas que têm a ver com recursos e outras coisas. Então, pessoalmente, estou relativamente otimista quanto à capacidade das pessoas de fazer isso. Em teoria, não estou necessariamente otimista sobre como é fácil chegar lá, mas acho que aceitar que uma pessoa é uma pessoa não é tão difícil, em última análise. Vimos, por exemplo, muitos preconceitos estranhos desaparecerem nas últimas décadas, o que é bom.
Acho que, em geral, nós, como humanos, podemos ser muito inclusivos. Historicamente falando, somos muito bons em construir comunidades que têm todos os tipos de grupos diferentes e em nos reconfigurar em algum outro grupo maior. Mesmo que as pessoas sempre se concentrem nas lutas internas, na intolerância e nessas coisas, mas se você olhar para a história humana, literalmente nenhum de nós tem a origem que nossa nação afirma, certo? Tudo são centenas de grupos que se uniram ao longo de séculos e milênios.
Acho que somos capazes de fazer isso um com o outro. E somos capazes de fazer isso com outras espécies, com inteligência artificial geral. Em última análise, somos capazes disso com qualquer coisa. Mas as mesmas forças que nos levam a lutar uns com os outros também nos levarão a culpar a inteligência artificial, tal como culpamos todos os tipos de outros grupos individuais por quaisquer problemas económicos maiores que existam.
Verena: Concordo com Jonas nisso. Quer dizer, acho que estou um pouco menos esperançoso do que ele. Mas, em geral, sim, porque penso que, como humanidade, temos este potencial infinito para compreender as coisas e para melhorar.
Mas também, gostaria de dizer que penso que se uma GAI surgisse no próximo ano, e a humanidade fosse confrontada com ela, toda a gente correria aos gritos para as colinas, porque as histórias têm-nos dito, durante os últimos 20 anos, que no momento em que uma IA geral faz uma aparição, a primeira coisa que fará é matar todos nós. Acho que muito trabalho de base terá que ser feito antes que as pessoas não o façam, como o primeiro pensamento diz: “Quanto tempo até que isso me apunhale?”
P: Como outra pessoa que pensa que a IA não pensaria em esfaqueá-lo a menos que você mandasse, quero apenas agradecer por fazer parte da contra-narrativa a isso.
Jonas: Talos em sua totalidade é uma espécie de tentativa de contrariar o modo como toda a cultura está indo. E apenas para dizer, em todos os níveis, ouça algo um pouco mais contemplativo aqui; algo um pouco mais otimista. Aqui estão algumas perspectivas que você normalmente não ouve sobre nossa relação com a natureza. E se os humanos são mais ou menos importantes, ou todas essas coisas. É muito bom que as pessoas tenham respondido tão bem a isso. Há um elemento consciente em dizer que estamos muito perturbados com as tendências culturais em geral. E, esperançosamente, podemos, mesmo do nosso jeito pequenininho, recuar.
P: Há mais alguma coisa sobre a amplitude das coisas que discutimos hoje que você deseja compartilhar com nossos leitores?
Jonas: É muito largo, é essa coisa, né? Quer dizer, minha opinião pessoal é sempre apenas dizer, por favor, lembre-se de que você é um ser humano, e é absolutamente incrível ter a capacidade de compreender o mundo e de fazer coisas e de mudar as coisas e pelo menos perguntar a si mesmo se é saudável que nos dizem constantemente que somos um vírus, e que somos maus, e que somos inerentemente horríveis e que a natureza é ótima, e que somos terríveis e que não somos naturais. Se é normal que tantos de nós tenhamos esse estranho ódio por nós mesmos, esse ódio pela inteligência e pela capacidade de transformar o mundo, e glorifiquemos o caos darwiniano aleatório.
Basta perguntar a si mesmo, pelo menos, se você visse isso em um contexto de ficção científica, você diria que isso é normal, que todos eles se odeiam e que todos são como “os humanos são maus”, e para eles, esta é uma afirmação profunda . Isso não é um pouco doentio? Mas todos nós vemos dessa forma, ou muitos de nós vemos dessa forma. Eu acho que é um pouco prejudicial à saúde. Isso é algo que eu queria desesperadamente colocar nas mãos das pessoas. Então pense um pouco sobre isso. É realmente assim? Essa é uma perspectiva tão boa a se adotar?
Verena: E quero me aprofundar um pouco mais no que acabei de dizer sobre IA com o mito do auto-reforço. Então houve um filme uma vez, que se chamava Tomorrowland . E foi baseado em um passeio em um parque temático da Disney World. E eu pensei, isso não pode ser bom. E não é necessariamente o melhor filme do mundo, mas toda a premissa do filme é que dissemos a nós mesmos que o futuro será sombrio por tanto tempo que todo mundo parou de acreditar nele e toneladas de auto-reforço ligeiramente sobrenatural. profecias. Mas isso é realmente verdade. Tipo, esse filme foi incrivelmente revelador para mim nesse aspecto, porque é verdade.
Temos dito a nós mesmos, como espécie, nos últimos 60 anos, ou até mais do que isso, não importa o que façamos, sempre terminará em lágrimas. Cura para o cancer? Sim, ok, mas provavelmente, não sei, isso fará com que os braços das pessoas caiam em 20 anos e não sabíamos. Não, não temos mais braços. Oh meu Deus, é melhor não curar o câncer. Essas são todas as histórias do futuro que você vê em quase todos os lugares. Até Star Trek se voltou para isso – de repente temos viciados em drogas e outras coisas em Star Trek , como aquele programa de TV que deveria ser sobre um futuro melhor. Portanto, foi muito importante para nós fazermos algo para resistir um pouco a isso. Contra esta narrativa contínua e implacável de que não importa o que tentemos, não vai funcionar, apenas desista, sente-se num canto e faça o seu trabalho até morrer. E isso provavelmente será o melhor. Porque se você salvar aquele cachorrinho, como saber que o cachorrinho não vai matar alguém em 10 anos?
Jonas: Não foi eu sou a lenda ? A versão de Will Smith que tinha, eu acho, uma vacina para o câncer ou algo assim? Foi uma vacina, transformou todos em vampiros zumbis. E eu pensei que quando o COVID aconteceu, as pessoas pensaram, ah, as vacinas vão matar todos nós. Eu pensei: “Sim, é isso que todas as histórias de ficção científica têm dito nos últimos 70 anos ou algo assim”. Cada vez que inventamos alguma coisa, isso vai dar terrivelmente errado e teremos vampiros ou algo assim.
Então desenvolvemos uma fobia tão profunda de tudo. Partes dela são legítimas, né, que sempre refletem alguma coisa. Certamente, a indústria farmacêutica é assustadora e impulsionada por uma maximização muito desumana dos lucros em relação ao seu trabalho real. Mas, no entanto, você vê que temos tanto medo de tudo agora, que mesmo as tecnologias que poderiam nos ajudar no caso de coisas que me interessam particularmente – energia nuclear, ou modificação genética, coisas que poderiam ter enormes impactos nas mudanças climáticas, e também, obviamente, apenas a nossa própria saúde – temos pavor deles.
Na verdade, não podemos imaginar nenhum resultado que não seja negativo. Olhamos para qualquer coisa e pensamos que isso vai explodir, que vai causar mutação em todos nós, que vai fazer isso. Simplesmente não podemos imaginar que “isso poderia realmente funcionar”. Muitas coisas que temos que nos permitem viver com algum tipo de qualidade de vida, simplesmente funcionam. E funcionaram durante séculos ou décadas e tornaram nossas vidas muito melhores. Não morremos mais de certas doenças horríveis.
É um tipo terrível de falha de imaginação que todos nós impusemos a nós mesmos.
[FIM]