Acho que a tecnologia por si só, não. Não acredito num cenário Terminator/HAL-9000, onde as máquinas magicamente ganhem consciência (que pra mim depende da vida). Mas a I.A. permite que pessoas más façam estragos muito maiores do que poderiam de outra forma. Nesse sentido, ela é uma ameaça em potencial, uma ferramenta, mas o mal viria de ações humanas.
Depende. Por um lado, vejo a I.A. apenas como uma evolução de ferramentas que já usamos. Por outro, o passo evolutivo é tão grande que pra mim a torna análoga à invenção da bomba atômica. E assim como você pode ser a favor do porte de armas, mas ao mesmo tempo não defender que todo cidadão possa ter uma bomba atômica, regulações sobre a I.A. dependem um pouco de entendermos seu real poder de destruição.
O ser humano pode violar os direitos dos outros de duas formas: por força física ou por fraude. Da mesma forma que a bomba atômica liberou um poder de destruição física sem precedentes, a I.A. permite uma manipulação de dados e informações em uma escala também sem precedentes. E, em um mundo onde grande parte de nossa propriedade e da nossa privacidade se sustenta sobre um universo digital, a I.A. poderia se tornar a "bomba atômica" do âmbito da informação, permitindo fraudes e violações de direitos numa escala também sem precedentes. (Lembrando que nossa integridade física também dependerá cada vez mais de informações digitais, com a chegada de veículos autônomos, chips cerebrais etc.)
- I.A. vai tornar os seres humanos obsoletos?
Apenas algumas atividades e profissões. Acho que quem tem medo de ser substituído existencialmente pela I.A. costuma ser alguém que baseia toda sua autoestima em sua capacidade de processar ideias, de acumular conhecimento dentro da própria mente; ou que só desenvolveu alguma habilidade concreta que pode ser substituídas por I.A.; ou são pessoas que têm uma visão utilitária da vida — agem como se a vida não fosse um fim em si mesmo, mas como se o homem existisse pra produzir bens materiais, realizar certas tarefas, servir à natureza, à comunidade, gerar filhos etc. Pra essas coisas, qualquer indivíduo de fato é substituível. Mas se seu propósito é aproveitar a sua vida, fazer as coisas que te trazem felicidade pessoal, o robô mais evoluído do mundo não poderá tomar o seu lugar.
O grande benefício da I.A. será que não teremos mais que fazer certas coisas que fazemos só por necessidade, limitações existenciais, mas que não contribuem de fato para nossa felicidade. As coisas que as pessoas fazem por prazer, por satisfação pessoal, e os esforços que são indispensáveis para a construção de uma boa autoestima, estes não serão delegados para as máquinas.
- I.A. deveria ser proibida/regulada em Hollywood?
Não, exceto pra impedir violações de direitos de propriedade, uso indevido da imagem e do trabalho de outras pessoas. Mas se um figurante quiser oferecer sua imagem pra ser digitalizada e usada eternamente por um estúdio, ele deveria ter o direito de fazer isso e cobrar o que quiser. Se um produtor quiser escrever um roteiro inteiro com I.A., ele deveria poder fazer isso (desde que a I.A. não faça plágio de outras obras).
Muitos em Hollywood se desesperam por achar que a I.A. irá: 1) Tirar empregos das pessoas. 2) Tornar o cinema medíocre.
1) As pessoas do primeiro caso são como os motoristas de carruagens resistindo à invenção do automóvel no início do século XX. O cinema como é feito hoje já tornou obsoletas diversas profissões e tecnologias que eram indispensáveis poucas décadas atrás. Pela lógica dos que querem banir a I.A., pra manter certas pessoas trabalhando, teríamos que reverter todas as inovações do passado também? Eu poderia fazer greve e pedir de volta meu emprego como atendente de locadora? Teríamos que desinventar o cinema em si, que deve ter tirado empregos de profissionais do teatro? Pense nas centenas de animadores que gastam meses hoje trabalhando numa única produção, às vezes se dedicando exclusivamente à animação de alguns segundos de um personagem secundário que 95% do público nunca irá notar... Daqui a 50 anos, isso vai soar um trabalho tão atraente quanto o dos escravos que construíram as pirâmides do Egito. Querer impedir inovações, novas tecnologias de serem usadas, é desejar o que o Nathaniel Branden chamava de "direito divino à estagnação" — é se rebelar contra o fato de que certas coisas mudam com o tempo, de você precisar sempre estar aprofundando seu conhecimento, desenvolvendo habilidades etc.
2) Já as pessoas que acham que a I.A. tornará os filmes medíocres, sem arte, que a profissão dos roteiristas será extinta e tudo passará a ser escrito pelo Chat GPT etc., esquecem que o público e os artistas não são uma massa de zumbis inconscientes, que aceitarão um nível de mediocridade infinito sem questionar. A indústria está sempre corrigindo o curso de acordo com as percepções e exigências do público, ainda que isso às vezes demore mais tempo do que gostaríamos. Sempre vão existir os "lixeiros" da arte, que não ligam pra qualidade, e estão dispostos a tentar lucrar usando as táticas mais vulgares possíveis. Mas sempre vão ter os artistas que querem ser respeitados, que valorizam qualidade, que amam suas profissões, e que farão até coisas que vão contra o que é econômico e prático em nome da qualidade (ou da impressão de qualidade) — este ano, por exemplo, vários dos filmes que estarão na disputa ao Oscar como Oppenheimer, Maestro, Killers of the Flower Moon, Poor Things, Past Lives, foram filmados em 35mm, uma técnica mais complicada, mais cara que filmar com câmeras digitais, mas que voltou a se tornar atraente uma década depois de ter sido extinta praticamente, pois agora ela simboliza sofisticação, um compromisso com qualidade. O filme escrito inteiro por I.A. será feito eventualmente, e rapidamente será colocado na categoria de "arte ruim" (ou arte experimental, caso um diretor europeu faça primeiro), e não terá grande relevância cultural ainda que possa fazer algum barulho inicialmente (pense num filme como Ursinho Pooh: Sangue e Mel, ou nos fracassos recentes da Marvel). Ao mesmo tempo, os cineastas de maior prestígio estarão olhando para estes fenômenos, e indo na direção oposta pra ganhar o respeito do espectador mais criterioso.
- I.A. vai tornar artistas obsoletos?
Apenas alguns técnicos envolvidos na produção da obra, mas não o artista principal, nem os principais membros da equipe criativa (numa arte colaborativa como o cinema). Quem teme essa substituição total dos artistas também costuma ter uma visão utilitária da arte; que a arte seria apenas um produto mecânico com uma função prática de distrair uma massa de seres não-pensantes. Mas se você entende que arte é uma expressão da visão de mundo e dos talentos de um artista, e que o que atrai o espectador à arte depende em grande parte do fato dele saber que aquela obra é a expressão de um outro ser humano, você entende por que nunca será possível o artista em si ser substituído por um robô. A Inteligência Artificial pode até se tornar sofisticada o bastante pra enganar o espectador e conseguir se passar por um artista humano, mas isso não seria diferente de uma pessoa se apaixonar por um ciborgue que é tão perfeito que consegue se passar por um homem de verdade — seria um resultado de fraude, e no instante em que a pessoa descobrisse o engano, seus sentimentos em relação ao ciborgue mudariam.
Hoje temos máquinas capazes de correr muito mais rápido que seres humanos, levantar muito mais peso, e isso não faz ninguém ter menos admiração por atletas talentosos, não torna as Olimpíadas obsoletas, pois nossos julgamentos em relação a qualquer coisa são contextuais. Na arte, nós buscamos sentimentos que só podem ser despertados por virtudes humanas. Um objeto inanimado pode até ser útil pra você, mas não pode te inspirar, não pode te fazer rir, chorar. Uma pedra "forte" não pode te provocar admiração da mesma forma que um homem forte. E um leão "corajoso" como o de O Rei Leão só te inspira na medida em que um artista projeta qualidades humanas nele. Portanto, a arte dependerá sempre de indivíduos humanos para ter qualquer significado para o público.
Para qualquer dilema envolvendo I.A. "superando" humanos, eu gosto de imaginar o que aconteceria se uma raça alienígena ultra avançada fosse descoberta em um planeta vizinho, e que neste planeta, o indivíduo mais medíocre fosse capaz de compor sinfonias superiores às de Mozart, correr mais rápido que um carro de Fórmula 1, ter a aparência da Gisele Bündchen, o saldo bancário do Elon Musk, e todos vivessem lá felizes o tempo todo tendo orgasmos ininterruptos. Esta descoberta faria você pensar que sua vida se tornou obsoleta? Abalaria sua autoestima ou seu propósito de vida? Uma criatura assim só poderia abalar sua autoestima na medida em que você acreditasse que essas virtudes são atingíveis para você, e que você falhou em atingi-las. O alien, portanto, não teria um efeito maior sobre você do que os homens mais admiráveis que vivem no mundo hoje. Agora se essas virtudes fossem impossíveis, estivessem fora do que é imaginável para um ser humano, elas não deveriam te afetar em nada, da mesma forma que a altura de uma árvore ou a velocidade de um guepardo não afetam sua avaliação de si mesmo nem suas expectativas em relação à sua vida.
- I.A. vai tornar os filmes melhores?
Em média, acredito que não, exceto em alguns aspectos técnicos (realismo do CGI — ou "AIGI" — qualidade geral da imagem e do som etc.). Isso porque a I.A. torna tudo mais fácil e barato de se fazer, o que a torna um chamariz pra pessoas pouco talentosas e ambiciosas na arte.
Pense no que faz o padrão de qualidade de diversas áreas decaírem ao longo do tempo...
O ser humano é "preguiçoso" por natureza, no sentido de nunca querer desperdiçar energia. Ninguém busca fazer as coisas de uma forma difícil à toa, se é possível chegar no mesmo resultado de uma forma mais fácil. Até quando Michelangelo pintou a Capela Sistina, ele provavelmente estava sendo "preguiçoso" e buscou a forma mais fácil de obter o resultado que ele queria, dentro das possibilidades da época. Então, quando algo é impossível de ser feito, ou requer um sacrifício quase completo, ninguém o faz. Agora pense quando a tecnologia e o conhecimento subitamente tornam algo possível de ser feito, ainda que isso seja muito difícil, caro e incerto no começo (como levar o homem à Lua). Esta é a situação que promove uma concentração de homens virtuosos em uma determinada área. Pois neste momento, apenas as pessoas mais ambiciosas, capazes e confiantes em suas habilidades ousarão entrar neste ramo ou serão convocadas para este ramo.
Na medida em que o ramo prospera e estes pioneiros têm êxito, tornam o processo mais eficaz, o conhecimento acumulado por eles vai tornando a atividade mais fácil de ser exercida, mais acessível para os outros, mais barata, menos arriscada, e pessoas com menos habilidades agora vão querer se aventurar por lá também. A consequência disso é que a qualidade média do que é produzido nesta área vai caindo conforme o grau de facilidade vai aumentando. Quanto mais acessível a atividade se torna, menor é o nível de inteligência e habilidade exigidos pra entrar nela, e maior será o volume de coisas medíocres sendo criadas. Nos estágios finais deste processo, quando a área se vê subitamente tomada por pessoas desprovidas de qualquer talento, ela perde toda a aura de prestígio que costumava atrair pessoas a ela no começo (aura formada graças aos êxitos dos pioneiros), e pode passar até a repelir as pessoas mais ambiciosas.
É fácil observar este padrão no caso de destinos turísticos (praias que já foram paradisíacas e 30 anos depois estão cheias de farofeiros), empreendimentos específicos, mas o mesmo processo pode levar uma indústria inteira, como a do cinema, a se deteriorar ao longo do tempo.
Isso pode soar contraditório, considerando o que eu disse antes sobre a I.A. não ter o poder de tornar filmes medíocres. O que quero dizer é que não acho que a I.A. vá eliminar a demanda por filmes de qualidade, cineastas habilidosos que tentarão se opor a esta degradação. Porém o volume de coisas medíocres que passarão a ser feitas irá aos poucos acostumar o público a um padrão de qualidade inferior, irá normalizar um nível de mediocridade que hoje ainda é impensável, de maneira que o "Scorsese" do futuro precise fazer menos que o Scorsese de hoje pra ser considerado um cineasta de prestígio. Um exagero cômico deste princípio seria a cena de
De Volta Para o Futuro 2, onde a mãe é elogiada pelo "talento" dela ao hidratar a pizza no nível certo na máquina Black & Decker.
A única forma de impedir uma deterioração global é organizações privadas construírem barreiras artificiais ao redor de si mesmas (uma vez que as naturais tenham sido eliminadas), e criarem células imunes a este processo de degradação — estabelecendo uma série de critérios e valores que preservem o alto padrão de qualidade (algo difícil na cultura atual, em que julgar com base em habilidade foi definido como imoral e às vezes até ilegal pelo "vírus" da mediocridade que está sempre tentando destruir a imunidade dessas células virtuosas).
- I.A. vai fazer com que ninguém mais desenvolva seus talentos no futuro?
Como a tecnologia tornará praticamente tudo fácil e acessível pra qualquer pessoa, pensando de maneira mais ampla, as pessoas no futuro talvez tenham que começar a buscar outras formas de cultivar virtude. Por exemplo: não é porque o ser humano não precisa mais ter força física hoje pra sobreviver, já que temos máquinas que fazem o trabalho braçal por nós, que nós deixamos de valorizar força, músculos, e estamos definhando completamente. Muitas pessoas continuam valorizando o vigor físico, mas agora elas precisam desenvolver isso espontaneamente em academias, praticando esportes, não por necessidade.
Talvez o mesmo ocorra com talento e habilidades mentais, quando a I.A. se tornar tão eficaz que ninguém mais precise usar muitos neurônios pra criar sinfonias, escrever romances, construir arranha-céus, produzir filmes etc.
Atualmente, parece que estamos num estágio intermediário meio confuso desta transição, onde as pessoas já abriram mão do esforço mental, estão delegando muitas atividades intelectuais para as máquinas, antes que estas possam fazê-las tão bem quanto homens habilidosos; além disso, o "definhamento" mental da população ainda não se tornou óbvio o bastante, a ponto da cultura exigir que as pessoas com mais autoestima desenvolvam o hábito de "malhar" a mente voluntariamente, mesmo isto não sendo mais uma necessidade vital.
Assim como cineastas importantes têm rodado filmes em película, numa forma até ingênua de demonstrar virtude, talvez no futuro a gente volte a ver um cineasta filmando um grande épico no deserto com milhares de figurantes e cavalos, como David Lean fazia nos anos 60, mesmo sendo possível criar uma imagem idêntica com a Inteligência Artificial. Este esforço agora não terá mais um componente de necessidade; ele será baseado exclusivamente em ambição pessoal, autoestima e num senso de aventura.
--------------
Resumindo, acho que a I.A. pode se tornar uma grande ameaça dependendo de como ela for usada, mas não acho que a sociedade tenha um instinto autodestrutivo irresistível que faça com que ela sempre vá pelo pior caminho possível. A bomba atômica foi criada em 1945, e desde Hiroshima e Nagasaki, ela nunca mais foi usada em guerras. Isso mostra que a sociedade tem a capacidade de resistir a um grande poder quando este poder se torna uma ameaça à vida e a valores que muitas pessoas consideram importantes.
