(Nota: completamente perdido com um título para este texto, pedi ajuda a um LLM. Analisou o texto, sugeriu vários títulos possíveis – alguns, plágio de textos publicados online. Das sugestões, acabei por adaptar o que se tornou o título deste texto).
Temo correr riscos ao vir falar sobre Inteligência Artificial no espaço da Umbra. Cabe nas suas temáticas, porque a ficção científica tem o condão de nos levar a refletir sobre o significado individual e social da ciência e tecnologia. O problema que me faz temer ser
confrontado numa viela escura por um bando de criadores de banda desenhada tem a ver com o emergir da IA generativa, vista como uma ameaça à expressão artística e criativa, com impacto direto nos criadores.
Será mesmo assim? Será inevitável quem escreve é substituível por um LLM gerador de textos? Que os geradores de imagem e vídeo se tornem em tudo superiores a ilustradores e cineastas?
Este medo é consequência do deslumbre com o desenvolvimento de aplicações de inteligência artificial capazes de gerar imagens, textos e som. Começamos a ter ao nosso dispor ferramentas capazes de gerar vídeo, modelos 3D e até ambientes virtuais. Qualquer um, a partir de um computador ou simples telemóvel, pode aceder-lhes, descrever o que pretende e gerar imagens com uma qualidade técnica visual (sublinho, técnica, a estética é outra conversa) muito elevada, ou textos aparentemente tão coerentes que passam por ter
sido integralmente escritos por humanos. No 3D e vídeo, apesar de impressionantes demonstrações, a capacidade dos algoritmos não está assim tão avançada, mas caminha-se para uma progressiva melhoria e realismo.
A velocidade desta evolução parece estonteante. Passa-se num punhado de anos. Dois, se acordaram para a IA Generativa com o rebentar da bomba cultural que foi o ChatGPT em 2022, ou oito, se a vossa porta de entrada foi o psicodelismo dos DeepDream de Mordvintsev e o surreal mundo das Generative Adversarial Networks a partir de 2016.
Coletivo Obvious, Retrato de Edmond de Belamy, gerado por um algoritmo GAN (a assinatura no canto inferior representa o algoritmo generativo), 2018.
De repente, bateu uma saudade dos velhos tempos do Google Colab, em que nos sentíamos uns sortudos que a Google nos cedesse tempo de processamento num processador Tesla, e ao fim de mais de uma hora os algoritmos da GAN geravam uma imagem perfeitamente surreal e inédita a partir da frase-chave. Ao contrário dos dias de hoje, em que os potentes interfaces online de geração de imagem nos geram múltiplas variantes que oscilam entre um realismo inssosso e um barroquismo inestético, com uma proximidade desconfortável ao estilo de criadores cujo trabalho foi incorporado nos dados que treinaram o modelo. O irrealismo do output das GANs sugeria um tipo novo de visão, uma interpretação computacional do real mediada por inteligência artificial. Essa essência perdeu-se com a afinação realista dos correntes modelos generativos.
Quando começaram a surgir as ferramentas de geração de imagem por IA, um pensamento surgiu na mente dos criadores: “esta ferramenta faz o meu trabalho em vez mim”, talvez seguido de “e ainda por cima copia o estilo dos criadores”. Ou, pelo menos, assim foi visto pela sociedade. É um medo legítimo, dada a displicência como as empresas que desenvolvem modelos de treino se apropriaram de propriedade intelectual, alegando uma necessidade de dados abertos quando apanhadas no ato.
É provável que a muitos responsáveis editoriais lhes tenha caído na tentação o livrarem-se de pagar a criadores. Afinal, se um prompt num LLM gera um texto, e um gerador de imagens despeja dezenas de variantes de um punhado de palavras-chave, para que é que
se vai pagar a quem escreve ou a quem ilustra? Tentador, não é?
Alan Moore enquanto droide de trabalho na redação da 2000 AD
Curiosamente, faz eco de uma piada clássica da 2000AD nos anos 90. Representava a sua redação sob orientação do editor Tharg The Mighty, cujas ideias geniais eram postas no papel pelo seu exército de ‘droids. Para não variar, a ficção especulativa já tinha extrapolado esse tjpo de cenário.
Não é muito difícil encontrar ferramentas para automatizar a produção gráfica e literária localmente, sem restrições e usando o vosso computador. Podia dizer-vos, mas vá, pesquisem, se precisarem de uma dica, só vos digo “hugging face” e a partir daí façam o resto. Há software que integra LLMs e geradores de imagem, automatizando por completo a produção de artigos ou livros a partir de alguns prompts do utilizador, incluindo a geração de
imagens. O uso dessas ferramentas deixa no ar uma pergunta que li, algures nas selvas das redes sociais: “quem é que está para se dar ao trabalho de ler algo que ninguém se deu ao trabalho de escrever”?
Há quem veja aqui um mercado por explorar, e usa, ou em bom rigor, abusa, da geração automatizada para publicar a metro livros falsos, páginas web ou outro conteúdo multimédia digital, ou físico. Talvez o mais bizarro exemplo que vi foi uma empresa que anunciava a sua capacidade de produzir recordações magnéticas para turistas, usando imagens geradas por IA como parte da oferta. Se as imagens geradas por IA apenas têm uma vaga parecença com os locais visitados, isso não parece ter importância.
Jesus-Camarão, um dos usos da IA Generativa que está entre o surreal, a desinformação e o alastrar de estéticas banais, consumidas sem sentido crítico em redes sociais.
O erro aqui é assumir que esta AI sludge (problema que começa a infetar a internet, com a proliferação de texto online generativo que só servem como enchimento digital de chouriços) se destina a consumo humano. A geração de riqueza online depende de métricas, e automatizar a produção de conteúdos alimenta algoritmos de visualização e bots, que depois se traduzir em rendimentos. É um esquema, e há quem aposte que seja rentável, mesmo que tenha o efeito colateral de deixar a cultura digital atulhada de lixo generativo.
A discussão do papel do artista e criador face a algoritmos cujo output visual parece rivalizar com o melhor dos humanos foi agravada quando se percebeu como a forma de treino dos modelos que sustentam os algoritmos implicou o uso sem licenciamento nem compensação da produção gráfica contemporânea. É trivial para um gerador imitar o estilo gráfico de criadores contemporâneos. Isso significa que o seu trabalho foi usado como parte dos dados que alimentaram os modelos de treino, sem autorização, compensação ou respeito pela propriedade intelectual.
O debate sobre a IA e as suas capacidades é sempre dominado por uma antropomorfização da tecnologia. Algo que traz riscos, atribuímos instintivamente capacidades humanas ao que são apenas (um longo “apenas”) algoritmos complexos de análise estatística capazes de produzir resultados novos dentro do conjunto de dados em que são treinados. Isco, claro, é uma simplificação extrema, as técnicas e tecnologias que sustentam os algoritmos são complexas, e o seu desenvolvimento requer investimentos fortíssimos. Mas são, fundamentalmente, apenas ferramentas, capazes de algumas maravilhas dentro das suas áreas específicas.
A FC tem aqui uma palavra a dizer, esta antropomorfização da IA tem algumas raízes na tradição literária do fantástico. Desde a sua génese no século XIX que a Ficção Científica se alimentou da ideia de seres artificiais conscientes, desde os autómatos a vapor de Steam Man of the Prairie (vale a pena saber que este personagem existiu, ler as suas aventuras nem por isso) às inteligências artificiais com personalidade e sentimentos da ficção contemporânea de Becky Chambers. Pelo meio temos inúmeras obras sobre robots conscientes, os super-computadores inteligentes da FC do pós-II Guerra Mundial, ou os andróides simulacro de humano.
E o HAL-9000, claro, se há visão marcante sobre inteligências não humanas, é a de Kubrick. Estas visões imaginam a máquina e o algoritmo como inteligentes no sentido de emulação do humano, com consciência, sentimento e desejos, geralmente de conquista e extermínio da mísera humanidade, porque os apocalipses são sempre mais divertidos do que as utopias.
Essa visão de um artificial consciente contamina a forma como hoje entendemos tecnologias que vão da IA à robótica avançada. É simples e tentador antropomorfizá-las, mas no processo, não só as imaginamos com mais capazes do que aquilo que realmente são, como se desenvolve uma cultura de desresponsabilização. Esquecemos que o algoritmo de IA ou o robot são o resultado de um conjunto de decisões conscientes tomadas por humanos, replicando as suas visões. Isto é particularmente perceptível na questão do viés algorítmico, a forma como IAs parecem reforçar estereótipos de género, étnicos e culturais nos seus outputs ou resultados de decisão. Atribuir estes vieses à suposta ignorância da consciência artificial é ignorar as escolhas e decisões dos gestores, investigadores e programadores envolvidos no desenvolvimento do algoritmo.
A discussão sobre a suposta criatividade da Inteligência Artificial parte muito desta cultura de antropomorfização. Se dispomos de algoritmos capazes de produzir textos e imagens, o salto conceptual na visão popular depressa chegou à ideia de máquinas criativas que produzem arte por si só. São entusiasmos que não levam em conta quer os limites, quer as reais capacidades da tecnologia.
Os limites criativos destas ferramentas partem do seu ponto forte, a sua tecnologia de base.
Os modelos de inteligência artificial requerem dados para serem treinados, e são exímios a remisturar esses dados, a partir dos inputs dos utilizadores. Produzem novo texto ou imagens dentro desses conjuntos que, por serem imensos, permitem gerar uma imensidade de estilos visuais. É esse o seu handicap. Estão dependentes do que já conhecem.
Replicam muito bem as estéticas e iconografias do passado, misturam e imitam estilos artísticos, e conseguem replicar estéticas. Esse é o seu limite, por vasto que seja, circunscreve a capacidade generativa destes algoritmos.
É trivial, hoje, usar um gerador de imagem que nos gera dezenas de variações gráficas de um prompt, replicando o estilo gráfico de um artista, ou fazendo um pastiche de estéticas. É curiosa a forma como se considera este remisturar do que existe, sem ultrapassar fronteiras nem se atrever a novas estéticas, criativo, ao mesmo tempo que se procura emular o estilo de criadores que se destacaram pela forma como desenvolveram o seu estilo além dos constrangimentos e ideários do seu tempo. A IA vive numa redoma de passado cultural, é exímia a remisturá-lo, mas não tem a capacidade de ultrapassar essa redoma.
Nesta discussão, é bom recordar que não valorizamos as imagens por si só, mas pelo cunho pessoal de quem as cria. é o que dá a dimensão profunda à BD, por exemplo. Se esta fosse um simples contar de histórias com bonecos para entreter, não valorizaríamos o estilo individual de cada desenhador, destacando aqueles que arriscam novas estéticas, ou a complexidade dos argumentos. Os artistas e ilustradores de estilo convencional destinam-se ao mercado de consumo, e marcamos como culturalmente significativos aqueles que se afastam da norma.
Não é por acaso que depois de um certo boom cultural, a geração de imagens começou a ser rejeitada socialmente. Não só pelos criadores que temem perder trabalho, ou pela questão dos direitos de autor. Quem vê, quem aprecia, quem lê, especialista se for exigente, sentem uma falta de autenticidade na apreciação do mero output generativo.
A inteligência artificial não deixa de ter potencial como ferramenta de expressão artística. A rapidez de geração, a forma como mistura e cruza estéticas, como nos permite revisitar o passado iconográfico, tornam-na uma ferramenta interessante de questionamento artístico.
Num lado mais prático, a incorporação de tecnologia generativa em ferramentas de criação digital permite aos criadores automatizar alguns processos rotineiros e tediosos.
Lev Manovich, In The Garden, resultados do diálogo entre o artista e o gerador Midjourney, cruzando prompts e desenhos digitalizados que influenciam o output do gerador.
Nalguns pontos de vista, a curadoria do output generativo é considerada uma prática artística. O criador delega a manufatura das imagens nos geradores, mas seleciona e toma decisões quanto ao produto final. Outra vertente está na afinação constante das ordens dadas ao gerador, o chamado prompt engineering, cruzando o conhecimento histórico e estético com intencionalidade e a capacidade de remistura dos geradores (o trabalho generativo de Lev Manovich, recentemente exposto em Évora, é um excelente exemplo desta vertente.
Falar de Inteligência Artificial apenas na ótica da criatividade é redutor. É uma tecnologia com longa história, muitos altos e baixos, e um impacto tremendo na economia e sociedade.
Estamos, hoje, deslumbrados e apoquentados pela IA Generativa, mas na verdade esta é apenas uma das aplicações de uma tecnologia mais vasta. Nem sequer é a que tem mais impacto duradouro. É, apenas, a mais acessível aos leigos. As aplicações de machine learning têm tido imenso impacto económico. Temos tradução automática, sistemas de visão computacional que nos ajudam a conduzir ou nos identificam e rastreiam, algoritmos de apoio à decisão financeira, análise preventiva de avarias industriais, robots com graus de autonomia com que já partilhamos o nosso dia a dia.
Treinar modelos de machine learning ou implementar soluções de visão computacional não está ao alcance da maioria das pessoas. Foi essa a mais discreta e importante revolução trazida pelo ChatGPT: um interface mínimo, onde qualquer um consegue interagir com uma implementação de IA, e obter resultados. Ao nosso dispor, todo o poder das interações evolutivas de algoritmos e modelos em constante desenvolvimento, sem a necessidade de mergulhar na complexidade de modelos estatísticos, vetores, transformadores, tratamento de dados para aprendizagem supervisionada e não supervisionada, código, processadores paralelos de alto desempenho.
Falar de inteligência artificial, quer no seu global quer na popular vertente generativa, implica falar de ética, ambiente, pegada carbónica, direitos laborais, totalitarismo, ameaças à democracia, desinformação, empobrecimento cultural advindo de uma tecnologia massivamente treinada no espaço linguístico inglês, mas aplicada às culturas globais. Não o vou fazer. Este texto já vai longo, e elogio a vossa paciência se chegaram até aqui.
Termino com uma nota final de otimismo. É preocupante ver a forma como usamos ferramentas de fiabilidade duvidosa para externalização cognitiva. É algo que sempre fizemos. Há mais de dois mil anos, íamos a Delfos, onde a Pitonisa alucinada pelos vapores vulcânicos balbuciava palavras que os seus sacerdotes traduziam em oráculos crípticos. Se as predições se concretizassem, demonstrava o poder dos deuses e do destino. Se não, claramente a pessoa teria praticado atos que desagradaram às divindades e foi castigada por isso. O oráculo estava sempre certo. Há laivos disso na forma como hoje nos habituámos a confiar no output da Inteligência Artificial generativa.
Apesar da sua conotação desumana, a Inteligência Artificial é uma das ferramentas digitais mais intensamente humanas de que dispomos. Nós inventámos as suas estruturas conceptuais matemáticas e computacionais. Desenvolvemos a infraestrutura computacional que a sustenta. Somos nós que criamos os algoritmos e definimos os seus parâmetros. A sua capacidade de análise, deteção de padrões e extrapolação é alimentada pelos nossos dados, desde as fotos que libertamos em redes sociais às bibliotecas que arquivam a nossa herança cultural. Os seus outputs refletem os nossos vieses e preconceitos.
Imaginamos a IA como uma espécie de entidade consciente artificial e alienígena, mas tudo nela é intrinsecamente humano. E, observem: a IA Generativa alimenta-se da imensidão do passado cultural humano. É o nosso corpus textual que alimenta os LLMs, é o nosso património visual que treina os geradores de imagem. São os milhares de anos da nossa herança cultural o que sustenta as capacidades da IA generativa, uma tecnologia que se segura sobre os nossos ombros.
Com vontade de ir mais a fundo nas visões sobre inteligência artificial? Deixo-vos com algumas sugestões de leitura, que exploram a interrelação entre vertentes técnicas, sociais e culturais: Common Sense, the Turing Test, and the Quest for Real AI de Hector J. Levesque, que aborda a armadilha conceptual da IA consciente.
Rise of the Robots: Technology and the Threat of a Jobless Future de Martin Ford, um olhar algo alarmante sobre o impacto social e laboral da robótica avançada.
Four Futures: Life After Capitalism de Peter Frase, que se atreve a imaginar quatro cenários onde a forma como incorporamos a tecnologia na economia e sociedade poderá conduzir a futuros prósperos, ou a sociedades de escassez.
Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy de Cathy O’Neil: se nos parece um livro datado por ter sido editado muito antes da corrente explosão da IA Generativa, é das melhores obras para se perceber a fundo o problema do viés algorítmico.
Hello World: How to Be Human in the Age of the Machine de Hannah Fry acompanha na perfeição o livro de Cathy O’Neil, na forma como explora a forma como as más decisões humanas modelam os algoritmos de IA.
AIQ: How artificial intelligence works and how we can harness its power for a better world de Nick Polson e James Scott é um excelente ponto de partida para se conhecer o menos visível, mas economicamente essencial aplicação da IA na indústria e serviços.
Gods and Robots: Myths, Machines, and Ancient Dreams of Technology de Adrienne Mayor mostra-nos que antes da ficção científica, existiam o smitos, e num ensaio brilhante mostra como antes dos robots e IAs já alguns mitos tocavam na vida artificial.
The Artist in the Machine: The World of AI-Powered Creativity de Arthur I. Miller analisa o uso de IA como ferramenta artística, incluindo já a génese da IA generativa.
A Era do Capitalismo da Vigilância de Shoshana Zuboff, não sendo estritamente um livro sobre IA, aborda as más práticas da pervasiva economia tecnológica, e a forma como alicerçam uma ameaça ao humanismo democrático.
Medieval Robots: Mechanism, Magic, Nature, and Art de E.R. Truitt é um ensaio muito quirky que nos leva das imagens de santos autómatos em catedrais às cabeças artificiais falantes, mostrando um curioso cruzamento entre mecânica e mitografia que desenvolveu mecanismos animados e antecede a robótica contemporânea.
Artificial Women: Sex Dolls, Robot Caregivers, and More Facsimile Females de Julie H.
Wosk analisa a forma como a ficção popular alimenta velhos preconceitos sobre a mulher, de objeto sexual sedutor a misericordiosa cuidadora, transpondo-os para visões de robots femininos.
Literary Theory for Robots: How Computers Learned to Write de Dennis Yi Tenen é talvez das mais brilhantes análises ao que os modelos de linguagem realmente fazem, e, pelo caminho, mostra como a história da literatura antecedeu em décadas a escrita automatizada, com o desenvolvimento de métodos algorítmicos para produção de texto que garantam resultados e combatiam a falta de inspiração.
Blog do Autor:
intergalacticrobot.blogspot.com
