Acesso rápido:

Ir diretamente ao contéudo (Alt 1)Ir diretamente à navegação secundária (Alt 3)Ir diretamente à navegação principal (Alt 2)

Arte e máquina
O lobo que alimentamos

Seja compondo músicas ou pintando quadros, a inteligência artificial dispõe da tecnologia e da capacidade criativa para fazer arte. |
Seja compondo músicas ou pintando quadros, a inteligência artificial dispõe da tecnologia e da capacidade criativa para fazer arte. | | Foto (detalhe): © Adobe

Seja compondo músicas ou pintando quadros, a inteligência artificial (IA) dispõe da tecnologia e da capacidade criativa para fazer arte. O editor argentino Octavio Kulesz prevê que isso pode levar a uma explosão de criatividade e ao mesmo tempo a um aumento da concentração do mercado no setor cultural.

Como editor e empreendedor, o que despertou seu interesse pela inteligência artificial (IA)?
 
Tenho estudado a evolução da IA desde 2016, o mesmo ano em que o AlphaGo derrotou Lee Sedol, 18 vezes campeão mundial do jogo chinês de tabuleiro Go. 
 
Lee Sedol era um ser humano e o AlphaGo um programa desenvolvido pela empresa DeepMind Technologies, do Google. O que significa que a IA venceu pela primeira vez o campeão mundial humano nesse antigo jogo chinês de estratégia.
 
Exatamente. Além da vitória retumbante (o AlphaGo esmagou seu oponente humano por 4 a 1), chamou minha atenção um comentário de Fan Hui, outro grande jogador de Go, sobre um dos movimentos da máquina: “Não é um movimento humano. Nunca vi um humano fazer esse movimento. Tão lindo. Lindo. Lindo”. As palavras dele realmente me impressionaram. Na época, eu trabalhava para a Unesco em uma variedade de artigos que buscavam explorar o impacto da tecnologia na diversidade de expressões culturais. Quando percebi que as máquinas não só podiam ter um enorme poder computacional, mas também criatividade, comecei a fazer mais pesquisas sobre como sistemas de aprendizagem profunda poderiam revolucionar a arte e a cultura no futuro. Cérebro humano versus programa de computador: em março de 2016, o programa de inteligência artificial do Google, AlphaGo, venceu o jogador profissional sul-coreano Lee Sedol (à direita; à esquerda: o programador-chefe do Google DeepMind, Aja Huang).  Cérebro humano versus programa de computador: em março de 2016, o programa de inteligência artificial do Google, AlphaGo, venceu o jogador profissional sul-coreano Lee Sedol (à direita; à esquerda: o programador-chefe do Google DeepMind, Aja Huang).  | Foto (detalhe): © picture alliance /AP Photo/Lee Jin-man Onde e como a IA já está moldando nossa cultura hoje?
 
O impacto da IA na cultura já é considerável neste momento e só aumentará no futuro. Atualmente algoritmos regem as recomendações de livros, músicas e filmes que recebemos em redes sociais e outras plataformas. Também precisamos reconhecer que a IA está avançando rapidamente em outros elos da cadeia cultural: não apenas em termos de distribuição, como no caso dos algoritmos de recomendação, mas também de criação e produção, já que o aprendizado profundo é cada vez mais usado para criar obras de arte.
 
A seu ver, como editor de livros acadêmicos: como e onde é possível se beneficiar da inteligência artificial? Que tarefas as ferramentas de IA estão executando para você hoje?
 
Atualmente, usamos a IA para recomendar publicações relacionadas a determinados temas e para extrair metadados automaticamente. Também estamos progredindo em outras áreas, como a padronização de referências bibliográficas.
 
Se máquinas podem aprender a compor música e pintar quadros, o que isso significa para a criatividade humana?
 
Tecnologias disruptivas muitas vezes forçam artistas e indústrias criativas a redefinir seus lugares. No caso da IA, sistemas de aprendizagem profunda, como redes contraditórias generativas (GANs), estão abrindo caminho para um aumento exponencial da capacidade de inspiração de artistas e de criação de novas obras de arte. Precisamos construir uma nova relação com essas tecnologias. As máquinas não substituirão as pessoas na criação de arte, mas estão exigindo que elas repensem seu papel. Não é por acaso que muitas artistas e muitos artistas que usam IA não assinam seus próprios nomes para uma peça e, em vez disso, usam um pseudônimo que de alguma forma se refere a si mesmos e à máquina, como se ambos – ser humano e IA – tivessem colaborado na peça.
 
Quando você conversou com o matemático Marcus de Sautoy, na Semana de Inteligência Artificial da EUNIC, em dezembro de 2020, ele argumentou que a IA atendia aos três critérios de criatividade, pois produz coisas que são novas, surpreendentes e valiosas. Você concorda com essa avaliação? E, caso concorde, a IA alcançou o status de artista?

Concordo com Marcus que esses três elementos são essenciais para definir a criatividade. No entanto, acho que um quarto deveria ser adicionado: a intenção de criar. As máquinas não têm intenção nem vontade, pelo menos não no momento, então eu diria que elas não podem ser consideradas artistas de fato.
 
Que vantagens você acredita que a IA tenha para a expressão cultural?
 
Acredito que os sistemas de IA possam nos ajudar de várias maneiras a aumentar nossa criatividade. A primeira toca a inspiração: a inteligência artificial pode nos permitir gerar centenas ou milhares de rascunhos de forma automatizada, que podemos então selecionar, recombinar etc. Isso fica claro no caso do , coletivo francês de arte que tem usado GANs para criar pinturas renomadas, como Edmond de Belamy, que foi vendida por 435 mil dólares em 2018. As ferramentas de IA nos tornam muito mais eficientes e permitem executarmos em apenas alguns segundos processos de produção que no passado levariam semanas ou meses. Ferramentas como o Adobe Sensei e outras podem produzir edições de vídeo que fazem correção de cor, estabilização de imagem e efeitos visuais muito mais rápido do que podemos. A IA também poderia diminuir as barreiras de entrada para os recém-chegados no setor criativo. Das Porträt von Edmond de Belamy des französischen Künstlerkollektivs Obvious Art wurde mithilfe Künstlicher Intelligenz erstellt und im Oktober 2018 im Auktionshaus Christies in New York für 435.000 US-Dollar verkauft. Das Porträt von Edmond de Belamy des französischen Künstlerkollektivs Obvious Art wurde mithilfe Künstlicher Intelligenz erstellt und im Oktober 2018 im Auktionshaus Christies in New York für 435.000 US-Dollar verkauft. | Foto: © picture alliance/AP Photo/Christies Isso parece surpreendente, já que as técnicas de IA não são facilmente acessíveis.
 

É verdade que as técnicas de IA não são facilmente acessíveis a artistas tradicionais, como guitarristas, pintoras e pintores, escultoras e escultores e outros. Mas a IA poderia ajudar as pessoas que não têm experiência em setores criativos específicos – música, pintura, escultura – a se tornarem criadoras. Por exemplo, alguém sem conhecimento de orquestração pode compor uma sinfonia em poucos minutos usando sistemas como AIVA  ou  Amper. É assim que a IA reduz as barreiras de entrada para muitas pessoas que não tiveram uma educação artística. Isso pode significar que algumas e alguns profissionais da indústria criativa tenham dificuldades no futuro.
  
Em que profissões criativas você está pensando?

Na medida em que a IA permite que as tarefas sejam automatizadas, diversas atividades realizadas atualmente por seres humanos serão delegadas, pelo menos em parte, às máquinas. Isso inclui tradução, revisão, design gráfico, composição musical e processamento de imagem e vídeo. Isso não significa que a automação substituirá totalmente essas profissões criativas, mas se as máquinas conseguirem realizar um certo percentual dessas atividades, quem domina as técnicas de IA verá seu potencial ampliado, enquanto quem não é capaz de usar essas técnicas será muito afetado.

Quão grande é o risco de que a IA, como ferramenta cultural, leve a uma concentração de mercado ainda maior nas mãos das grandes empresas de tecnologia?

O grande perigo da IA não está em uma possível rebelião de máquinas, que atualmente não passa de um cenário popular de ficção científica, mas em um ganho excessivo de poder por parte das grandes empresas de tecnologia. A concentração econômica é sempre prejudicial e no setor cultural o risco é de que possamos ter monopólios ou oligopólios não apenas na distribuição de bens e serviços culturais, mas também em sua criação e produção.
 
Isso pode corresponder ainda mais à realidade se Google, Apple, Facebook e Amazon (GAFA) migrarem da distribuição de bens culturais para a própria produção.
 
Exatamente. A própria estrutura de grandes empresas de tecnologia, que operam como plataformas cujo ativo mais precioso são os dados, permite que elas dominem toda a cadeia de valor: criação, produção e distribuição. Não vemos mais a concentração horizontal clássica, em que alguns atores poderosos compram seus concorrentes. Os titãs tecnológicos de hoje formam mercados fechados. Eles não dominam um segmento específico, eles se tornaram o mercado como tal. O uso generalizado da IA só aumentará essa tendência.
 
Quando a IA se torna criadora de bens culturais, ou seja, de obras visuais, musicais ou literárias, quem detém, então, os direitos autorais dessas obras? A engenheira ou o engenheiro de software que programou a IA? A empresa de tecnologia proprietária da IA? Os seres humanos com quem a máquina aprendeu? Uma combinação dos três? Ou ninguém?
 
Este é um ponto-chave na conversa sobre inteligência artificial e  criação. Discuti detalhadamente essa questão em um guia que escrevi recentemente, junto com Thierry Dutoit, sobre IA nas indústrias artísticas e criativas, publicado pela Organização Internacional de La Francophonie (OIF) e pela Wallonie-Bruxelles International (WBI). A conversa ainda está em andamento, mas a legislação tende a definir como criadora ou criador real aquela ou aquele que usou a IA para gerar o trabalho. O que está claro é que a máquina em si não pode ser considerada a criadora, pois ela não tem intenção criativa.
 
Se olharmos para a inteligência artificial em seu papel de distribuidora de bens culturais que ela personaliza para consumidores individuais de acordo com suas preferências específicas, isso não poderia levar a uma perda de narrativas e discursos comuns, e a um mundo em que cada indivíduo consome seu próprio programa de cultura?
 
Cerca de 10 anos atrás, Eli Pariser cunhou a expressão “filtro bolha” para se referir ao universo de informações que os algoritmos criam para cada uma e cada um de nós. As redes sociais tendem a produzir câmaras de eco que reforçam nossas crenças e que, em muitos casos, acabam nos isolando em subgrupos. Como a IA não é apenas usada para distribuir conteúdo, mas também poderia ser usada para criá-lo e adequá-lo ao gosto de cada cliente, poderíamos alcançar uma situação de “bolha perfeita”, na qual expressões culturais seriam geradas de forma automatizada e personalizada, e parariam de transmitir significado, valores e narrativas comuns. Agora, a questão é se uma sociedade é viável sem uma identidade cultural compartilhada.
 
Obviamente a IA abre novas possibilidades e opções criativas – ferramentas, influências e modos de expressão –, ao mesmo tempo em que estreita a esfera criativa, por exemplo, através do acesso limitado à tecnologia, da influência das empresas de tecnologia, da criação de bolhas sociais etc. Esse é um paradoxo insolúvel?
 
Se as tendências atuais se confirmarem, é altamente provável que tenhamos uma explosão de conteúdo criativo, bem como uma maior concentração econômica. Esse é, de fato, o problema repetido a cada nova tecnologia. Precisamos prestar atenção não apenas na riqueza total gerada, mas em como essa riqueza é distribuída entre as diferentes partes envolvidas. Caberá a nós – usuárias e usuários, artistas, empresárias e empresários, formuladoras e formuladores de políticas etc. – chegar a um acordo sobre um cenário mais igualitário, plural e diverso.
 
Que resultado você prevê por enquanto: a inteligência artificial implica em uma diversidade mais ampla nas expressões culturais? Ou em mais limitações?
 
De qualquer maneira, as tecnologias não têm vida própria. A chave está naquilo que fazemos ou não com elas. A situação me lembra a história dos dois lobos: um indígena idoso está dando uma lição sobre a vida a seu neto. “Uma luta está acontecendo dentro de mim”, diz ele ao garoto. “É uma luta terrível e é entre dois lobos. Um é mau – representa raiva, inveja, tristeza, arrependimento, ganância, arrogância e ego.” E continua: “O outro é bom – é alegria, paz, amor, esperança, serenidade, bondade e compaixão. A mesma luta está acontecendo dentro de você – e dentro de todas as outras pessoas também”. O neto pensa por um minuto e então pergunta ao avô: “Qual lobo vai ganhar?” O avô simplesmente responde: “Aquele que você alimenta”. Enfrentamos o mesmo dilema: dependendo das decisões que tomarmos nos próximos anos, o ecossistema cultural pode se tornar mais vibrante e plural. Ou pode vir a ser controlado por um punhado de empresas tecnológicas cuja visão das artes é puramente utilitária.
 
Se nos encontrássemos novamente daqui a cinco anos, como sua resposta à minha segunda pergunta seria diferente da que você me deu hoje? Onde e como a inteligência artificial molda nossa cultura?
 
É muito difícil fazer projeções, porque geralmente abordamos o futuro como uma continuação das tendências passadas. Os avanços na inteligência artificial podem se tornar exponenciais, o que tornaria obsoletas nossas projeções mais ousadas. Agora que os sistemas de IA podem até escrever código de programação, a única coisa que podemos antecipar é que testemunharemos não apenas saltos quantitativos, mas também qualitativos de enorme magnitude nos próximos cinco anos. A digitalização maciça resultante dos confinamentos e das quarentenas só acelerou esses processos. Gostaria de pensar que as diferentes forças sociais e políticas vão se conscientizar das implicações dessas mudanças e agir para defender os valores e princípios ligados à democracia, ao pluralismo, à diversidade, à igualdade, à não discriminação, aos direitos das minorias, ao conhecimento tradicional, à perspectiva dos povos indígenas e ao respeito à natureza em uma era dominada pela IA. No entanto, a transformação pode ocorrer tão rapidamente que apenas as pessoas com informações privilegiadas poderão se aproveitar da situação, o que só reforçaria situações de monopólio que poderiam se tornar então irreversíveis. A Unesco divulgou recentemente um projeto de recomendação global sobre a ética da inteligência artificial que explora todas essas questões urgentes.
 
Para finalizar: há alguma obra de arte aprimorada por inteligência artificial, seja na música ou na literatura, que você poderia recomendar?

Recentemente participei de um webinar organizado pela OIF (Organização Internacional da Francofonia), pela WBI (Wallonie-Bruxelles International ) e pela Unesco sobre o impacto da inteligência artificial na diversidade de expressões culturais. O painel incluía Benoît Carré, um dos principais compositores de música de IA do mundo, que lançou o álbum American Folk Songs em 2019. Ele alimentou a máquina com obras de Henry Purcell e outros compositores para criar novos arranjos para canções populares tradicionais. O resultado é extraordinário. A primeira música do álbum – uma versão da balada Black is the Color – é verdadeiramente sublime.

O argentino Octavio Kulesz é editor digital, empresário e diretor da Teseo, uma das primeiras editoras acadêmicas de publicações eletrônicas da América Latina. Seu trabalho está centrado sobretudo em temas ligados à indústria cultural na era digital. Um dos autores da reportagem global  Re|shaping Cultural Policies: Advancing Creativity for Development publicada pela Unesco em 2018, é autor de Culture, Platforms and Machines (publicação da Unesco de 2018), bem como de diversas reportagens sobre tendências digitais em regiões emergentes, entre elas Digital Publishing in Developing Countries (2011). Desde 2012 coordena o Laboratório Digital da Aliança Internacional de Editoras Independentes. Em 2019, foi indicado para se tornar membro da 2019–2022 EU/UNESCO Expert Facility, que apoia a implementação da Convenção para a Proteção e Promoção da Diversidade das Expressões Culturais de 2005. Em 2020, Kulesz foi integrado pela Unesco ao Ad Hoc Expert Group (AHEG) para a Recommendação sobre Ética em Inteligência Artificial, o primeiro grêmio global voltado para o estabelecimento de padrões neste campo.

 

Top