Esta é a segunda de uma história de duas partes do Book Post; leia o primeiro post aqui .
Em meio a negações de que um computador poderia substituir um escritor na criação de arte literária real, várias entrevistas com escritores ativos que já usavam inteligência artificial foram provisoriamente otimistas. Jay Caspian Kang, escrevendo em O Nova-iorquino com algum conhecimento prévio de chatbots e alguns conselhos de especialistas, não conseguiu chegar a um produto literário satisfatório em suas incursões ficcionais com o ChatGPT, mas Kevin Roose no podcast Hard Fork e escritor de educação John Warner foram capazes de melhorar substancialmente os resultados refinando suas entradas. Lincoln Michel entrevistou o romancista Chandler Klang Smith , que tem usado um programa baseado em GPT-3 chamado Sudowrite para trabalhar em seus romances por um ano ou mais. Ela descreveu a experiência de forma memorável como “como um robô sonhando com seu trabalho em andamento e você decide se algo desse sonho reflete o que você está tentando fazer”. Ela disse que os esforços da IA para levar o trabalho adiante podem “desbloquear ideias que parecem já estar enterradas em algum lugar… no texto”. Chandler Klang Smith achou a IA inútil ao lidar com “coisas macro como enredo e estrutura”, mas em The Verge , a escritora autopublicada de “mistério acolhedor” Jennifer Lepp, que estava usando o Sudowrite e começou a experimentar o ChatGPT, disse a Josh Dzieza que ficou surpresa por poder alimentar o chatbot com uma premissa e alguns detalhes e gerar uma história eficaz em o genero. Escritores de gênero autopublicados geralmente escrevem para leitores que consomem centenas de romances por ano e estão sob pressão para produzir em escala (consulte nossa postagem sobre autopublicação e romance). Jennifer Lepp disse que muitos escritores que ela conhece estão lutando com as implicações de usar os recursos do ChatGPT para acelerar o processo. Para esses leitores, importa qual é o equilíbrio entre a participação humana e a da máquina?
Independentemente dessas incursões mais alegres, vários perigos endêmicos na IA generativa se apresentam. Dois estão bem resumidos no próprio site do ChatGPT: o bot “pode ocasionalmente gerar informações incorretas” e “ocasionalmente pode produzir conteúdo prejudicial e instruções tendenciosas”. O ChatGPT é um modelo de linguagem: tudo o que ele faz é prever a linguagem com base em padrões que identifica no grande pool que extrai da Internet e pode reproduzir todos os erros e feiúras pode encontrar lá, e adicione um pouco mais do seu próprio . (Lembre-se do escândalo de 2020 quando o Google demitiu o pesquisador de IA Timnet Gebru cuja pesquisa identificou, entre outras limitações dos modelos de linguagem ampla, a reprodução do preconceito.) Projeto de legislação da UE cria “categorias de risco” que pode canalizar novos sistemas de IA para empreendimentos de “baixo custo”, como brincadeiras on-line antes de assumir atividades de “alto custo”, como, digamos, cirurgia. No entanto, como o pesquisador de IA Chandra Bhagavatula disse ao TechCrunch , “Os sistemas de IA já estão tomando decisões carregadas de implicações morais e éticas.”
A IA generativa pode ser levada a trotar tropos racistas e sexualizar imagens . Ferramentas de recrutamento de IA pode codificar viés de contratação (o governo Biden no outono passado produziu um projeto para um “ Declaração de Direitos da IA ” protegendo os consumidores de algoritmos discriminatórios e predatórios). O GPT-3 parece ter introduzido “guarda-corpos” limitando os resultados ofensivos, mas estes são aparentemente fácil de subverter , e também gerar para seus mestres os tipos de problemas de moderação infestando todas as plataformas independentes de conteúdo. A IA generativa também pode, é claro, ser implantada para fins nefastos— cibercrime , falsificações profundas , pornografia não consensual . O ChatGPT pede aos usuários que se comprometam a não usar seu resultado para fins políticos.
Outro desafio subjacente aos sistemas de IA generativos de linguagem grande, como o GPT-3, é propriedade intelectual . Tudo o que o ChatGPT faz baseia-se no trabalho feito anteriormente por alguém, e os futuros modelos generativos estarão constantemente sugando novos materiais para “treiná-los”. Os estudiosos preveem que a regulamentação e a acusação de direitos autorais terão que encontrar algum equilíbrio para reconhecer quando os modelos de IA usurpam e imitam diretamente artistas específicos e quando a coleta é mais plural e coberta pelo “uso justo”, embora alguns advogados estejam argumentando que todo o material incluído em tal os modelos devem ser licenciados e os criadores compensados. A Stability AI indicou recentemente que permitiria aos artistas optar por não participar do conjunto de dados usado para treinar o gerador de imagens Stable Diffusion; A Getty Images baniu o conteúdo de IA por causa do risco legal; a galeria online DeviantArt criou uma “tag de metadados” para imagens para alertar sobre a traineira AI. Começa a parecer outra fase no derramamento de sangue digital da renumeração daqueles que fazem o trabalho mental que compõe nosso universo digital. (Relativamente, gravadoras recentemente exigiram um aumento de royalties do TikTok pela música que torna seus vídeos tão contagiantes.)
Empunhar ferramentas com tantos poderes e promessas, especialmente em face de nosso histórico confuso quando se trata de governança dentro e fora da indústria de tecnologia, deixa escritores e aqueles que trabalham com linguagem e artes ao mesmo tempo tontos e nervosos. Um argumento sobre se o ChatGPT e outras ferramentas de linguagem ampla podem produzir arte literária (para: Stephen Marche , contra: Ian Bogost , Walter Kirn ) parece depender de você ver a mão editorial do humano dando à máquina suas instruções e refinando seus resultados como salientes. Amit Gupta, um dos fundadores do programa usado por Chandler Klang Smith, disse Stephen Marche , no artigo que despertou o interesse de Chandler Klang Smith, “o trabalho do escritor passa a ser quase de editor. Seu papel começa a ser decidir o que é bom e executar de acordo com seu gosto, não tanto o trabalho de baixo nível de bombear palavra por palavra. Marche compara a IA à fotografia e diz “em retrospectiva, está claro que as máquinas não substituíram a arte; eles apenas o expandiram.
No apresentando em uma conferência No outono passado, a versão do ChatGPT do Google, que a corporação muito maior ainda não havia lançado, como as outras grandes empresas na corrida armamentista de IA, por causa das muitas fraquezas dos modelos, particularmente - para o Google - sua tendência hostil à marca de produzir informações imprecisas resultados, o pesquisador Douglas Eck enfatizou que seu modelo, com o nome amigável Oficina de Escritores de Wordcraft , foi projetado para ser interativo: “A tecnologia deve atender à nossa necessidade de ter agência e controle criativo sobre o que fazemos”. O repórter Ben Dickson comentou: “sem controle e supervisão humanos, os sistemas de IA, como modelos generativos, terão desempenho inferior porque não têm a mesma compreensão dos conceitos fundamentais como nós, humanos, fazemos.”
Muita desorientação em torno do ChatGPT ficou visível em uma entrevista incoerente com o amplamente divulgado Stephen Marche no podcast Inteligência ao quadrado , no qual ele afirmava que o ChatGPT poderia produzir um poema indistinguível de Coleridge e poderia escrever um ensaio que poderia publicar no atlântico e que não há como “substituir a escrita humana”, que os computadores nunca serão capazes de fazer algo que “se torne viral”, embora a viralidade seja, finalmente, um fenômeno robótico. Ele ecoou Amit Gupta dizendo que a utilidade dos chatbots estará na criação de “primeiros rascunhos”, que podem estar completamente errados, que tornamos humanos corrigindo-os e revisando-os. Ao avaliar o trabalho do aluno assistido por IA, “você estará olhando muito mais para o conteúdo do que para a clareza de expressão”, mesmo que o bot “não produza um trabalho que você possa usar imediatamente”; a arte humana está no refinamento. Se um humano está verificando os fatos e polindo o acabamento, qual é exatamente a contribuição do bot?
Posso ver o argumento para o uso de ferramentas tecnológicas, mas essa ideia de que “bombear palavra por palavra” ou reunir ideias em uma forma e sequência é o “trabalho de baixo nível” da escrita é ininteligível para mim. O perigo do ChatGPT e seus irmãos é que ele é quase indistinguível do produto humano e pode facilmente, como Timnet Gebru e seus colegas discernido , geram, à medida que as ferramentas se tornam mais sofisticadas, “ilusões de significado” que ocultam o fato de que um modelo de linguagem realmente não entende ou sabe nada, está apenas pegando emprestado o texto e imitando padrões. Detectar a presença consciente e o propósito no método autoral de apliques que Gupta e Marche descrevem soa como uma tarefa possivelmente cada vez mais elusiva. Casey Newton e Kevin Roose observou com desconforto em seu podcast que um modelo de grande linguagem chamado Cicero havia aprendido como vencer as pessoas no jogo Diplomacia - i. e., persuadir jogadores humanos em uma negociação.
Quase consigo imaginar um mundo em que uma máquina compõe algo que encanta tanto quanto Mozart ou envolve a mente com a complexidade de Shakespeare. Suponho que não devo me fechar à possibilidade dessas experiências agora inimagináveis. Mas é difícil para mim pensar em nossa associação histórica dessas formas com a intenção humana. Se a redação de um aluno não é o registro de um processo de pensamento desenvolvido, precisamos encontrar outra maneira de registrar o pensamento desenvolvido? Ou a ideia é delegar inteiramente o pensamento desenvolvido? Não consigo imaginar meu caminho para um mundo em que a aspiração intelectual não seja mais reconhecível como o grão das coisas que fazemos e admiramos, o trabalho de superar a pressão do desconhecido, o esforço para melhorar um mundo parcial ou danificado. , porque tudo pode ser feito sem tentar, recuperando e costurando o que foi feito antes. Mas talvez eu simplesmente não saiba o que estou perdendo.
