Esta história é sindicada do boletim Substack Big Technology; inscreva-se gratuitamente aqui .
Em frente a uma casa lotada na semana passada no World Summit AI de Amsterdã, na semana passada, pedi a pesquisadores seniores da Meta, Google, IBM e The University of Sussex que se manifestassem se não queriam que a IA espelhasse a inteligência humana. Depois de alguns momentos de silêncio, nenhuma mão se levantou.
A resposta refletiu a ambição da indústria de IA de construir cognição em nível humano, mesmo que pudesse perder o controle dela. A IA não é senciente agora – e não será por algum tempo, se alguma vez – mas uma determinada indústria de IA já está lançando programas que podem conversar, ver e desenhar como humanos enquanto tenta chegar lá. E à medida que avança, corre o risco de ter seu progresso despencado para o perigoso desconhecido.
“Eu não acho que você possa fechar a caixa de Pandora”, disse Grady Booch, cientista-chefe da IBM, sobre uma eventual IA em nível humano. “Assim como as armas nucleares, o gato está fora do saco.”
melhores sites de poker para nós jogadores
Comparar o progresso da IA com as armas nucleares é adequado, mas incompleto. Os pesquisadores de IA podem imitar o desejo dos cientistas nucleares de alcançar o progresso técnico, apesar das consequências – mesmo que o perigo esteja em diferentes níveis. Ainda mais pessoas acessarão a tecnologia de IA do que os poucos governos que possuem armas nucleares, então há poucas chances de restrição semelhante. A indústria já está mostrando uma incapacidade de acompanhar seus frenesi de descobertas .
A dificuldade de conter a IA ficou evidente no início deste ano depois que a OpenAI introduziu o Dall-E, seu programa de arte de IA. Desde o início, a OpenAI executou o Dall-E com regras ponderadas para mitigar suas desvantagens e uma implementação lenta para avaliar seu impacto. Mas, à medida que Dall-E ganhou força, até a OpenAI admitiu que havia pouco que pudesse fazer sobre os imitadores. “Só posso falar com a OpenAI”, disse O pesquisador da OpenAI, Lama Ahmad, quando perguntado sobre potenciais emuladores.
Os imitadores de Dall-E chegaram logo depois e com menos restrições. Concorrentes, incluindo Stable Diffusion e Midjourney, democratizaram uma tecnologia poderosa sem barreiras, e todos começou a fazer fotos de IA. Dall-E, que integrou apenas 1.000 novos usuários por semana até o final do mês passado, então abriu para todos .
Padrões semelhantes devem surgir à medida que mais tecnologia de IA for lançada, independentemente das proteções que os desenvolvedores originais empregam.
previsões para game of thrones
É reconhecidamente um momento estranho para discutir se a IA pode espelhar a inteligência humana - e que coisas estranhas acontecerão ao longo do caminho - porque muito do que a IA faz hoje é elementar. As deficiências e os desafios dos sistemas atuais são fáceis de apontar, e muitos no campo preferem não se envolver com questões de longo prazo (como se a IA pode se tornar senciente), pois acreditam que sua energia é melhor gasta em problemas imediatos. Shorttermists e longtermists são duas facções separadas no mundo da IA.
melhores sites de namoro do mundo
Como vimos este ano, no entanto, a IA avança com pressa. Progresso em grandes modelos de linguagem tornaram os chatbots mais inteligentes, e agora estamos discutindo sua sensibilidade (ou, mais precisamente, a falta dela). A arte da IA não estava na imaginação do público no ano passado e está em toda parte agora. A IA também é agora criando vídeos a partir de sequências de texto. Mesmo que você seja de curto prazo, o longo prazo pode chegar antes do previsto. Fiquei surpreso com quantos cientistas de IA disseram em voz alta que não podiam – e não queriam – definir a consciência.
Há uma opção, é claro, de não ser como os cientistas de armas nucleares. Pensar de forma diferente do que J. Robert Oppenheimer, que liderou o trabalho sobre a bomba atômica, colocou. “Quando você vê algo que é tecnicamente legal”, disse ele, “você vai em frente e faz e discute sobre o que fazer a respeito somente depois de ter obtido seu sucesso técnico”.
Talvez mais pensamento desta vez levaria a um resultado melhor.
