O avanço da inteligência artificial pode levar ao fim da existência humana como a conhecemos, de acordo com uma carta aberta extremamente breve divulgada ontem (30 de maio) e assinada por grandes executivos de tecnologia, cientistas de IA, acadêmicos e, um tanto incongruentemente, o músico Grimes .
“Mitigar os riscos de extinção da I.A. deve ser uma prioridade global ao lado de outros riscos em escala social, como pandemias e guerra nuclear”, o curta declaração lê. Foi publicado pelo Center for A.I. Safety (CAIS), uma organização sem fins lucrativos focada em proteger a implantação da tecnologia.
O breve aviso, que não incluiu informações contextuais sobre sua grave suposição, segue duas cartas abertas recentes aludindo aos perigos potenciais representados pela I.A. pesquisa e implementação.
Em março, mais de 1.000 especialistas do setor, incluindo Elon Musk e o cofundador da Apple Steve Wozniak assinou uma carta pedindo uma pausa de seis meses em A.I. desenvolvimento para estudar os riscos e desenvolver protocolos de segurança. O mês seguinte, outra carta foi publicada por membros da Associação para o Avanço da Inteligência Artificial, incluindo Microsoft Eric Horvitz, diretor científico da , alertando sobre a capacidade da IA de capacitar os maus atores.
A urgência das duas mensagens anteriores empalidece em comparação com a declaração sucinta do CAIS, que afirma que seu objetivo é “criar conhecimento comum do número crescente de especialistas e figuras públicas que também levam a sério alguns dos riscos mais graves da IA avançada. ”
Além de Grimes, outros apoiadores inesperados da carta incluem o podcaster Sam Harris, o diretor do TED, Chris Anderson, e Kersti Kaljulaid, ex-presidente da República da Estônia. Os signatários que se destacam, no entanto, não são aqueles que parecem deslocados, mas sim aqueles que construíram carreiras com base na própria tecnologia que agora alertam que pode causar extinção.
como reverter a pesquisa de um número de telefone gratuitamente
Sam Altman, CEO da OpenAI
Sam Altman, chefe do criador do ChatGPT OpenAI , assinou a carta ao lado dos cofundadores Ilya Sutskever, John Schulman e três outros executivos da OpenAI.
Lançado pela primeira vez em 2015 como uma organização sem fins lucrativos com o objetivo de desenvolver A.I. de forma segura, a empresa apostou em um híbrido modelo de “lucro limitado” em 2019. Em novembro, lançou A.I. chatbot ChatGPT, que rapidamente se tornou viral e gerou preocupações quanto ao seu potencial de escrever tarefas escolares e substituir a força de trabalho.
A avaliação de mercado da OpenAI foi entre US$ 27 bilhões e US$ 29 bilhões a partir de abril.
Apesar de seu apoio ao aviso urgente da carta, Altman já havia elogiado o surgimento de sistemas de IA cada vez mais sofisticados. sistemas. “Esta revolução criará uma riqueza fenomenal”, disse ele em um postagem no blog de 2021 . “O preço de muitos tipos de trabalho (que impulsiona os custos de bens e serviços) cairá para zero quando a IA suficientemente poderosa “se juntar à força de trabalho”.
Geoffrey Hinton, A.I. pioneiro
Dois membros de um trio de cientistas da computação conhecidos como os “padrinhos da IA.” também prometeram seu apoio à carta recente.
Os signatários Geoffrey Hinton e Yoshua Bengio trabalharam no A.I. campo por décadas e, com Yann LeCun, ajudou a estabelecer as bases para o desenvolvimento da tecnologia. Os três receberam o Prêmio Turing em 2018.
Hinton e Bengio, atualmente professores da Universidade de Toronto e da Universidade de Montreal, respectivamente, expressaram preocupação com os avanços da IA.
No início deste mês, Hinton disse ao New York Times ele largou o emprego na Google para falar sobre os riscos de IA ., acrescentando que agora se arrepende do trabalho de sua vida. “É difícil ver como você pode impedir que os maus atores o usem para coisas ruins”, disse ele.
Bengio expressou sentimentos semelhantes para BBC hoje (31 de maio), revelar a ameaça da IA o fez questionar seus anos de pesquisa. “Você poderia dizer que me sinto perdido”, disse ele.
Enquanto isso, LeCun, chefe A.I. cientista da Meta, optou por não assinar a carta.
Demis Hassabis, CEO do Google DeepMind
Vários funcionários do Google, incluindo mais de dez trabalhando para sua IA de aprendizado de máquina. startup DeepMind, são signatários da declaração. A lista inclui o CEO e cofundador da DeepMind, Demis Hassabis, que anteriormente trabalhou como A.I. programador de videogames na Lionhead e na Elixir.
A DeepMind foi comprada pelo Google em 2014 por cerca de US$ 500 milhões. Hassabis pediu à empresa que proceda com cautela e afirma que a inteligência artificial geral (A.G.I), um termo que se refere a computadores com habilidades cognitivas comparáveis às dos seres humanos, pode surgir na próxima década .
“Eu defenderia não movendo-se rapidamente e quebrando coisas”, Hassabis disse Tempo em janeiro, acrescentando que acredita que os lucros da A.G.I. devem ser redistribuídos uniformemente.
No entanto, a divisão de Hassabis vem ganhando força nos últimos meses. O Google DeepMind foi formado em abril, depois que o Google combinou as divisões focadas em IA DeepMind e Brain para “ acelerar o progresso em direção a um mundo onde a IA pode ajudar a resolver os maiores desafios enfrentados pela humanidade .” E no início deste ano, o Google anunciado em seus ganhos do quarto trimestre de 2022 que as informações financeiras da DeepMind agora serão relatadas nos custos corporativos da Alphabet, à medida que se tornam cada vez mais usadas pela empresa.
Grimes, músico e produtor
Grimes, a musicista eclética e ex-parceira romântica do co-fundador da OpenAI, Musk, experimentou a tecnologia ao longo de sua carreira, principalmente usando-a para criar um A.I. canção de ninar para seu filho e um A.I. chatbot treinou seus próprios maneirismos.
“Acho que a I.A. é ótimo”, disse ela ao New York Times. “Eu apenas sinto que, criativamente, acho que A.I. pode substituir os humanos.”
O mais recente I.A. projeto de Grimes, cujo nome verdadeiro é Claire Boucher, foi lançado este mês na forma de Elf.Tech, um A.I. programa de software que permite aos fãs duplicar seus vocais para criar suas próprias canções. “Gosto da ideia de abrir o código de toda a arte e acabar com os direitos autorais”, twittou o artista, que está oferecendo uma divisão de royalties de 50% para músicas de sucesso decorrentes do A.I. programa.
Dario Amodei, CEO da Anthropic
antrópico 's Dario Amodei apoiou a declaração ao lado dos co-fundadores Jared Kaplan e Chris Olah. A irmã dele, Daniela Amodei, presidente da Anthropic, também assinou a carta.
encontrar número de telefone pelo nome grátis
Amodei trabalhou anteriormente no Google, Baidu e OpenAI antes de deixar a última empresa em 2020 para chefiar sua própria IA. comece, que foi avaliado em US$ 4,1 bilhões em março .
A startup apoiada pelo Google também levantou US$ 450 milhões em uma rodada de financiamento este mês, o maior I.A. rodada de financiamento em 2023 desde o investimento da OpenAI da Microsoft no início deste ano.
O principal produto da Anthropic é o Claude, um chatbot que começou a testar em janeiro com um seleto grupo de usuários. claudio foi treinado com um conjunto de diretrizes morais a fim de evitar respostas ofensivas do A.I. ferramenta de bate-papo, que se baseia na Declaração de Direitos Humanos da ONU e nas regras de privacidade de dados da Apple. O processo da startup de criar uma “IA inofensiva”. assistente” foi apresentado em um livro branco de dezembro .
No início deste mês, ao lado de outros A.I. CEOs como Altman, Amodei se reuniu com o presidente Biden para discutir como implementar os regulamentos no A.I. indústria para mitigar o seu risco.
Kevin Scott, CTO da Microsoft
Executivos da I.A. A poderosa Microsoft também assinou a carta, incluindo o diretor de tecnologia da empresa, Kevin Scott.
A Microsoft é investidora na OpenAI – uma parceria estendida em janeiro em um acordo multibilionário. Ele alimenta seu mecanismo de busca Bing com ChatGPT.
Scott, que disse que 2023 será “t ano mais emocionante que o A.I. comunidade já teve, ” afirma que a Microsoft está aprimorando sua IA responsável. processos projetados para mitigar os danos da tecnologia.
Mas apesar de assinar uma declaração argumentando que A.I. tem o potencial de destruir a civilização humana, Scott escreveu o livro de 2020 Reprogramando o sonho americano , que argumenta que A.I. pode revolucionar o empreendedorismo nas cidades rurais. A Microsoft também se concentrou fortemente em A.I. nos últimos meses, alegando o impulso resultará em aumento dos lucros para a empresa ao longo do tempo.
O que outra carta aberta realizará?
O fato de tantos signatários terem vínculos financeiros com a A.I. empresas de pesquisa e desenvolvimento levaram alguns a se perguntarem se os recentes apelos à cautela são um truque de relações públicas ou talvez uma forma de obter uma vantagem competitiva em um setor cada vez mais lotado.
No início deste mês, o CTO da Microsoft foi questionado sobre o equilíbrio entre grande I.A. empresas que buscam regulamentações que apenas as favorecem e um cenário regulatório formado por startups competitivas menores. “Acho que deveríamos ter os dois”, disse Scott Beira . “Não acho que haja algo a priori em que um exclua o outro.”
Altman também pediu mais regulamentação no A.I. indústria, expressando preocupações de que a tecnologia poderia ser aproveitada por regimes autoritários ou usada para ataques cibernéticos, mas seu desejo de supervisão regulatória parece ser seletivo, como Altman também anteriormente afirmou que a OpenAI pode deixar a UE devido ao potencial de “regulamentação excessiva” da IA na região.
Concentrando-se nas consequências perturbadoras, mas improváveis, da I.A. a implementação desvia a atenção dos reguladores dos riscos reais apresentados pela inteligência artificial, sugeriu o professor de direito da Universidade de Washington, Ryan Calo em uma série de tweets . “Abordar os impactos imediatos da IA no trabalho, na privacidade ou no meio ambiente é caro. Proteger contra a IA de alguma forma ‘acordar’ não é.”
