Esta história foi publicada no boletim informativo Substack Big Technology; inscreva-se gratuitamente aqui .
Os chatbots de IA estão ficando tão bons que as pessoas estão começando a vê-los como humanos. Vários usuários recentemente chamaram os bots de seus os melhores amigos , outros têm professaram seu amor , e um engenheiro do Google até ajudou um contratar um advogado . Do ponto de vista do produto, esses bots são extraordinários. Mas, do ponto de vista da pesquisa, as pessoas que sonham com sua inteligência de nível humano devem passar por uma verificação da realidade.
Os chatbots hoje são treinados apenas em texto, uma limitação debilitante. Ingerindo montanhas da palavra escrita pode produzir resultados de cair o queixo, como reescrevendo Eminem no estilo shakespeariano - mas impede a percepção do mundo não-verbal. Grande parte da inteligência humana não é marcada. Adquirimos nossa compreensão inata de física, artesanato e emoção não lendo, mas vivendo. Sem material escrito sobre esses tópicos para treinar, a IA fica aquém.
“A compreensão que esses sistemas atuais têm da realidade subjacente que a linguagem expressa é extremamente superficial”, disse Yann LeCun, cientista-chefe de IA da Meta e professor de ciência da computação na Universidade de Nova York. “Não é um passo particularmente grande em direção à inteligência de nível humano.”
Segurando uma folha de papel, LeCun demonstrou a compreensão limitada do ChatGPT sobre o mundo em um recente Grande podcast de tecnologia episódio . O bot não saberia o que aconteceria se ele soltasse o papel com uma mão, LeCun prometeu. Após consulta, o ChatGPT disse que o papel “inclinaria ou giraria na direção da mão que não o está mais segurando”. Por um momento – dada a sua apresentação e confiança – a resposta pareceu plausível. Mas o bot estava completamente errado.
O papel de Lecun se moveu em direção à mão que ainda o segurava, algo que os humanos sabem instintivamente. O ChatGPT, no entanto, ficou em branco porque as pessoas raramente descrevem a física de soltar um papel no texto. (Talvez até agora).
“Posso criar uma pilha enorme de situações semelhantes, cada uma delas não terá sido descrita em nenhum texto”, disse LeCun. “Então, a pergunta que você quer fazer é: 'Quanto do conhecimento humano está presente e descrito no texto?' E minha resposta a isso é uma pequena parte. A maior parte do conhecimento humano não está realmente relacionada à linguagem.”
Sem uma compreensão inata do mundo, a IA não pode prever. E sem previsão, não pode planejar. “A previsão é a essência da inteligência”, disse LeCun. Isso explica, pelo menos em parte, por que os carros autônomos ainda estão vagando por um mundo que não entendem completamente. E por que a inteligência do chatbot permanece limitada - embora ainda poderosa - apesar da antropomorfização.
