Sobre conversas com IAs

Estive viajando em uma ideia. Nas histórias de ficção científicas, os robôs capazes de conversar possuem uma personalidade que dá um tempero para a história. Eles podem ter uma limitação cognitiva que dá uma graça, e os aproxima de animais de estimação, podem ser presunçosos, metidos a sabichões ou terem crises de identidade. Podem ser frios e calculistas ou tentar nos seduzir de inúmeras formas.

Chegamos finalmente ao tempo em que podemos conversar com robôs e eles são simplesmente sem graça, respondem o que queremos como mandamos. São basicamente espelhos.

Podemos até mandar eles interpretarem papéis, mas são papéis que mandamos eles interpretarem.

A conclusão sempre foi óbvia: robôs da ficção seguem os desígnios dos autores, tem um papel a cumprir no roteiro, agem de forma a criar um dispositivo legal para o leitor ou espectador. Robôs de verdade são simplesmente máquinas. Fazem o que mandamos e só.

É um limbo estranho. Cai naquele vale da estranheza. Eles nos dão respostas detalhadas, conversam de forma rebuscada e natural. Possuem a bagagem de toda a internet lida. Mas são vazios. Ocos por dentro.

Talvez eu esteja falando da questão da vontade própria. Algo que um protozoário pode ter e um robô não? Talvez eu queira falar de consciência ou formas de vida? Não sei… é algo muito vago. Mas a sensação é de vazio. Por mais que as respostas sejam completas e (algumas vezes) coerentes, parece que estou simplesmente conversando com uma parede.

Um teste cego, um teste de Turing, uma conversa em que eu não saiba se do outro lado tem uma pessoa ou uma máquina, eu não sei se acertaria, provavelmente não. Não tem explicação, mas mesmo assim abrir o ChatGPT ou similares a sensação é que estou conversando com uma ferramenta feita para isso.