“A inteligência artificial não... Carloseduardobalcarse

“A inteligência artificial não precisa pensar para pensar por você”

A provocação do neurocientista Miguel Nicolelis de que a inteligência artificial não seria “nem inteligente, nem artificial” atinge um problema maior do que o nome dado à tecnologia.

Talvez estejamos fazendo a pergunta errada.

A questão mais urgente não é saber se a máquina pensa. É descobrir quanto do nosso pensamento estamos autorizando a máquina a substituir.

Inteligência, em sentido psicológico, envolve aprender, raciocinar, compreender, resolver problemas e adaptar-se. Já “artificial” designa aquilo produzido pela intervenção humana, e não algo surgido espontaneamente na natureza.

Os atuais sistemas de inteligência artificial realizam operações extraordinariamente sofisticadas sobre enormes quantidades de dados. Reconhecem regularidades, calculam probabilidades, estabelecem relações e produzem respostas que podem parecer compreensão. Mas aparência de compreensão e compreensão são problemas diferentes.

A máquina pode produzir uma resposta correta sem saber que está correta. Pode produzir uma resposta falsa com a mesma fluência.

E aqui começa o verdadeiro problema.

A inteligência artificial não precisa ter consciência para influenciar uma consciência.

Quanto mais convincente for a resposta, maior será a tentação de confundir fluência com verdade, precisão linguística com precisão científica e probabilidade estatística com conhecimento.

Por isso, talvez o maior risco da inteligência artificial não seja ela aprender a pensar como nós.

É nós desaprendermos a pensar sem ela.

Uma humanidade sem discernimento transforma ferramenta em autoridade. E quando terceirizamos não apenas a informação, mas também o julgamento sobre a informação, deixamos de utilizar a tecnologia e começamos silenciosamente a obedecê-la.

A máquina pode ampliar o conhecimento humano.

Mas não deveria receber automaticamente autoridade sobre ele.

A IA pode responder por você. O perigo começa quando você permite que ela decida o peso que a própria resposta merece.

Informação pode ser artificialmente produzida.
Autoridade não deveria ser artificialmente ou automaticamente concedida.

Carlos Eduardo Balcarse
Psicanalista, Educador, Escritor e Pesquisador