⁠Descobrir que foi Manipulado com... Alessandro Teodoro

⁠Descobrir que foi Manipulado com recursos da IA deve ser tão frustrante quanto descobrir que foi Assaltado com arma de brinquedo.


Afinal, nos dois casos, existe uma violência que ultrapassa o prejuízo material: a violação da confiança, a sensação de ter sido enganado e a descoberta de que a realidade percebida não correspondia inteiramente à realidade dos fatos.


No assalto com arma de brinquedo, o medo é verdadeiro, embora a ameaça não seja o que aparentava ser.


Na Manipulação por meio da Inteligência Artificial, o engano pode ser igualmente real, ainda que as evidências que o sustentem sejam artificiais.


Mas há uma diferença inquietante: enquanto a arma de brinquedo costuma revelar sua natureza quando o episódio termina, a manipulação digital pode permanecer invisível mesmo depois de consumada.


Uma imagem fabricada, uma voz clonada, um vídeo adulterado ou um discurso artificialmente construído podem atravessar a nossa capacidade de discernimento e se instalar na consciência como verdades incontestáveis.


E talvez seja justamente aí que resida o maior perigo da Inteligência Artificial: não na sua capacidade de falsear a verdade, mas na sua capacidade de fazer com que o falso adquira a aparência, a voz e a consistência do verdadeiro.


A questão, portanto, não é simplesmente tecnológica.


É profundamente ética, filosófica e humana.


Desde sempre, a humanidade convive com a mentira, a fraude e a manipulação.


A novidade é que agora dispomos de ferramentas capazes de reproduzir os sinais exteriores da verdade com uma precisão que desafia a nossa própria percepção.


Se antes desconfiávamos da palavra de alguém, hoje podemos precisar desconfiar até daquilo que vemos e ouvimos.


E quando os sentidos deixam de ser testemunhas confiáveis, em que nos apoiamos para distinguir o real do fabricado?


O problema não está na Inteligência Artificial em si, que pode ampliar conhecimentos, redemocratizar oportunidades e favorecer descobertas extraordinárias.


Está no uso que fazemos dela e, sobretudo, na intenção que orienta esse uso.


Uma ferramenta não elimina a responsabilidade de quem a utiliza.


Ao contrário: quanto maior for o seu poder de influenciar, convencer e enganar, maior deve ser o compromisso ético de quem a controla.


Há, contudo, uma dimensão ainda mais delicada nessa discussão: a nossa própria disposição para acreditar.


Muitas vezes, não somos convencidos apenas pela força das evidências, mas pela conveniência daquilo que elas parecem confirmar.


A mentira que alimenta nossas certezas encontra menos resistência do que a verdade que nos obriga a rever nossas convicções.


Nesse sentido, a tecnologia não inventou a vulnerabilidade humana; apenas encontrou meios mais sofisticados de explorá-la.


Ser enganado com recursos da Inteligência Artificial pode provocar indignação, vergonha e até uma espécie de humilhação retrospectiva.


Perguntamo-nos como não percebemos, por que acreditamos e em que momento deixamos de questionar.


Mas talvez a pergunta mais importante não seja por que fomos enganados, e sim por que construímos uma sociedade na qual a aparência de autenticidade pode valer mais do que a autenticidade em si.


Não podemos exigir que todos se tornem especialistas em tecnologia para que sejam capazes de viver em segurança.


Tampouco podemos transformar a desconfiança absoluta em regra de convivência, pois uma sociedade na qual ninguém acredita em ninguém já foi, de alguma maneira, derrotada pela própria mentira.


Precisamos, isso sim, cultivar o pensamento crítico sem perder a capacidade de confiar, aprimorar os instrumentos de verificação sem abandonar o discernimento e cobrar responsabilidade de quem utiliza a tecnologia para distorcer os fatos.


No fim das contas, talvez o verdadeiro assalto não seja aquele em que alguém leva nosso dinheiro, nem mesmo aquele em que nos fazem acreditar numa imagem ou numa voz inexistente.


Talvez o assalto mais grave seja aquele que nos rouba a autonomia de pensar, a liberdade de escolher com consciência e o direito de decidir a partir de informações fidedignas.


Porque uma arma de brinquedo pode simular o poder de ferir um corpo, mas uma mentira tecnologicamente aperfeiçoada pode ferir a confiança de uma pessoa, comprometer reputações, destruir relações e contaminar a percepção coletiva da realidade.


E fica a provocação final: se já não podemos confiar plenamente naquilo que vemos, ouvimos ou lemos, estaremos diante de uma evolução da Inteligência Humana ou de uma perigosa regressão da nossa capacidade de reconhecer a verdade?


A Inteligência Artificial pode imitar a voz humana, reproduzir rostos e corpos, fabricar acontecimentos e simular emoções.


Mas ainda assim, somos nós que precisamos decidir a serviço de quê colocaremos essa capacidade: da compreensão ou do engano, da liberdade ou do controle, da verdade ou da manipulação.


Afinal, o avanço de uma tecnologia não representa, necessariamente, o avanço da humanidade.


A verdadeira medida do progresso talvez não esteja naquilo que somos capazes de criar, mas na responsabilidade com que escolhemos utilizar o que criamos.


Porque o perigo maior não é quando a máquina aprende a imitar o ser humano, mas quando o ser humano passa a utilizar a máquina para aperfeiçoar aquilo que tem de pior.