A máquina não nos compreende por aquilo que pensamos que somos, mas sim pela acção revelada pelos nossos dados [os sítios que visitamos, os «gostos», os comentários e outras interacções]. Chama-nos através dos nossos sistemas reflexos. Consegue fazer isso porque usa as técnicas dos inquéritos estatísticos para gerar novos algoritmos de aprendizagem que aprendem a manipular-nos. Há um sistema que ajuíza antecipadamente o que queremos e restringe a nossa visão do mundo. Esse sistema entende-nos de forma muito completa porque lhe expomos os nossos pensamentos e caprichos mais íntimos. Os nossos dados pessoais são uma projecção de nós mesmos, e andamos a permitir que eles sejam manipulados sem o nosso controlo. São manipulados por entidades que também têm acesso aos dados de outras pessoas numa escala global. Ao permitirmos essa colecta generalizada abdicamos da liberdade pessoal.
Estamos a ser usados como fonte de dinheiro. Não há nenhuma grande conspiração, o que acontece é a consequência natural da tentativa daqueles que controlam os nossos dados os explorarem para seu benefício financeiro. É uma propriedade emergente da oligarquia digital.
O sistema criado não é regulamentado, não entende o contexto social, não tem uma noção de objectivos humanos elevados, não tem empatia. São-lhe atribuídos objectivos específicos e ele visa cumpri-los com a sua melhor capacidade, independentemente dos efeitos negativos. Devido a isso foi manipulado para debilitar a democracia e destruir a coesão social.
Com esta primeira vaga de inteligência artificial (IA), uma grande parte da sociedade passou a estar sujeita aos caprichos de poucos.
O que preocupa é que, apelando aos nossos eus reflexos e não aos nossos eus reflexivos, o sistema suscita uma regressão ao estado em que domina o eu reflexo, que se assemelha ao chimpanzé.
As nossas interacções podem ser controladas por inteligências de máquina que não têm nenhuma participação na sociedade, ou podemos optar por exercer e capacitar a nossa própria tomada de decisão. Se não interviermos, estamos a optar por dar poder à máquina. Precisamos de construir sistemas que nos respeitem como indivíduos, que retenham o controlo das informações pessoais nas mãos daqueles que as geram.
O nosso fascínio com a IA é a projecção de um fascínio connosco próprios. O narcisismo tecnológico pode ser nocivo, mas se pudermos passar do nosso narcisismo para a introspecção, isso será benéfico.
in: «Humano, demasiado humano». Lawrence, Neil D. Gradiva. Lisboa, 2025. (p 320-324 – composição de excertos).
José Batista d’Ascenção
Sem comentários :
Enviar um comentário