Quando a tecnologia cria novas ferramentas para velhos comportamentos
Há algo extremamente antagônico na espécie humana.
Inventamos ferramentas para resolver problemas e, logo a seguir, alguém descobre uma maneira de utilizá-las para criar novos problemas…
O Pix talvez seja um exemplo singelo.
Criado para facilitar transferências financeiras, tornou-se uma das grandes inovações da vida cotidiana brasileira. Transferir dinheiro ficou rápido, simples e barato.
Então algum “gênio” descobriu a possibilidade de utilizar o campo destinado à identificação ou descrição da transação para enviar mensagens ofensivas, intimidatórias ou ameaçadoras.
A criatividade humana encontrou uma nova aplicação para uma ferramenta que deveria apenas facilitar pagamentos.
Não é exatamente uma novidade.
É apenas uma nova versão de um comportamento muito antigo.
A ferramenta nunca é suficiente
Quando inventamos o telefone, não inventamos apenas uma maneira de conversar à distância.
Inventamos também uma maneira de incomodar desconhecidos.
Quando criamos o e-mail, não criamos apenas uma forma revolucionária de comunicação.
Demos vida também ao spam, ao phishing e praticamente uma “indústria” inteira dedicada a enganar as pessoas.
A humanidade criou as redes sociais e com isso ganhamos uma capacidade extraordinária de comunicação e compartilhamento de informação e notícias.
Mas também utilizamos esses ambientes para perseguição, humilhação pública, manipulação e disseminação de mentiras em escala industrial.
Agora temos inteligência artificial.
E rapidamente descobrimos como utilizá-la para produzir fraude, falsificação, manipulação, desinformação e golpes cada vez mais convincentes.
A tecnologia muda.
O comportamento permanece.
Talvez essa seja uma das características mais interessantes da espécie humana:
Ser ótimos em encontrar novas maneiras de fazer coisas antigas (e danosas).
O problema não é a inteligência
Costumamos falar sobre inteligência artificial como se a inteligência, por si só, fosse uma virtude.
Não é.
Inteligência é capacidade.
E capacidade não possui moral própria.
Uma pessoa inteligente pode resolver um problema complexo.
Também pode criar um problema complexo.
Pode desenvolver uma vacina.
Pode desenvolver uma arma.
Pode criar uma ferramenta para democratizar o conhecimento.
Pode criar uma ferramenta para manipular milhões de pessoas.
A inteligência aumenta aquilo que somos capazes de fazer.
Mas não determina aquilo que devemos fazer.
Essa distinção parece óbvia.
Entretanto, nossa civilização frequentemente age como se toda inovação fosse automaticamente progresso.
Não é.
Inventar alguma coisa não significa necessariamente melhorar o mundo.
A criatividade é moralmente neutra
Existe uma certa romantização da criatividade.
Criatividade é apresentada como uma qualidade essencialmente positiva: imaginar, inventar, experimentar, romper padrões.
Mas criatividade é apenas a capacidade de produzir algo novo.
E algo novo pode ser maravilhoso.
Ou terrível.
Uma pessoa criativa pode encontrar uma solução para reduzir o desperdício de alimentos.
Outra pode encontrar uma maneira de explorar uma brecha jurídica.
Uma pode inventar um medicamento.
Outra pode inventar uma fraude.
Uma pode criar uma obra de arte.
Outra pode descobrir como transformar medo em instrumento de dominação.
A criatividade não pergunta se aquilo que está criando é bom.
Quem deveria fazer essa pergunta somos nós.
O centavo que revela uma espécie
Talvez por isso o episódio do Pix seja mais interessante do que parece.
Não pelo valor envolvido.
Pelo contrário.
É justamente a insignificância do valor que torna o comportamento revelador.
Imagine a cena.
Alguém abre o aplicativo bancário.
Escolhe uma pessoa.
Digita um valor.
Preenche o campo de mensagem.
E pensa em uma maneira de utilizar uma ferramenta financeira para transmitir uma ofensa ou uma ameaça.
Não havia necessidade econômica.
Não havia benefício material relevante.
Havia apenas a intenção de atingir outra pessoa.
É difícil não perguntar:
por que fazemos isso?
Talvez porque sejamos uma espécie que desenvolveu uma capacidade tecnológica muito maior do que sua capacidade de autocontrole.
E essa talvez seja uma combinação perigosa.
O paradoxo do progresso
Nossa história costuma ser contada como uma sequência de conquistas.
Descobrimos o fogo.
Inventamos a roda.
Desenvolvemos a agricultura.
Construímos cidades.
Criamos a escrita.
A ciência.
A medicina.
A eletricidade.
A computação.
A internet.
A inteligência artificial.
É uma narrativa bonita.
Mas existe outra maneira de contar a mesma história.
Aprendemos a produzir alimentos em grande escala — e também a guerrear em grande escala.
Aprendemos a escrever — e também a fabricar propaganda.
Aprendemos a imprimir livros — e também a imprimir mentiras.
Aprendemos a transmitir informação instantaneamente — e também a transmitir ódio instantaneamente.
Aprendemos a manipular matéria, energia e informação em níveis extraordinários…
Mas ainda estamos tentando descobrir como lidar com nossos próprios impulsos animais.
Talvez o paradoxo seja este:
nossa capacidade tecnológica cresce muito mais rapidamente do que nossa maturidade moral.
O ser humano como multiplicador
Uma tecnologia é, em grande medida, um multiplicador.
Ela amplia nossa capacidade de realizar alguma coisa.
Uma faca amplia a capacidade da mão.
Um carro amplia nossa capacidade de deslocamento.
Um computador amplia nossa capacidade de cálculo.
A internet amplia nossa capacidade de comunicação.
A inteligência artificial amplia nossa capacidade de produzir e manipular informação.
Mas multiplicar capacidade não significa multiplicar sabedoria.
Se uma pessoa possui boas intenções, uma ferramenta poderosa pode permitir que ela faça muito bem.
Se possui más intenções, a mesma ferramenta pode permitir que faça muito mal.
O grande problema começa ao fornecer ferramentas cada vez mais poderosas a uma espécie que ainda não resolveu nem as questões sobre convivência básica.
É como colocar um motor de avião em uma bicicleta e depois perguntar por que o ciclista está tendo dificuldades para controlar o veículo.
Talvez a tecnologia apenas revele
Há uma interpretação ainda mais incômoda.
Talvez a tecnologia não esteja tornando as pessoas piores.
Talvez esteja apenas tornando visível e escalável aquilo que já existia.
O sujeito que utiliza o Pix para ameaçar alguém provavelmente não se tornou agressivo porque descobriu o campo de mensagens.
Ele apenas encontrou uma nova superfície para manifestar algo que já estava dentro dele.
A tecnologia ofereceu o instrumento.
A intenção veio de outro lugar.
Isso vale para quase tudo.
A rede social não inventou o preconceito.
A inteligência artificial não inventou a mentira.
O telefone não inventou o assédio.
O dinheiro eletrônico não inventou a extorsão.
A propaganda não inventou a manipulação.
Nós já fazíamos tudo isso.
A diferença é que agora podemos fazer algumas dessas coisas mais rápido, mais barato e em uma escala muito maior.
E talvez essa seja a parte realmente assustadora
Não deveríamos temer apenas uma inteligência artificial cada vez mais poderosa.
Deveríamos prestar atenção em uma humanidade cada vez mais poderosa equipada com ferramentas cada vez mais poderosas.
Porque uma máquina não precisa ser moralmente má para produzir consequências ruins.
Basta que alguém saiba utilizá-la.
E aqui aparece uma questão que frequentemente esquecemos:
quem está treinando quem?
Nós treinamos as máquinas.
Mas as máquinas também começam a modificar nosso comportamento.
Aprendemos a pensar em termos de algoritmos.
A escrever para algoritmos.
A produzir conteúdo para algoritmos.
A buscar aprovação de algoritmos.
A delegar decisões a algoritmos.
Talvez um dia descubramos que não fomos substituídos pelas máquinas.
Fomos apenas nos tornando semelhantes demais a elas.
A espécie que inventa e depois reclama
É possível que o problema esteja numa característica profundamente humana: nossa extraordinária capacidade de adaptação.
Inventamos alguma coisa.
Descobrimos suas possibilidades.
Exploramos suas limitações.
Encontramos suas brechas.
E então inventamos mecanismos para tentar impedir os abusos que nós mesmos descobrimos.
Criamos o Pix.
Descobrimos um abuso.
Criamos uma regra.
Alguém encontra uma brecha.
Criamos outra regra.
E assim seguimos.
É quase uma corrida permanente entre nossa capacidade de criar e nossa capacidade de controlar aquilo que criamos.
Talvez seja por isso que nossa história pareça, às vezes, uma gigantesca brincadeira de gato e rato entre a criatividade humana e a própria humanidade.
Afinal, somos uma espécie ruim?
Talvez aqui seja necessário tomar cuidado.
Porque seria fácil concluir que o ser humano é simplesmente uma espécie ruim.
Mas isso também seria uma simplificação.
A mesma espécie capaz de ameaçar alguém através de uma transferência de um centavo é capaz de transferir dinheiro anonimamente para ajudar uma pessoa que nunca conheceu.
A mesma internet que dissemina ódio permite que alguém encontre conhecimento que jamais teria acesso de outra maneira.
A mesma inteligência artificial que pode ser utilizada para golpes pode ajudar uma pessoa a estudar, criar, pesquisar ou compreender alguma coisa que parecia inacessível.
A mesma criatividade que produz crueldade também produz literatura, música, ciência, solidariedade e beleza.
O problema, portanto, talvez não seja nossa criatividade.
É a direção que escolhemos dar a ela.
O verdadeiro progresso
Talvez tenhamos confundido progresso tecnológico com progresso humano.
Um país pode possuir computadores quânticos, inteligência artificial avançada, carros autônomos e sistemas financeiros instantâneos e, ainda assim, continuar produzindo intolerância, violência, desigualdade e crueldade.
Podemos dominar a matéria sem dominar nossos impulsos.
Podemos conversar com máquinas inteligentes sem aprender a conversar uns com os outros.
Podemos conhecer o universo e continuar ignorando o vizinho.
Isso não significa que a tecnologia seja inútil.
Significa apenas que ela não pode responder sozinha à pergunta fundamental:
para quê?
Para quê queremos mais velocidade?
Para quê queremos mais inteligência?
Para quê queremos mais poder?
Para quê queremos ser capazes de fazer aquilo que hoje ainda não conseguimos fazer?
Talvez essa seja a pergunta que deveria acompanhar toda grande inovação.
Não apenas:
“Podemos fazer?”
Mas:
“Devemos fazer?”
E, principalmente:
“Para quem?”
A criatividade humana para o bem
Talvez eu esteja sendo injusto com a espécie à qual pertenço.
Afinal, a criatividade humana para o mal é apenas metade da história.
A outra metade é extraordinária.
Somos a espécie que olha para o céu e inventa telescópios para descobrir o que existe além dele.
Somos a espécie que percebe uma doença e tenta encontrar uma cura.
Que encontra sofrimento e inventa anestesia.
Que vê uma criança com dificuldade de aprender e tenta criar novas formas de ensiná-la.
Que escuta uma música criada há séculos e ainda consegue se emocionar.
Que escreve poemas para pessoas que ainda nem nasceram.
Que constrói sondas para procurar sinais de vida a bilhões de quilômetros.
Que olha para o universo e pergunta de onde viemos.
Talvez nossa maior característica não seja sermos bons ou maus.
Talvez seja sermos capazes de ambos.
E isso nos coloca diante de uma responsabilidade que nenhuma máquina poderá assumir por nós.
A escolha
A tecnologia continuará avançando.
O Pix continuará evoluindo.
A inteligência artificial ficará mais poderosa.
As ferramentas serão mais rápidas, mais baratas e mais acessíveis.
E alguém continuará encontrando maneiras inesperadas de utilizá-las.
Provavelmente para o bem.
Mas também, provavelmente para o mal.
O que não podemos terceirizar é a escolha entre os dois.
Porque, no fim das contas, talvez a verdadeira medida do progresso de uma espécie não seja aquilo que ela consegue inventar.
Talvez seja aquilo que, tendo capacidade para fazer, ela escolhe não fazer.
E talvez seja justamente aí que esteja nossa última esperança.
Não na tecnologia.
Não na inteligência artificial.
Nem sequer na inteligência humana.
Mas na capacidade, ainda tão precária, de compreender que o fato de podermos fazer alguma coisa nunca foi, por si só, uma boa razão para fazê-la.
Até porque, olhando para a nossa história, existe uma conclusão difícil de evitar:
a humanidade nunca teve falta de criatividade.
O que ainda estamos tentando aprender é para que ela deve servir.
Nota de autoria
Este ensaio foi escrito por Henrique Fernandez, que utilizou o ChatGPT como ferramenta de apoio à redação, para explorar alternativas de formulação, ajustar o estilo e testar a organização dos argumentos, jamais como autor independente. As ideias, conceitos e teses defendidas neste texto são de formulação exclusivamente humana, fruto da trajetória intelectual e do projeto teórico do autor sobre poder, ética, império, religião, tecnologia e controle social, e têm como objetivo provocar o pensamento, desmontar narrativas naturalizadas e reafirmar a centralidade de uma ética humanista em sociedades plurais e complexas. A responsabilidade intelectual, política e ética pelo conteúdo apresentado é própria do autor humano, que concebeu os argumentos, selecionou, editou e reorganizou o texto e respondeu por todas as ideias aqui apresentadas.