Durante séculos, a humanidade acreditou que toda afirmação importante poderia, em princípio, ser confirmada ou refutada. Bastava reunir documentos, ouvir testemunhas, examinar registros ou reproduzir experimentos. A ciência floresceu exatamente sobre esse princípio: uma hipótese vale apenas enquanto puder ser confrontada pelos fatos.
A era digital, porém, introduziu uma novidade inquietante. Pela primeira vez na história, uma parcela crescente das decisões que afetam milhões de pessoas é tomada dentro de sistemas cujo funcionamento permanece inacessível a quem sofre suas consequências.
Não se trata apenas de inteligência artificial. Trata-se de algoritmos que decidem o que vemos, o que compramos, quais notícias chegam até nós, quais vídeos serão recomendados, qual motorista receberá uma corrida, qual vendedor aparecerá primeiro em um marketplace, qual currículo será analisado por um recrutador e, em alguns países, até mesmo quem representa maior risco para um banco ou uma seguradora.
Esses sistemas se tornaram os novos intermediários da sociedade.
Mas há uma diferença fundamental em relação aos intermediários do passado.
Eles não explicam suas decisões.
Recentemente vivi uma experiência aparentemente banal.
Após investir em uma campanha de divulgação para um vídeo do meu canal no YouTube, observei um comportamento inesperado. Durante os dias em que o anúncio esteve ativo, as visualizações cresceram exponencialmente. Encerrada a campanha, elas despencaram para níveis muito inferiores aos que o canal apresentava anteriormente.
A primeira reação foi buscar uma explicação.
Seria coincidência?
Uma falha estatística?
Uma característica do algoritmo?
Pesquisei, encontrei relatos semelhantes, consultei diferentes fontes e até recorri a sistemas de inteligência artificial em busca de hipóteses.
As respostas eram plausíveis.
Algumas diziam que um público pouco interessado poderia reduzir indicadores de retenção, influenciando futuras recomendações. Outras afirmavam que isso seria apenas um efeito temporário. Havia ainda quem garantisse que tudo não passava de uma interpretação equivocada dos dados.
Então percebi algo muito mais importante do que qualquer uma dessas hipóteses.
Eu jamais conseguiria descobrir a resposta.
Não porque ela fosse tecnicamente complexa.
Mas porque os únicos dados capazes de comprová-la pertencem exclusivamente à própria plataforma.
Esse talvez seja um dos fenômenos mais discretos — e mais revolucionários — do século XXI.
As grandes plataformas digitais não controlam apenas serviços.
Elas controlam também a possibilidade de verificar como esses serviços funcionam.
O usuário observa apenas o resultado.
Jamais o processo.
Se um banco recusa um financiamento, dificilmente o cliente conhecerá todos os critérios utilizados pelo modelo estatístico.
Se um aplicativo deixa de oferecer corridas a determinado motorista, ele verá apenas a redução da demanda.
Se um marketplace altera a visibilidade de um vendedor, este perceberá a queda nas vendas, mas não saberá exatamente quais variáveis foram modificadas.
O mesmo vale para redes sociais, mecanismos de busca e plataformas de vídeo.
O algoritmo transforma-se em uma caixa-preta.
Isso não significa, necessariamente, que exista manipulação.
Essa distinção é essencial.
A ausência de transparência não prova abuso.
Mas produz um problema igualmente sério.
Quando apenas uma das partes possui acesso aos dados completos, torna-se extremamente difícil distinguir um comportamento legítimo de um erro, de um viés ou até de uma injustiça.
A própria possibilidade de investigação fica limitada.
É uma situação curiosa.
O usuário não consegue provar que foi prejudicado.
E a empresa tampouco consegue demonstrar integralmente que não foi.
A verdade permanece aprisionada dentro do algoritmo.
Talvez este seja um dos maiores desafios éticos da inteligência artificial e das plataformas digitais.
Durante décadas discutimos quem teria acesso à informação.
Hoje talvez devamos discutir algo ainda mais profundo:
quem tem acesso às evidências.
Porque informação pode ser publicada.
Mas evidências dependem dos dados.
E dados, cada vez mais, pertencem a poucas organizações.
Quem controla esses dados controla não apenas seus produtos.
Controla também quais perguntas poderão ser respondidas.
Não proponho aqui teorias conspiratórias.
Muito menos pretendo afirmar que plataformas agem deliberadamente contra seus próprios usuários.
Meu objetivo é outro.
É lembrar que confiança e transparência não são sinônimos.
Uma empresa pode ser extremamente confiável.
Ainda assim, quando seus processos são impossíveis de auditar de forma independente, toda confiança repousa, inevitavelmente, sobre um ato de fé.
E sociedades democráticas sempre preferiram substituir a fé pela possibilidade de verificação.
Talvez o maior poder das grandes plataformas digitais não seja decidir quais conteúdos aparecem em nossas telas.
Talvez seja algo muito mais silencioso.
Elas passaram a controlar não apenas a circulação da informação, mas também o acesso às evidências necessárias para compreender como essa circulação acontece.
Quando isso ocorre, a discussão deixa de ser tecnológica.
Torna-se filosófica.
Pois uma sociedade em que apenas poucos podem verificar a verdade corre o risco de descobrir, tarde demais, que a transparência não desapareceu de uma vez.
Ela foi sendo substituída, pouco a pouco, por algoritmos que ninguém vê, ninguém audita e quase ninguém consegue questionar.
Nota de autoria
Este ensaio foi escrito por Henrique Fernandez, que utilizou o ChatGPT como ferramenta de apoio à redação, para explorar alternativas de formulação, ajustar o estilo e testar a organização dos argumentos, jamais como autor independente. As ideias, conceitos e teses defendidas neste texto são de formulação exclusivamente humana, fruto da trajetória intelectual e do projeto teórico do autor sobre poder, ética, império, religião, tecnologia e controle social, e têm como objetivo provocar o pensamento, desmontar narrativas naturalizadas e reafirmar a centralidade de uma ética humanista em sociedades plurais e complexas. A responsabilidade intelectual, política e ética pelo conteúdo apresentado é própria do autor humano, que concebeu os argumentos, selecionou, editou e reorganizou o texto e respondeu por todas as ideias aqui apresentadas.