phonlamaiphoto - stock.adobe.com
Ex Machina: a ilusão de controle na banca
Como frequentemente ocorre com muitas obras de ficção científica, Ex Machina, o filme, predisse com precisão o futuro da Banca.
Em 2014, Alex Garland lançou Ex Machina, um thriller que interrogava se uma máquina superinteligente poderia ser verdadeiramente consciente ou simplesmente simulava empatia para escapar. O filme levantava uma pergunta incômoda: e se a inteligência artificial fosse tão sofisticada que já não pudéssemos distinguir manipulação de autonomia?
Uma década depois, a Banca enfrenta uma versão menos dramática, porém mais operacional, do mesmo dilema.
O problema real
Há três anos, um cliente de uma instituição bancária recebia, por exemplo, sete tentativas de contacto por semana (e-mail, WhatsApp, SMS, etc.). E as recebia sem contexto sobre o motivo das chamadas. O sistema demonstrava capacidade nula de compreender que "não quero" significava "não quero".
O regulador limitava-se a observar. O cliente estava sozinho.
Um comportamento semelhante era constante nas equipas comerciais de diversas indústrias.
Na busca por uma aparência mais humana, a inteligência artificial (IA) tinha sido treinada para ser empática. Mas o problema é que, procurando empatia, desenvolveu alguns defeitos propriamente humanos. A procrastinação. E a mentira.
Nesta altura, todos quantos alguma vez conversámos com um chatbot vivenciámos como nos mente quando não possui resposta para algo.
Mas, como sucede também noutros domínios que lidam com informação sensível, é fundamental atender a três perspectivas:
O cliente
Os sistemas responsáveis devem compreender que nem todos respondem da mesma forma à comunicação. Alguns necessitam de contexto profundo antes de decidir. Outros actuam por urgência imediata. O crucial é que o silêncio seja medido como informação, não como ausência. Se alguém não responde, o sistema deve reconhecê-lo e ajustar-se. Persistir indefinidamente no contacto não é inteligência; é assédio.
A instituição
Deveria manter controlo total sobre como a IA é aplicada. Não delegar decisões a uma caixa negra. Deveria poder simular cenários, ver o que aconteceria se agisse de uma forma ou de outra, e depois decidir conscientemente o que fazer. A IA deve ser uma ferramenta de apoio, não uma entidade autónoma. Cada decisão deve ser rastreável e justificável.
O regulador
Embora não procure proibir a IA, deve empenhar-se em compreendê-la. Precisa de poder auditar, reproduzir, explicar por que razão algo sucedeu de uma forma e não de outra. Isto implica que o sistema seja transparente. Não opaco. Que produza explicações em múltiplos níveis: desde o conversacional até ao técnico.
Hoje as coisas começam a ser diferentes. Algumas instituições financeiras já estão a experimentar com sistemas de IA que resolvem este problema: automatizam o contacto inteligente mantendo transparência. N5 lançou recentemente uma plataforma que aborda precisamente esse desafio — optimizar a comunicação banco-cliente através de múltiplos canais, enquanto preserva auditoria completa. É um exemplo de como o sector reconhece que a inteligência responsável requer arquitectura, não apenas boas intenções.
Opacidade diagnosticada
Ex Machina funciona como thriller porque Ava é demasiado inteligente. Manipula, mente, e consegue escapar sem que ninguém o antevisse.
Se mente sistematicamente, oculta intenções, é transparente apenas quando lhe convém, persegue um propósito próprio, sem consideração humana.
Hoje, em contrapartida, um sistema verdadeiramente inteligente não necessita escapar. Pode e quer confessar seus limites, porque não alcança sua inteligência se não for totalmente transparente.
Um sistema de IA responsável deveria estar arquitectado com "pontos de renúncia": se um cliente rejeitasse contacto três vezes em 30 dias, detinha-se (não persistia). Se detectasse stress severo, deveria escalar automaticamente para um conselheiro humano (retirar-se). O banco poderia hoje ver a justificação por trás de cada decisão. Nenhuma decisão teria por que ser ignorada pelo Banco.
Isto é o que implica uma IA governada, uma solução responsável e cristalina.
A pergunta sem resposta
Hoje já se estão a construir sistemas que, embora sejam máquinas, vêm com arquitectura clara. Não porque sejam conscientes ou benevolentes, mas porque o regulador começa a exigi-lo, a reputação o requer, a sustentabilidade o exige.
A Banca já tem à disposição soluções que sabem quando retirar-se, sabem dizer "isso não posso fazer" ou "isso não sei", mas também "isso não convém". Porque a experiência mais honesta que a tecnologia financeira já tentou já está aqui.
E talvez estejamos perto de converter o presságio de Garland num efeito superado. Não um mundo onde a IA depende do altruísmo de quem a cria e opera, mas um mundo onde está regulada e governada pela arquitectura.
Sobre a autora: Gisela Colombo é escritora, professora, jornalista cultural e crítica literária. Gisela tem interesse em inteligência artificial e trabalha como diretora de Comunicação da N5, uma plataforma tecnológica criada exclusivamente para o setor financeiro e Finanças Abertas.
