Entra hoje em um banco privado e a modelo já está na sala. Ele elabora o relatório trimestral do cliente, sugere reequilíbrio e resume uma década de relacionamento antes da reunião de auditoria. O gerente de relacionamento lê, concorda principalmente e envia.
Em algum momento, um cliente fará uma pergunta simples sobre um número ou recomendação: Quem decidiu isso? A resposta honesta deve ser uma pessoa. A maioria dos bancos conectou a inteligência artificial ao front office mais rápido do que determinou quem era essa pessoa.
O risco real são os direitos de decisão indefinidos
A falha repetida que vejo não está relacionada ao algoritmo. Isso equivale a direitos de decisão indefinidos. O que a ferramenta pode fazer sozinha? Quem analisa tudo o que chega ao cliente? Quem responde quando o cliente recua?
Um modelo talentoso baseado em propriedade pouco clara produz um resultado constante que ninguém no edifício pode apoiar. Meu trabalho SSRN sobre governança de IA continua no mesmo lugar. Estes sistemas falham por razões organizacionais, porque o escritório nunca decide quem é o dono do resultado.
Adote IA na ordem certa
Os bancos tendem a implantar a IA no trabalho voltado para o cliente e depois resolver a governança, geralmente depois que algo deu errado. A melhor sequência começa antes de iniciar a ferramenta.
Mapeie o fluxo de trabalho e classifique as tarefas de acordo com o que está em jogo. Um julgamento diante de um cliente, um valor de desempenho, um pedido de ajuste, uma dedução fiscal que desemboca em consultoria, cada vez recebe um difícil exame humano. Rascunhos internos, como um resumo de reunião ou um resumo de pesquisa inicial, podem ser executados com monitoramento mais fácil e revisão periódica.
Decida quem é o proprietário de cada resultado voltado para o cliente antes de a ferramenta entrar no ar. Resolver depois da primeira reclamação é tarde demais, porque aí o cliente já tem um número que ninguém no escritório escolheu nomear.
Como é a boa governação na prática?
A boa governação num ambiente orientado para o cliente é concreta e não tem nada a ver com grandes documentos políticos. Prefira ferramentas que mostrem sua lógica e cite uma fonte a ferramentas que simplesmente determinem uma resposta. Quando a saída for para o cliente, valide-a nessa fonte. Uma resposta eloqüente e uma resposta correta são coisas diferentes, e a diferença entre elas é para onde vai a reputação.
Mantenha um registro de como uma resposta foi gerada com a ajuda da IA, para que ela dure meses depois quando um cliente, ou regulador, perguntar como a empresa chegou a ela. Coloque uma pessoa nomeada na aprovação de qualquer coisa que conte como conselho, com duplo controle onde os valores o justificarem.
Observe a complacência da automação, o lento desvio em que a ferramenta acerta com frequência suficiente para que a equipe pare de verificar. Escrevi sobre essa tendência e seu consequente desgaste de habilidades. Ambos ocorrem silenciosamente e são questões de gerenciamento antes de serem técnicas.
Construir, comprar ou fazer parceria segue garantia
Uma empresa pode comprar um modelo ou contratar um parceiro para gerenciá-lo. Não pode terceirizar o relacionamento com o cliente. Quando o conselho é desafiado, o escritório responde. O fornecedor mantém um contrato, no máximo.
Portanto, a responsabilização deve orientar a decisão de fornecimento, em vez de segui-la. Construa onde o banco precise de controle sobre a lógica e uma trilha de auditoria que possa defender contra um cliente ou regulador. Compre ou compartilhe quando a tarefa for de baixo risco e bem definida, resumo do documento, pesquisa interna, primeiro rascunho que uma pessoa irá retrabalhar de qualquer maneira.
Observei o pêndulo de acionamento. Algumas empresas que se apressaram em comprar levam a obra na frente do cliente para casa, assim que precificam quem é o responsável quando dá errado. O controle consultivo e o controle do sistema tendem a viajar juntos.
As perguntas a serem feitas antes de ir ao vivo
Se uma empresa patrimonial tirar algo prático disso, faça uma pequena lista de perguntas a serem feitas a qualquer fornecedor de IA antes de tocar no trabalho de um cliente. O sistema pode mostrar seu raciocínio e indicar a fonte por trás de uma resposta? Podemos registrar todas as entradas e saídas e manter esse registro enquanto o conselho viver? Quais são os seus modos de falha conhecidos e eles foram testados em dados semelhantes aos nossos? Quem assina uma saída voltada para o cliente e uma pessoa pode permanecer responsável dentro do ciclo em vez de assiná-la? Para onde vão os dados de nossos clientes e quem mais pode vê-los?
Um provedor que não consegue responder de forma clara lhe diz algo. As empresas que perguntam cedo tendem a projetar sistemas melhores, porque as perguntas moldam o que é construído.
A garantia é a primeira decisão de design
Volte para este cliente e pergunte quem decidiu. O banco que determinou quem é o dono da decisão e quem responde por ela, antes de escolher a ferramenta, pode dar uma resposta direta e mostrar como ela funciona. O banco que comprou primeiro a ferramenta ainda procura a pessoa cujo nome consta na gorjeta.
A inteligência artificial continuará a migrar para o front office. As empresas bem-sucedidas serão aquelas que trataram a responsabilização como a primeira decisão de design, aquilo que consertaram antes de debater qual modelo executar.
Dr. Leigh Cooney é o fundador da WorkWise Solutions.
“Quando a inteligência artificial molda o conselho, quem o responde?” Criado e publicado originalmente pela Private Banker International, marca de propriedade da GlobalData.
As informações neste site são incluídas de boa fé apenas para fins de informação geral. Não se destina a constituir um conselho no qual você deva confiar, e não oferecemos nenhuma representação, garantia ou garantia, expressa ou implícita, quanto à sua exatidão ou integridade. Você deve obter aconselhamento profissional ou especializado antes de tomar ou abster-se de qualquer ação com base no conteúdo do nosso site.
