A IA facilitou a construção, o que significa que a expertise é mais importante do que nunca

Há alguns anos, se você quisesse desenvolver um produto de verificação de identidade, precisava de conhecimento especializado, recursos de engenharia dedicados, acesso a dados de treinamento e uma quantidade significativa de tempo.

No entanto, hoje, com as modernas ferramentas de IA, uma equipe pequena pode criar um protótipo funcional em questão de dias. Em alguns casos, isso pode ser feito em poucas horas. Precisa de um chatbot, um mecanismo de recomendação ou um fluxo de trabalho para extração de documentos? A IA pode ajudar a acelerar drasticamente o processo.

Essa mudança é um dos aspectos mais empolgantes do atual ciclo tecnológico. As barreiras para o desenvolvimento de software nunca foram tão baixas. As equipes podem agir com mais agilidade, testar ideias mais rapidamente e levar inovações ao mercado em um ritmo que pareceria impossível há apenas alguns anos.

Mas há também uma distinção importante que as organizações estão começando a perceber. A diferença entre uma prova de conceito e um sistema de produção sempre existiu. A IA está fazendo com que essa diferença seja mais facilmente ignorada.

Considere um exemplo hipotético. Uma equipe de engenharia participa de um hackathon interno e decide desenvolver uma solução de verificação. Utilizando algumas instruções e modelos disponíveis publicamente, eles conseguem criar um protótipo funcional. O sistema extrai informações de documentos, identifica anomalias básicas e produz resultados que parecem promissores.

O desafio se torna significativamente mais complexo quando um sistema passa da fase de demonstração controlada para a fase de produção. Os ambientes do mundo real apresentam milhares de tipos de documentos em centenas de países, tentativas de fraude cada vez mais sofisticadas, documentos sintéticos gerados especificamente para escapar à detecção e expectativas regulatórias crescentes em relação à transparência, auditabilidade e tomada de decisões consistente. Não se trata de casos isolados ou cenários hipotéticos. São as condições sob as quais os sistemas modernos de identidade operam diariamente. 

A IA está vivendo um momento de retorno às origens

Acredito que isso esteja levando a uma das grandes ironias da era da IA; ou seja, que, no fim das contas, isso possa reforçar o valor da especialização. É um momento em que o ciclo se fecha, se assim se pode dizer.

À primeira vista, a IA parece nivelar o campo de atuação. Recursos que antes exigiam equipes especializadas agora podem ser criados com algumas instruções e modelos disponíveis publicamente. Mas, à medida que mais organizações passam a ter acesso às mesmas ferramentas, a própria tecnologia deixa de ser um fator de diferenciação.

Já estamos vendo isso acontecer. A questão não é mais se uma equipe é capaz de desenvolver uma solução. Cada vez mais, a questão é se essa solução consegue funcionar de maneira confiável no mundo real, se adaptar às ameaças em constante mudança, explicar suas decisões e conquistar confiança ao longo do tempo.

Nesse sentido, a IA está fechando o ciclo do setor. As barreiras à criação caíram, mas o valor da experiência, dos dados e do conhecimento especializado na área só tem aumentado.

O paradoxo da IA: reduzindo (e erguendo) barreiras

O desafio que as organizações enfrentam atualmente é que a IA está reduzindo as barreiras para todos. Ela está ajudando empresas legítimas a se desenvolverem mais rapidamente. Ao mesmo tempo, está ajudando os fraudadores a inovarem mais rapidamente.

As mesmas tecnologias que facilitam a criação de um protótipo de verificação de documentos também facilitam a criação de identidades sintéticas, documentos falsificados, deepfakes e ferramentas automatizadas de ataque. Como resultado, muitas organizações estão percebendo que o maior desafio não é mais o desenvolvimento, mas sim a adaptação.

A fraude não é algo estático. As técnicas de ataque evoluem continuamente. Surgem novos vetores de ataque. A IA generativa muda a dinâmica econômica da fraude. O que funciona hoje pode se tornar ineficaz amanhã.

Como mencionei anteriormente, é nesse ponto que a especialização se torna cada vez mais valiosa.

Na verificação de identidade, o sucesso raramente é determinado pela capacidade de um sistema de processar um documento ou concluir uma transação. O sucesso é determinado pelo desempenho desse sistema diante de casos extremos, cenários de ataque e desafios operacionais que surgem ao longo do tempo.

O sucesso é determinado pelo desempenho de um sistema diante de casos extremos, cenários de ataque e desafios operacionais que surgem ao longo do tempo. Ele deve ser capaz de distinguir usuários legítimos de falsificações sofisticadas, identificar tentativas sutis de manipulação, adaptar-se à medida que os padrões de fraude evoluem, explicar suas decisões quando questionado e manter altos níveis de precisão sem causar transtornos desnecessários aos clientes legítimos. 

Esses recursos normalmente não são criados durante um hackathon. Eles são desenvolvidos ao longo de anos de iterações, testes, validações e exposição a ataques reais.

Uma nova fase na evolução da IA

É por tudo isso que acredito que estamos entrando em uma fase interessante da era da IA.

Por décadas, os líderes em tecnologia muitas vezes se viram obrigados a escolher entre desenvolver internamente ou adquirir externamente, pois o desenvolvimento exigia um esforço significativo. A IA está mudando essa equação. Desenvolver tornou-se significativamente mais fácil, mas isso não significa que todas as funcionalidades devam ser desenvolvidas. Na verdade, o contrário pode ser verdadeiro.

À medida que o custo de desenvolvimento de software continua a cair, a questão deixa de ser se algo pode ser desenvolvido e passa a ser se deve ser desenvolvido. A maioria das organizações dispõe de uma quantidade limitada de talentos de engenharia e de atenção. A verdadeira decisão estratégica é determinar onde esses recursos geram mais valor. Recriar funcionalidades que já foram resolvidas pode ser tecnicamente possível, mas raramente gera um diferencial duradouro. Resolver os problemas dos clientes, desenvolver novos produtos e impulsionar o negócio principal geralmente sim.

Essa talvez seja uma das grandes ironias da era da IA. Embora a IA tenha tornado o desenvolvimento de software mais acessível do que nunca, ela não facilitou a aquisição de experiência, dados, conhecimento operacional ou especialização na área. Em muitos casos, essas vantagens se tornaram ainda mais importantes. A capacidade de criar um protótipo é cada vez mais comum. A capacidade de operar um sistema confiável em grande escala, adaptar-se a condições em constante mudança e melhorar continuamente ao longo do tempo continua sendo muito mais difícil de replicar.