Qualidade de Dados / Data Quality

A qualidade dos dados e da informação é a base do sucesso de todos os processos de negócio de uma empresa. Mesmo em contextos com processos de negócio em aplicações heterogéneas, existem soluções completas que permitem uma visão única e inequívoca dos clientes da empresa.

Nestes contextos sempre complexos em que existem inúmeras plataformas para cada um dos departamentos da empresa, apenas realçam as capacidades das soluções da Uniserv. Iniciando sempre com necessidades especificas e individualizadas nas diversas áreas da empresa, consegue preencher os requisitos dos diferentes processos de negócio, sem lacunas.

Com estas aplicações orientadas para qualidade de dados, com as funcionalidades das mesmas e com as melhores práticas de consultadoria, as aplicações para análise, vigilância e limpeza dos dados, garantem uma melhoria considerável na qualidade dos dados em aplicações de negócios e projectos, tais como MDM, Business Data Warehouse, CRM, ERP ou e-business. Pode descobrir mais sobre as soluções de qualidade de dados aqui.

Existem como foram sendo descritas ao longo dos posts anteriores várias formas de normalização, correcção, actualização e validação das moradas, sendo o tratamento em modo batch sem dúvida o mais económico, para quem não tem volume de dados que comporte a compra das aplicações que funcionam logo na entrada dos dados. Embora seja essa a forma em que sem dúvida vamos ter os melhores resultados, nem sempre é possível fazer esse investimento.

Esta forma de tratamento obriga a um ciclo de tratamentos, mais ou menos frequentes consoante o volume de dados e de alterações que existam nos dados.

Neste tratamento de dados é feita a comparação dos dados existentes, com os dados existentes no ficheiro que contem as localidades, as respectivas ruas com, em muitos casos, os respectivos números de porta. Desta forma e recorrendo aos mais avançados algoritmos combinados, conseguimos ter resultados que são em muito superiores ao que por norma se consegue verificar. A segurança e qualidade dos dados e das aplicações é tal que é possível fazer testes neste demo online.

Esta é a melhor demonstração que podemos fazer da qualidade das nossas aplicações.

Na vertente Batch, vão existir no ficheiro final campos com uma descrição de todas as alterações que tenham sido efectuadas a cada um dos registos. Existem igualmente códigos que assinalam se os registos foram ou não alterados ou se não foi possível fazer a normalização / correcção / validação dos mesmos. Existem casos em que simplesmente não é possível fazer a normalização. Podem ser inúmeras as causas para essa não normalização, especialmente num país com as particularidades de Portugal. Mas mesmo com estas particularidades, estaremos sempre a falar em percentagens de normalização muito elevadas.

Como se pode ver com ferramentas adequadas não é necessária muita informação para que se consiga obter uma morada normalizada e mais que isso, com código postal de 7 dígitos e caso seja necessário ainda com as coordenadas geográficas anexadas. Tudo isto feito de forma sistematizada e no momento mais importante e crucial de toda a vida dos dados dentro de qualquer companhia: logo na sua criação.

Ainda mais que para estes casos em que as informações são poucas, estas ferramentas servem igualmente para os casos em que há dificuldades na percepção do interlocutor, seja qual for o motivo. Para alem dos erros de percepção quer seja escrita ou de dicção, estes softwares ainda são tolerantes aos erros de digitação.

Tudo isto pode ser comprovado online neste link. Esta é a melhor demonstração que se pode dar na confiança que existe nestas aplicações.

A qualidade da informação é um conceito que tem vindo a mudar ao longo dos anos. A definição de qualidade desde os anos 70 até aos dias de hoje tem vindo a ser alterada.

Se até ao final do século passado, poderíamos considerar uma BD com qualidade, se tivesse normalizada. O que entendo aqui por normalizada? Todas as moradas por exemplo, tinham sempre "R DR XXXXX", ou "AV PROF XXXXXX".

Depois disso a definição de qualidade passou a ir um pouco mais longe e passamos apenas a considerar registos com qualidade, os registos que tivessem com uma morada totalmente correcta, em alguns casos já por extenso, algo como "Rua Doutor Xxxxxxx" ou "Avenida Professor Xxxxxxx". Mais importante, no caso Português, que tivessem também os 7 dígitos do código postal correctos. Infelizmente ainda hoje há muitas BD's que nem isto conseguem ter, existindo inúmeros registos com a terminação em 000 ou 999.

Mas agora a definição de qualidade da informação vai ainda mais longe, sendo que a tudo o que existia anteriormente, ainda temos que acrescentar as coordenadas geográficas e em muitos casos chaves comportamentais.

As necessidades de termos informação de qualidade hoje, não têm comparação com as necessidades que tínhamos há uns anos, nem certamente com as necessidades que teremos num futuro próximo.

As ferramentas Real Time de qualidade de dados funcionam tal como foi já anteriormente referido a todo o momento permitindo assim que os dados estejam sempre actualizados e que a qualquer momento a qualidade dos dados possa ser assegurada de forma a que quando a informação seja necessária ela esteja correcta e actualizada.

Desta forma podemos confiar na informação existente nas nossas BD's evitando assim os picos que surgem nos processos de ETL que vimos anteriormente. Imaginado que o ciclo implementado para os processos de ETL era de um ano, se depois de nove meses de ter sido executado um processo de ETL fosse feita uma contagem, o que iria acontecer era que provavelmente os dados não seriam de todo fiáveis. Com as aplicações a funcionar em Real Time nunca chegamos a ter dados muito incorrectos. Podem haver algumas discrepâncias nos dados, mas será sempre valores residuais.

Este gráfico mostra a diferença entre as metodologias. Se a um dado momento nos for por exemplo pedido uma contagem de residentes numa determinada rua, com as aplicações Real Time em funcionamento não necessitamos de grandes esforços de normalização para conseguirmos dar esses valores porque sabemos que essa rua está sempre escrita da mesma forma e como tal não necessitamos de queries muito complexas para obter um resultado correcto. No exemplo dado anteriormente em que um processo de ETL tenha sido executado nove meses antes, o normal será procurar uma "Rua Principal"; "R Principal"; "R. Principal" e mesmo assim não existe a certeza de termos uma contagem com todos os registos da Rua Principal. Se no lugar da Rua Principal colocarmos uma Avenida Calouste Gulbenkian as hipóteses crescem exponencialmente.

A informação cada vez mais é um bem essencial a todas a empresas e não ter acesso a essa informação rapidamente pode ter consequências catastróficas.

Tudo o devemos ter em conta relativamente à qualidade dos dados:
- Os dados assim que entram no sistema já estão desactualizados
- A conversão de dados é um dos maiores problemas de qualidade de dados
- Convencer os responsáveis que a qualidade de dados é um problema é um desafio.
- Tem sempre de haver num€ros para se poder fundamentar um projecto de DQ
- O projecto de DQ tem de ser um projecto global, envolvendo TODA a empresa.
- Nada se compara a uma validação dos dados logo no seu input. Todos os projectos posteriores de ETL vão ter sempre resultados muito inferiores.
- A chave para termos os melhores dados é pensarmos que os dados nunca estão tão bons como pensamos.
- Não existe perfeição, não existe 100% de dados correctos, mas podemos ficar perto.
- Quem é responsável pela qualidade dos dados na empresa? O Marketing? As Vendas? Os Serviços ao Cliente? O departamento de TI's? Nenhum dos anteriores? Deve haver sempre um responsável e quanto mais alto esse responsável estiver dentro da hierarquia da empresa melhor.
- Todo o "lixo" que entrar, vai ser "lixo" que vai para a rua. O envio desse "lixo" tem custos. O ideal é ter um filtro na entrada dos dados que faça a limpeza desses dados para evitar a entrada do "lixo".

Para haver sucesso num processo de CRM, antes têm de existir fundações fortes. E quais são as fundações de qualquer projecto de CRM? Os dados.

Se os dados não estiverem em condições, não estiverem normalizados e especialmente deduplicados será muito difícil que qualquer CRM tenha sucesso. Se o mesmo individuo tiver mais que um registo, o que vai acontecer é que há tantas possibilidades de haver problemas, que o mais certo é mais tarde ou mais cedo um deles poder vir a acontecer.

Se por exemplo, num envio de email esse individuo fizer o pedido de remoção do envio de emails, essa remoção é executada num dos registos, mas pode ser enviado posteriormente de outro registo, mesmo que o email não seja o mesmo, fica sempre uma má imagem para a empresa. O mesmo se pode passar caso esse cliente peça para alterar por exemplo uma morada. A alteração seria feita apenas num registos e continuariam a ser enviadas comunicações para a anterior morada em outro(s) registo(s) que possam existir. Estes são apenas 2 pequenos exemplos de coisas que podem correr mal por haver registos duplicados.

Tal como mostrei anteriormente num video, é possível manter a qualidade de dados em tempo real, entre outros ambientes, em SAP(R). Estas aplicações que se podem ver em funcionamento no video, são ferramentas certificadas, tendo sido as primeiras a nível mundial a terem esta distinção. A integração destas ferramentas permite que em tempo real, no momento mais importante, ou seja logo na criação do registo, se possa fazer a normalização e deduplicação, conseguindo-se com isto resultados que ficam muito acima de qualquer tratamento batch que se possa fazer posteriormente. Qualquer duvida que exista pode ser imediatamente esclarecida com o interluctor, coisa que à posteriori será sempre muito difícil.

Se o SAP não tiver tido alterações à sua estrutura, quer em termos visuais, quer em termos de estrutura de Base de Dados, esta instalação é o que se pode considerar plug & play. Caso hajam alterações, logicamente que é possível fazer essas adaptações, mas nesse caso logicamente o tempo de integração já não será de um dia para o outro, mas certamente em poucos dias é possível ter a solução em funcionamento.

Cloud, nuvem, ASP, SaaS, Software como Serviço e muitas outras designações que se vão ouvindo para definir o mesmo conceito. O conceito poderemos definir de forma muito simples como o aluguer de um software sempre via internet.

Teoricamente em termos de vantagens é uma relação win-win. O comprador tem como vantagens não necessitar de fazer a manutenção do sistema, não necessitar de se preocupar com os upgrades e tem ainda a vantagem crucial, que é o baixo custo de investimento inicial. Existe ainda a vantagem de que o investimento total fica sempre muito aquém, em caso de uma utilização moderada, do preço total da compra da aplicação. Existem ainda muitas outras vantagens, como por exemplo poder ter sempre um controle sobre os custos, ter acesso imediato a actualizações/alterações, serem sempre soluções flexíveis e evolutivas.

Por outro lado, para o fornecedor, a principal vantagem é poder chegar a mercados que de outra forma lhe estariam inacessíveis.

No caso da qualidade de dados é possível aceder aos processos de normalização de dados, falados anteriormente via SaaS. Em vez de aceder ao servidor local para poder normalizar a morada, com o SaaS esta normalização vai ser efectuada num servidor via web. Esta possibilidade está disponível, e pode ser uma solução não apenas para clientes que tenham um volume de dados que não justifique a compra das aplicações, mas também para clientes que tenham moradas estrangeiras em numero mais reduzido, mas que pretendam fazer a normalização das mesmas. Desta forma localmente fazem a normalização das moradas nacionais e via SaaS fazem a normalização das moradas estrangeiras. Neste serviço podem ser incluídas as coordenadas geográficas.

Estão cada vez mais na voga as aplicações de BI, mas para que elas vinguem têm de ter boa informação.

Como podemos dizer que a informação da sua empresa é boa? Aqui ficam uma série de perguntas, que caso possa responder afirmativamente a todas as questões, pode acreditar que as suas ferramentas de BI vão fazer a sua função correctamente e certamente que lhe vão ser muitíssimo úteis. As perguntas que devem ser feitas relativamente à informação disponibilizada pelas ferramentas de BI são:
- Conseguimos encontrar o que procuramos?
- Está disponível quando necessitamos?
- Inclui tudo o que necessitamos?
- Conseguimos perceber?
- Está correcta?
- Podemos confiar?
- Podemos usar?
Muitas vezes chegamos à conclusão que a informação não é boa e ouvimos queixas, causa conflitos, perdas de tempo, custos elevados e fraco nível de decisão.

“90% dos gestores de topo sentem que não têm a informação necessária para decisões críticas de negócio; 50% deles têm medo que estejam a tomar decisões pouco acertadas devido a isso” Economist Intelligence Unit.

Mais uma vez tudo isto se resume à qualidade dos dados. Embora muitas vezes o que se ouve seja "deitem tudo fora e comecem de novo", isso não é de todo a solução porque caso não estejam incorporadas na empresa medidas que possam assegurar a qualidade dos dados, o que rapidamente vai acontecer à nova base de dados é ficar precisamente com os mesmos problemas que a anterior.

O projecto final entregue aos colaboradores da empresa é realmente útil?

Rapidamente todos os departamentos vão poder verificar a utilidade de um projecto destes nas suas rotinas do dia-a-dia. Por vezes, entram tão rapidamente que a dificuldade é ter noção de como as coisas funcionavam antes de o projecto entrar em actividade. Depois de os utilizadores estarem habituados a ter um sistema que os ajuda, cada vez que dão um erro na inserção da morada, ou que lhes permite colocar apenas alguns caracteres e apenas com esses fazer a normalização da morada, rapidamente se habitua e facilmente compreende a utilidade do projecto. Com o tempo vai certamente achar que o sistema é imprescindível para o dia-a-dia.

Quem devem ser os intervenientes num processo destes?

No final do projecto, toda a empresa deve ter participado no processo porque tal como foi dito, isto afecta todos os departamentos da empresa sem excepção. Numa fase inicial apenas o departamento de informática tem um maior envolvimento no projecto, mas numa fase posterior todos os departamentos são chamados a participar, especialmente se forem colocados a funcionar os softwares que funcionam em real time. Nesta fase todos os colaboradores da empresa que tenham interacção com os dados vão ser chamados a normalizar os dados. Este processo vai apenas simplificar e em muitos casos permitir poupar tempo nas rotinas de introdução/ alteração de dados.

Mesmo que existam vícios de introdução de dados, o que vai acontecer no final é que todas os colaboradores da empresa sem excepção, vão colocar os dados da mesma forma no sistema.

No link podem tentar colocar alguns dados de formas diferentes e como se pode ver no final o resultado é sempre o mesmo.

Qual é o budget necessário?

Tal como referido no ponto anterior a solução depende muito da quantidade de dados existente. Existem soluções para todos os budgets. Quanto maior a quantidade de dados, maior será a utilidade das ferramentas que funcionam real time.

Embora existam outras possibilidades, a possibilidade de se fazerem limpezas de dados com alguma regularidade, existem ainda os serviços SAAS, que começam agora a ganhar força, e que permitem que se tenha uma solução a preço reduzido.

Depois logicamente e para organizações de maior dimensão, existem as ferramentas que funcionando em real time permitem que se tenham dados com muita qualidade a todo o momento, por um custo por registo muito bom.

O que vamos fornecer no final aos nossos colaboradores? O que vão ganhar com isto?

O que se vai executar numa fase inicial será a normalização/deduplicação de todos os dados para que os dados passem a ter consistência. Enquanto este processo se desenvolve deverá ser instalado um sistema online que faça a normalização e deduplicação aquando da inserção dos registos para que estes se mantenham sempre com qualidade. Esta abordagem é uma abordagem que não é muito comum no mercado, embora seja a mais avançada. Tem como base ferramentas hi-tec, e que não estão muito divulgadas no nosso mercado. Com estas ferramentas os colaboradores vão ter do seu lado ferramentas que os ajudam no seu dia a dia.

Quantos de nós não tivemos de pedir ao nosso interlocutor para repetir uma morada, porque simplesmente não estávamos a conseguir entender o que estava a ser dito. Com estas ferramentas que aqui podem ser testadas, isso deixa de ser um problema.

Com isto os nossos colaboradores ganham tempo, ganham em imagem, porque se no final ainda conseguirem dizer ao utilizador por exemplo o seu CP7, isso mostra profissionalismo.

Ganham igualmente se tiverem o modulo de georeferenciação, quando tiverem de ir para a rua e não necessitarem de andar a perguntar onde fica a rua, uma vez que já levam as coordenadas geográficas no GPS, ou antes de saírem já viram como chegar ao destino.

O procedimento tradicional nestes casos, consiste em executar processo de qualidade de dados (normalização e deduplicação) e passados uns meses, voltar a correr esse processo. Este “ciclo” tem como desvantagens os custos que ficam associados, a deterioração dos dados ao longo do tempo até à normalização seguinte.

Se por um lado existem os custos inerentes aos processos de qualidade de dados, por outro temos as reduções de custos que esses processos trazem às empresas.

Se olharmos por exemplo aos custos que as empresas têm devido à existência de duplicados, pode ser um valor demasiado elevado relativamente ao custo de um processo de qualidade de dados. Existem muitos problemas que podem ser evitados com um processo de qualidade. Se for uma empresa que faça envios quer seja de peças de Marketing, quer seja de expedições de encomendas, os custos com os envios, como por exemplo de cartas em duplicado e os custos de devolvidos são muito grandes e muitas vezes nem são contabilizados. Quantos de nós não recebemos já 2 ou 3 cartas do mesmo banco ou seguradora. E se formos acrescentar a este valor possíveis peças de marketing, o valor no final do ano pode ser muito considerável.

Se acrescentar-mos a isso, os devolvidos por falta de normalização ou por erro no código postal, provavelmente numa empresa com alguma interactividade com os seus clientes fará com que muito rapidamente um processo de qualidade de dados seja rentabilizado.

Mas como todos estes valores não são valores muitas vezes contabilizados, é sempre difícil justificar a opção. Muitas vezes os devolvidos vão directamente para um qualquer armazém, porque a campanha para todos os efeitos teve, ou não bons resultados. Por norma o sucesso ou insucesso das campanhas é medido apenas na componente de Marketing a culpa é sempre das peças de criatividade, do produto, de tudo menos da falta de qualidade dos dados, sendo que segundo os especialistas, os dados podem ter cerca de 40% de responsabilidade no sucesso/insucesso de uma campanha.

Por norma o primeiro passo a dar antes de qualquer processo de qualidade de dados é o processo em que se auditam os dados, detectando assim quais os problemas que existem dentro da BD.

Há duas abordagens que podemos ter para a detecção destes problemas, sendo que das primeiras coisas que devemos ter em mente é que quantos mais problemas forem detectados nesta fase, melhor qualidade terá o processo de limpeza dos dados. Como tal temos a abordagem convencional, que implica um esforço de recursos humanos significativo, uma vez que todas as áreas da empresa têm de estar envolvidas, porque existem detalhes que são específicos de cada uma das áreas e dificilmente outras áreas os vão detectar.

A outra abordagem, embora necessite de esforço em termos de recursos humanos, requer muito menos tempo, e consiste na utilização de softwares que façam a detecção de “desvios” dos valores padrão e apenas precisam de verificar esses, não necessitando assim ter passar tanto tempo a verificar a BD.

Este processo é essencial porque apenas assim se evita que alguns dos erros existentes persistam na BD, mesmo depois do processo de limpeza. Quanto mais pormenorizado for este processo de detecção dos erros na BD, melhor será o resultado final em termos de limpeza da BD. Existem outros softwares que fazem a monitorização dos dados depois do processo de limpeza, mas mais uma vez a sua fiabilidade depende em muito do processo de detecção de problemas na BD. Se conseguir detectar todos os erros que deram entrada na BD, mais facilmente se consegue monitorizar e evitar novas entradas.

Tal como prometido aqui fica o post dedicado à validação dos dados.

É uma parte fundamental da qualidade de dados. Há duas possibilidades de fazer a validação dos dados que é online ou off-line. Logicamente que o modo online é o melhor método para executar, por exemplo a validação postal. Imaginemos que alguém liga para a empresa e diz que é de Vila Real e não sabe o código postal. Pode dar-se o caso de o interlocutor por parte da empresa, não se lembrar de perguntar se é Vila Real de Trás os Montes ou Vila Real de Santo António. Este registo só por sorte virá a ficar corrigido. E se existisse na empresa um software que, funcionando em background ajudasse o utilizador a resolver este problema? Assim os dados quando entrassem em BD já estariam normalizados.

Se este problema passar para o modo de tratamento em massa (batch), tarde ou nunca será resolvido. A menos que haja um contacto com a pessoa para dissipar a dúvida, o software (modo batch), não escolhe um deles. Estes e muitos outros problemas apenas podem ser resolvidos no imediato e com uma ferramenta que trabalhe juntamente com a pessoa que estiver a colocar/alterar os registos na BD. E tal como foi dito num dos post’s iniciais, este processo de qualidade de dados, não só tem de envolver todos na empresa, como todos são responsáveis por essa qualidade de dados. Se tiverem uma aplicação que os possa ajudar, então mais facilmente conseguem fazer o seu trabalho e com maior qualidade, mas igualmente em caso de erro, se lhes pode exigir uma maior responsabilidade.

Para terem uma noção das capacidades do software em termos de tolerância ao erro na página que está no link podem fazer testes com moradas, dando erros de escrita, trocando letras, erros fonéticos, enfim tudo aquilo que sabemos que acontece no dia-a-dia de qualquer empresa, nas inserções de moradas.

http://datalab.pt/index.php/demos2

Como exemplo aqui ficam algumas imagens de normalizações.

Estas são versões muito concisas, porque para alem da normalização podemos ainda ter os dados do Distrito, Concelho e Freguesia e/ou DDCCFF os códigos do INE. Outra possibilidade é a alocação das coordenadas geográficas.

No video que se segue podem ver como funcionam as ferramentas de qualidade de dados. Neste caso, podemos ver a versão integrada em SAP(R), em que a Uniserv foi a primeira empresa a nível mundial a receber esta certificação SAP(R). Para além desta versão, estão disponíveis módulos de integração para as mais diferentes configurações, desde o mainframe a módulos de cliente nos mais variados sistemas operativos.

Um dos primeiros processos necessários para termos qualidade de dados é a Limpeza dos dados (Data Cleansing). Consiste essencialmente na detecção e correcção (ou remoção) de registos que estejam incompletos, incorrectos, sejam irrelevantes, que estejam corrompidos ou imprecisos. Outro dos termos que se podem igualmente aqui aplicar é validação dos dados (Data validation). Embora possam e devam ser usados em conjunto, na maior parte dos casos a validação dos dados é pouco ou nem sequer é usado. Isto apenas faz aumentar os custos de limpeza de dados, uma vez que se os dados forem validados logo na sua entrada é muito mais simples, barato e fiável, que posteriormente normalmente num processo batch.

Voltando ao processo de limpeza, mais tarde iremos falar no processo de validação, é um processo que deve envolver a remoção de erros que são comuns, como por exemplo, erros de digitação, fonéticos e outros que possam ocorrer aquando da inserção dos dados em BD. Isto sempre feito comparando os registos contra tabelas de referência, ou através da delimitação de valores, ou com métodos estatísticos, ou outros processos que validem esses dados. Esta validação pode ser mais ou menos restritiva, invalidado por exemplo registos que não tenham código postal.

Numa fase posterior temos a remoção de duplicados das BD’s que é outro dos processos fundamentais na limpeza de dados. Esta parte é das partes mais sensíveis uma vez que não existe uma “receita” que sirva todas as BD’s. Todas as BD’s são únicas e como tal o processo de parametrização tem sempre de ser igualmente único. É um processo muito sensível, porque podemos estar a deixar muitos duplicados por encontrar, ou por outro lado podemos estar a dar como duplicados registos que não são de todo duplicados. Esta afinação é dos processos mais morosos e que requer mais conhecimentos em todo o processo de limpeza de dados. Mais uma vez, tudo isto se simplifica quando esta remoção de duplicados é feita aquando da introdução dos dados na BD. Prevenir é sempre melhor que remediar.
Depois de assinalados os duplicados há um processo muitíssimo importante que é o processo de complementarização. Consiste na “associação” de todos os campos, segundo regras pré estabelecidas, a um único registo. Imaginemos que temos 5 duplicados de um dado registo e que apenas em um deles temos o número de telemóvel. Esse dado não pode ser pedido, temos de ter forma de o poder colocar no registo master, que no final do processo irá ter TODAS as informações dispersas por todos os registos duplicados.

Depois de cada um destes processos há sempre um outro que tem de decorrer em paralelo que é o processo de verificação da consistência dos dados. Este processo de verificação é de extrema importância para que não se percam dados em nenhuma das fases deste processo.