Ainda em 2013, estimava-se que circulavam pela internet cerca de 15 petabytes por dia. Podemos dizer que esse volume cresceu desde então, é provável que tenha dobrado de tamanho e as maneiras de usar Big Data evoluíram muito, junto com um mercado que não para de crescer.
À vista disso, entenda o que realmente é Big Data e quais são as maneiras de usá-lo a seu favor. Confira!
Big Data
É o termo usado para descrever um intenso volume de dados, sejam eles estruturados ou não estruturados, que impactam diretamente nos negócios do dia a dia.
O mais importante é a maneira como as empresas utilizam esses dados, pois depois das análises eles podem gerar insights que auxiliarão essas empresas em decisões estratégicas.
O Big Data se baseia em cinco características, que foram apelidadas de os 5 Vs: volume, variedade, velocidade, veracidade e valor.
Aplicando o Big Data
Em todo início de aplicação de uma metodologia ou serviço é de extrema importância a realização de estudos e análises, e o caso do Big Data não é diferente. Cada cenário tem aplicações muito particulares, e por isso uma boa avaliação deve ser feita desde o início para escolher as melhores ferramentas para aplicação de Big Data.
As aplicações são muito vastas, podendo atender desde uma empresa de saúde e bem-estar, até uma empresa que fabrica aviões. Muitos dizem que o time de futebol da Alemanha foi campeão na copa do mundo do Brasil graças a uma plataforma de análise de dados utilizada por eles na época.
Tecnologias que podem ser usadas sem custo
O Hadoop é uma plataforma open source (de código aberto) e é considerado a principal plataforma de análise de dados disponível atualmente.
O diferencial do Hadoop é a capacidade de se utilizar APIs, desde APIs que tem como função movimentar os dados, até APIs que trabalham com machine learning (Aprendizado de máquina).
Já o MapReduce é um framework utilizado para processar grandes volumes de dados paralelos uns aos outros. O MapReduce pode ser considerado um novo modelo computacional distribuído, é inspirado pelas funções Map e Reduce, comuns em programação funcional. É um “Data-oriented” processando as informações em seus estágios iniciais: Map e Reduce.
Tratamento de dados
É importante ter em mente que a análise de dados agrupados e não agrupados podem ter resultados diferentes. A maneira como o dados se comportam em grupo e de maneira individual geralmente são diferentes, é possível dizer por exemplo que o “Ricardo gosta de comer melancia” mas que “as pessoas do bairro não gostam de comer melancia”.
Apesar de parecer banal, estes resultados podem levar a decisões distintas para seu negócio. Seria interessante ter sempre um amontoado de segmentos e grupos para serem analisados, com isso pode ser possível ter uma visão generalizada e mais inteligente do negócio.
Outras ferramentas
Hoje em dia, provedores de serviços na internet já possuem plataformas prontas para o trabalho com Big Data. Algumas plataformas famosas: serviços da Amazon Web Services, O Windows Azure disponibilizado pela Microsoft e o Google Big Query disponibilizado pelo Google. Cada um com uma peculiaridade e com preços variados, então é bom avaliar bem as ferramentas e tentar escolher aquela que se ajusta melhor ao seu negócio.
Existem várias maneiras de usar Big Data, o que vale sempre é uma pré-análise de cada caso e se realmente é necessário para sua empresa.
Gostou do nosso post? Compartilhe este conteúdo em suas redes sociais! Espalhe conhecimento!
Foi aluno de Ralph Kimball, maior referência mundial no assunto, no curso de Modelagem Dimensional realizado pela Kimball University, em Estocolmo – Suécia.
Já ministrou diversas palestras sobre o tema e atualmente mantêm o blog da Know Solutions, com referências sobre Business Intelligence.
Pós Graduado em Gestão de Projetos de Software pela PUC – Paraná. Trabalhou durante 7 anos na empresa Siemens onde participou de projetos em diferentes países.
Materia muito interessante
Obrigada pelo artigo 🙂 Acho que eu tenho uma equipe que pode obter cada sucesso 🙂 Mas sem kanbantool.com, nao conseguimos arranjar e controlar todas tarefas. Ferramentas digitais podem ajudar bastante – tal como manager ou teamledaer, mas mais suave 🙂 Eu planejo o dia do trabalho com kanban e todas tarefas sao cumpridas. Eu sei que nao cada um gosta trabalhar assim, mas comigo funciona 🙂
Parabéns por trazer a CRISP-DM de volta ao tablado. O “produtocentrismo” que assola o mercardo de BI pressiona os players a comprar o último brinquedo, a seguir a última moda, quando quase tudo que tem algum uso prático já existe há décadas – como o CRISP-DM
Seria legal um artigo um artigo comparando-o com SEMMA. Pode ser muito interessante para quem entrou na área há menos de 20 anos.
Gostaria de entender se a utilização da Big data nas empresas gera algum tipo de desvantagem nas pessoas que lá trabalham ?
Sobre o comentário do João Kechichian, concordo em relação às empresas não terem claro o que querem, e concordo com o Leandro sobre a abordagem de “Qual o seu problema” para dar as sugestões.
Mas vale ressaltar que as empresas não conseguem identificar o que querem por não terem claro um Planejamento Estratégico e objetivos bem descritos. Isso facilita muito perceber quais indicadores serão necessários acompanhar para atingir os resultados esperados.
Bom dia,
Há muita diferença das versões do livro The Data Warehouse Toolkit?
Vejo que ele esta na 3 edição.
Posso comprar apenas a 3 ou devo comprar todas?
Oi Marcos!
Há algumas atualizações com conceitos mais atuais. Não precisa comprar todas as edições não, apenas a 3a já cobre tudo que precisa.
Sim e não. A maior diferença é entre a primeira edição e as restantes. Da segunda edição em diante, quando a Margy Ross assumiu o livro, é tudo mais ou menos o mesmo.
A primeira edição, que por acaso chegou a ser publicada em português, é a melhor, na minha opinião. Ela é mais concreta, menor e mais focada. Se conseguir achá-la, compre. Vale ouro.
eu precisava para compor você uma pouco de note ajudar diga obrigado again com o extraordinário conselhos você compartilhado nesta página . Foi certamente maravilhosamente generoso com você dando abertamente tudo o que muitas pessoas {poderiam ter | poderiam possivelmente ter | poderiam ter | teriam | distribuído para um ebook para gerar alguma massa para eles mesmos , especialmente considerando que you poderia ter tried it se você nunca desejado . Those estratégias também agido como outras pessoas tenha semelhante desire como my own entender bom negócio mais relacionado este assunto . Eu tenho certeza há alguns mais agradáveis ocasiões ahead para pessoas que ver seu site
[…] de BI — Business Intelligence ou, traduzindo, Inteligência Empresarial — é justamente o diferencial que uma empresa precisa para tratar dados gerados por vários meios. Veja alguns contextos que podem servir de […]
[…] para aumentar seu lucro ou diminuir seus custos operacionais. Esse é o conceito básico de Business Intelligence utilizado como diferencial […]
Olá Leandro.
Acredito que o potencial da área de Business Intelligence dentro das empresas pode ser maior do que se imagina hoje.
Trabalho com consultoria de B.I. para agencias e empresas, e enfrentamos diariamente dois grandes problemas.
1- Padronização dos dados: Como utilizamos muitas fontes de dados, todo o processo, desde o que a implementação, até a parte operacional, precisa ser muito bem estruturada. Sem o padrão das informações perde-se muito tempo com “correção”, sendo que “tempo” não é o que temos para identificar um padrão, pois no dia seguinte ele pode mudar se não o tratarmos.
2- Pessoas que não sabem o que querem: Corporações não sabem o que querem, logo querem tudo. O problema é que sabemos que não tudo não é necessário, se consegue identificar padrões e otimizações com metade do volume. Sendo assim o processo de otimização passa a ser inteligente para ser operacional.
O futuro da área esta encaminhando para segmentações e clusterizações dinâmicas para analise de Big Data, mas se o processo de todos envolvidos precisa ser muito bem desenhado e a área de B.I. precisa ter este knowhow também.
Obrigado e muito bom seus artigos.
Oi João, obrigado pelo seu comentário! Concordo com você!
Realmente, a padronização dos dados é o ponto mais sensível mesmo. Aqui estimamos em torno de 60% a 70% do tempo em um projeto de BI apenas para esta parte.
Sobre as pessoas não saberem o que querem, aqui vemos como uma certa vantagem. Muitas vezes não é nem exatamente não saber o que querem, mas não saberem o que é possível fazer. Com isso, parte do nosso trabalho aqui é exatamente entender do que o cliente sofre aí então sugerir algumas coisas. Tentamos não ir para uma abordagem de “o que você quer” mas sim de “quais são seus problemas”.
Isso me deu até a ideia de criar um post focado nisso, vou deixar anotado para o futuro!
Existe uma técnica chamada Árvore de Realidade Presente, da Teoria das Restrições, que lida justamente com essa barafunda de problemas e entendimentos. Eu experimentei a mesma frustração que você, João, e decidi resolver esse problema. A imagem https://geekbi.files.wordpress.com/2020/10/bi_toc-crt-x.png é um resumo do que eu tenho até agora.
Adoraria uma contribuição. “O cliente não sabe o que quer” já está lá. “Dados são sujos” e “Dados são bagunçados” me parecem boas adições.
O que você acha? E você, Leandro?