Pular para o conteúdo principal

SBBD 2021 - Minicurso 01: Ciência de Dados com Reprodutibilidade usando Notebook Jupyter

Parte 1 - https://youtu.be/XiCplPUW0tM

Parte 2 - https://youtu.be/66_FRyi7iBI

Material - https://linktr.ee/uffjupyter

Ciência de Dados:  Dados >> transformação >> Informação / Conhecimento

Engenharia de Dados para tratar a entrada

Aprendizado de Máquina, Mineração de Dados, Estatísticas, Visualização para transformação e insights

Ciclo de Vida de Ciência de Dados

Reprodutibilidade

Jupyter Notebook: Programação Literária Interativa composto de Texto (Documentação), Trecho de Código e Saída

Exemplos de Data Frames (tabelas) ... df.describe() exibe estatísticas interessantes, comando para histograma

Exemplos de Gráficos com seaborn.pydata.org/examples ... é só copiar e colar 

JupyterLab -> https://jupyterlab.readthedocs.io/en/stable/getting_started/installation.html

pandas - Panel Data

formato tabular (dataframe) e séries temporáis (array de uma dimensão)

no dataframe cada coluna é do tipo série e tem um tipo de dados, criado de modo integrado um índice (nome ou valor) , pode ser criado a partir de um dicionário (chave e valor)

Parte prática

Importando Dados: CSV, TSV, Excel, JSON, SGBDs
Limpeza de Dados: ausentes, ruidosos, outliers e duplicados
Integração de Dados: merge por colunas
Transformação: Seleção de variáveis numéricas, Escalonamento com Normalização [0..1] ou Padronização (centralização na média)  
Engenharia de Características em variáveis categóricas (não numéricas): categorias para booleanos e classes, conversão de campos data (que podem gerar novas classes)
Balanceamento das classes: distribuição para classificadores, 


Análise Exploratória


Obter registros aleatórios com df.sample, várias funções de agregação, df.describe para funções estatísticas básicas
Distribuição de frequência de variáveis categóricas
Boxplot !!! e histogramas, coeficientes de correlação

Visualização de Dados: comunicar. Bibliotecas: matplotlib e seaborn. Vários tipos de gráficos, usar como um templates, substituindo as variáveis. 

IPython: é um kernel do jupyter, 
ipywidgets para tornar o jupyter mais interativo... @interact para criar botões e formulários

Ciência Aberta: distribuição, pode usar o Git ou Zenodo / Figshare, nas plataformas de Ciência Aberta é obtido um DOI para ser citado. Boas Práticas para reprodução, usar ferramentas para verificação. 




Comentários

Postar um comentário

Sinta-se a vontade para comentar. Críticas construtivas são sempre bem vindas.

Postagens mais visitadas deste blog

Connected Papers: Uma abordagem alternativa para revisão da literatura

Durante um projeto de pesquisa podemos encontrar um artigo que nos identificamos em termos de problema de pesquisa e também de solução. Então surge a vontade de saber como essa área de pesquisa se desenvolveu até chegar a esse ponto ou quais desdobramentos ocorreram a partir dessa solução proposta para identificar o estado da arte nesse tema. Podemos seguir duas abordagens:  realizar uma revisão sistemática usando palavras chaves que melhor caracterizam o tema em bibliotecas digitais de referência para encontrar artigos relacionados ou realizar snowballing ancorado nesse artigo que identificamos previamente, explorando os artigos citados (backward) ou os artigos que o citam (forward)  Mas a ferramenta Connected Papers propõe uma abordagem alternativa para essa busca. O problema inicial é dado um artigo de interesse, precisamos encontrar outros artigos relacionados de "certa forma". Find different methods and approaches to the same subject Track down the state of the art rese...
3 comentários
Leia mais

Aprendizado de Máquina Relacional

 Extraído de -> https://www.lncc.br/~ziviani/papers/Texto-MC1-SBBD2019.pdf   Aprendizado de máquina relacional (AMR) destina-se à criação de modelos estatísticos para dados relacionais (seria o mesmo que dados conectados) , isto é, dados cuja a informação relacional é tão ou mais impor tante que a informação individual (atributos) de cada elemento.    Essa classe de aprendizado tem sido utilizada em diversas aplicações, por exemplo, na extração de informação de dados não estruturados [Zhang et al. 2016] e na modelagem de linguagem natural [Vu et al. 2018].   A adoção de técnicas de aprendizado de máquina relacional em tarefas de comple mentação de grafo de conhecimento se baseia na premissa de existência de regularidades semânticas presentes no mesmo . Modelos grafos probabilísticos  Baseada em regras / heurísticas que não podem garantir 100% de precisão no resultado da inferência mas os resultados podem ser explicados. Modelos de características de ...
Postar um comentário
Leia mais

KnOD 2021

Beyond Facts: Online Discourse and Knowledge Graphs A preface to the proceedings of the 1st International Workshop on Knowledge Graphs for Online Discourse Analysis (KnOD 2021, co-located with TheWebConf’21) https://ceur-ws.org/Vol-2877/preface.pdf https://knod2021.wordpress.com/   ABSTRACT Expressing opinions and interacting with others on the Web has led to the production of an abundance of online discourse data, such as claims and viewpoints on controversial topics, their sources and contexts . This data constitutes a valuable source of insights for studies into misinformation spread, bias reinforcement, echo chambers or political agenda setting. While knowledge graphs promise to provide the key to a Web of structured information, they are mainly focused on facts without keeping track of the diversity, connection or temporal evolution of online discourse data. As opposed to facts, claims are inherently more complex. Their interpretation strongly depends on the context and a vari...
2 comentários
Leia mais