kgtk import-ntriples discards triples with langtag

kgtk import-ntriples discards triples with langtag - issue #387

Criação de um ambiente em separado para testar as alterações do branch dev

conda create -n kgtk-dev python=3.7
conda activate kgtk-dev
pip install "git+https://github.com/usc-isi-i2/kgtk.git@dev"

kgtk import-ntriples -i /home/cloud-di/lattes-data/input/lattes-prof-mai21.nt -o /home/cloud-di/kgtk/lattes-prof.tsv --reject-file /home/cloud-di/kgtk/lattes-prof.err --namespace-file prefix.tsv

A correção que eles fizeram funcionou, as biografias foram importadas com o langtag

Repeti alguns testes para verificar se houveram outros impactos

conda activate kgtk-env
kgtk validate -i lattes-prof.tsv
kgtk deduplicate -i lattes-prof.tsv -o lattes-prof2.tsv -v > lattes-dpk.log

Duplicidades

Read 5.709.445 records, wrote 5.662.076 records. ... aproximadamente 50 mil removidas

kgtk graph_statistics --log graph_stat_prof2.log --pagerank --statistics-only --degrees --hits -v -i lattes-prof2.tsv -o lattes-stat.tsv

kgtk sort -c node1 -i lattes-stat.tsv -o lattes-stat-sorted.tsv

Comentários sobre o log

It has 2002162 nodes and 5662076 edges... quase 3x, próximo a média do grau

###Degrees:
in degree stats: mean=2.827981, std=0.340190, max=1
out degree stats: mean=2.827981, std=0.008076, max=1
total degree stats: mean=5.655962, std=0.340278, max=1

###Top relations: ... Não mudou nada

###PageRank... pequenas diferenças no valor do PageRank
Max pageranks
710    foaf:Person    0.067446
41    cnpq:grandeArea    0.011351
30    rdf:nil    0.010438
39    cnpq:Area    0.007154
6    cnpq:subArea    0.005438

###HITS .... HITS hubs e HITS auth sem alterações

Comentários

Postagens mais visitadas deste blog

Aprendizado de Máquina Relacional

Extraído de -> https://www.lncc.br/~ziviani/papers/Texto-MC1-SBBD2019.pdf Aprendizado de máquina relacional (AMR) destina-se à criação de modelos estatísticos para dados relacionais (seria o mesmo que dados conectados) , isto é, dados cuja a informação relacional é tão ou mais impor tante que a informação individual (atributos) de cada elemento. Essa classe de aprendizado tem sido utilizada em diversas aplicações, por exemplo, na extração de informação de dados não estruturados [Zhang et al. 2016] e na modelagem de linguagem natural [Vu et al. 2018]. A adoção de técnicas de aprendizado de máquina relacional em tarefas de comple mentação de grafo de conhecimento se baseia na premissa de existência de regularidades semânticas presentes no mesmo . Modelos grafos probabilísticos Baseada em regras / heurísticas que não podem garantir 100% de precisão no resultado da inferência mas os resultados podem ser explicados. Modelos de características de ...

Connected Papers: Uma abordagem alternativa para revisão da literatura

Durante um projeto de pesquisa podemos encontrar um artigo que nos identificamos em termos de problema de pesquisa e também de solução. Então surge a vontade de saber como essa área de pesquisa se desenvolveu até chegar a esse ponto ou quais desdobramentos ocorreram a partir dessa solução proposta para identificar o estado da arte nesse tema. Podemos seguir duas abordagens: realizar uma revisão sistemática usando palavras chaves que melhor caracterizam o tema em bibliotecas digitais de referência para encontrar artigos relacionados ou realizar snowballing ancorado nesse artigo que identificamos previamente, explorando os artigos citados (backward) ou os artigos que o citam (forward) Mas a ferramenta Connected Papers propõe uma abordagem alternativa para essa busca. O problema inicial é dado um artigo de interesse, precisamos encontrar outros artigos relacionados de "certa forma". Find different methods and approaches to the same subject Track down the state of the art rese...

Cores convida - Minicurso: Aprendizado de máquina e inferência em Grafos de Conhecimento

Pesquisadores Artur Ziviani, Fabio Porto e Daniel da Silva (LNCC) Resumo da apresentação A crescente produção e disponibilização de dados caracterizados por heterogeneidade e larga escala apresentam oportunidades desafiadoras à nossa sociedade. Dentre elas, como construir sistemas computacionais capazes de aprender, raciocinar e realizar inferências sobre fatos a partir de conhecimento prévio é uma tarefa relevante. Nesse cenário, bases de conhecimento são ativos importantes na representação e raciocínio automatizado do conhecimento de diversos domínios de aplicação. Em especial, a inferência de informação a partir de sua representação em rede — grafos de conhecimento — ganhou notoriedade na academia e indústria nos últimos anos. Em face ao exposto, neste curso, é apresentada uma introdução aos métodos e técnicas de aprendizado de máquina utilizadas em tarefas de inferência em grafos de conhecimento, discutindo-se os desafios e oportunidades tecnológicas e científicas desse tipo de tar...

Pesquisa de Doutorado da Veronica

Pesquisar este blog