Pular para o conteúdo principal

WD References e Contexto de Proveniência

1) Extrair referencia da WD (não tem no conjunto de dados do kgtk)

Existem triplas específicas para representar as referência na WD: ?statement prov:wasDerivedFrom ?ref .

Baixei os dados de referência da WD em 24/01/2023 com o wdq

(base) root@vm096:/home/cloud-di# ls -laht /app/wdq/data/ref*
-rw-r--r-- 1 root root 7.1G Jan 25 01:12 /app/wdq/data/references.tsv

Converti para ntriples e depois para o kgtk

sed -i '/node1/d' /app/kgtk/data/WD5/wdq_references.tsv
sed 's/$/  ./' /app/kgtk/data/WD5/wdq_references.tsv > /app/kgtk/data/WD5/wdq_references.nt

nohup kgtk --debug import-ntriples --verbose --validate=True \
     -i /app/kgtk/data/WD5/wdq_references.nt \
     -o /app/kgtk/data/WD5/references.tsv.gz \
     --reject-file /app/kgtk/data/WD5/reject-references.tsv.gz &

2) Estatísticas

Foram recuperadas 35,670,197 triplas que compõem 13,614,241 referências associadas a 31,601,286 statements. Nestas triplas foram usados 5080 propriedades distintas nas referências

Distribuição da quantidade de propriedades por referência (Top-10)

1    count    7,668,375
2    count    2,306,898
3    count    1,032,172
4    count    1,021,661
6    count    350,951
5    count    340,301
7    count    313,850
8    count    191,985
9    count    111,059
10    count    56,933

Distribuição da quantidade de referências por statement (Top-10)

1    count    28,749,323
2    count    2,179,920
3    count    435,840
4    count    123,299
5    count    41,972
6    count    30,862
7    count    13,235
8    count    10,187
9    count    5,217
10    count    3,403

3) Relação Reference X Statement: Um statement pode ter 0 ou mais referencias e Uma referência pode estar associada a 0 ou mais statements

Exemplo

SELECT ?statement ?ref
WHERE {

   wd:Q109225717 ?prop ?statement .
   ?statement prov:wasDerivedFrom ?ref .

   SERVICE wikibase:label {
    bd:serviceParam wikibase:language "en"
   }
}
ORDER BY ?ref

4) Existe uma constraint chamada property scope constraint (Q53869507) que define se uma propriedade pode ser usada como um predicado (em um statement) e/ou qualificador e/ou nas referencias - as reference (Q54828450). Porém existem propriedades que estão especificadas somente como predicados mas estão sendo usados como referências, por exemplo, main regulatory text (P92) nas referências do Republic of Crimea (Q15966495). Este é um exemplo de que não seria possível inferir o contexto de proveniência usando somente esta constraint. 

5) Existem propriedades do tipo (P31) Wikidata property to indicate a source (Q18608359) que estão sendo usadas nos qualificadores e/ou não tem o escopo como referencia - as reference (Q54828450). Exemplo, described by source (P1343) é usada como qualificador. Este é mais um exemplo de que não seria possível inferir o contexto de proveniência usando somente o tipo (P31) da propriedade e nem considerando somente as referencias da WD.

Comentários

Postagens mais visitadas deste blog

Connected Papers: Uma abordagem alternativa para revisão da literatura

Durante um projeto de pesquisa podemos encontrar um artigo que nos identificamos em termos de problema de pesquisa e também de solução. Então surge a vontade de saber como essa área de pesquisa se desenvolveu até chegar a esse ponto ou quais desdobramentos ocorreram a partir dessa solução proposta para identificar o estado da arte nesse tema. Podemos seguir duas abordagens:  realizar uma revisão sistemática usando palavras chaves que melhor caracterizam o tema em bibliotecas digitais de referência para encontrar artigos relacionados ou realizar snowballing ancorado nesse artigo que identificamos previamente, explorando os artigos citados (backward) ou os artigos que o citam (forward)  Mas a ferramenta Connected Papers propõe uma abordagem alternativa para essa busca. O problema inicial é dado um artigo de interesse, precisamos encontrar outros artigos relacionados de "certa forma". Find different methods and approaches to the same subject Track down the state of the art rese...

Knowledge Graph Toolkit (KGTK)

https://kgtk.readthedocs.io/en/latest/ KGTK represents KGs using TSV files with 4 columns labeled id, node1, label and node2. The id column is a symbol representing an identifier of an edge, corresponding to the orange circles in the diagram above. node1 represents the source of the edge, node2 represents the destination of the edge, and label represents the relation between node1 and node2. >> Quad do RDF, definir cada tripla como um grafo   KGTK defines knowledge graphs (or more generally any attributed graph or hypergraph ) as a set of nodes and a set of edges between those nodes. KGTK represents everything of meaning via an edge. Edges themselves can be attributed by having edges asserted about them, thus, KGTK can in fact represent arbitrary hypergraphs. KGTK intentionally does not distinguish attributes or qualifiers on nodes and edges from full-fledged edges, tools operating on KGTK graphs can instead interpret edges differently if they so desire. In KGTK, e...

Vague Queries

VAGUE QUERIES https://youtu.be/7tmqQ-y-hNQ Consultas vagas: Consultas que permitem resultados aproximados ao que se busca  https://dl.acm.org/doi/pdf/10.1145/45945.48027 Utiliza métricas de distância e de similaridade para o resultado 1988 Requisitos Simplicidade Conceitual Adaptabilidade Externalidade ao SGBD Estende o modelo relacional com um único conceito: métrica de similaridade na linguagem de consulta, é um novo comparador Usuário escolhe qual é a métrica de similaridade / distância Externalidade para posterior incorporação (como o Daniel comentou que é usual em BD) Interativo: pergunta ao usuário qual é a interpretação de similar, qual o critério de ordenação do resultado, se o usuário deseja flexibilizar mais a consulta (em caso não houver resultado) Não é linguagem natural, é linguagem do BD (SQL) estendida Extraído do Texto A specific query establishes a rigid qualification and is concerned only with data that match it precisely. A vague query establishes a target qualif...