Pular para o conteúdo principal

WD support for trust - feed back Pitts

 Thanks so much for sharing this, Daniel.  I found the discussion of how more rigorous use of qualifiers could aid trust very interesting. I also thought the Israel/Palestine and Crimea examples of disputed cases were illustrative and clarifying, as was the table displaying the frequency of disputed subjects (interesting it was so common for the creation of fictional characters). 

In broad strokes, we are using wikidata to collect information about ethnic  groups (and to a lesser extent, political parties and armed groups) in Sub-Saharan Africa.  As we were familiarizing ourselves on the way group data is stored on wikidata, we noticed some challenges with the different entries for Irish Republican Army with respect to start date and end date (and in theory, members of IRA splinter groups which are still active or have been active since 2005 might reasonably challenge any of these end dates).  The q nodes which are relevant for this include:  Q504628, Q175284, Q3015384, Q3084968.  None of these start date/end date qualifiers are necessarily wrong, but they do fail to help the researcher understand the continuity between these identities and a user without background information might find one of these pages and arrive at an incomplete time frame.  This becomes tricky if one hopes to use WD for an area in which one lacks contextual understanding!

"Disputed" qualifiers for ethnic groups may be of particular interest as ethnic group origin (or interrelationship between groups) can often become contested, especially in the context of territorial claims or irredentism-- but many ethnic groups may lack community members with the resources or inclination to initiate WD disputes. 

Here is a sample of some of the Qnodes of interest to us, a list of ethnic groups in Nigeria:  'Q190168', 'Q244157', 'Q572665', 'Q528981', 'Q7079875', 'Q1235705', 'Q239577', 'Q33454', 'Q1287326'..  We basically arrive at our Qnodes of interest by identifying proper nouns which appear in US State Department human rights reports and finding the corresponding Qnode.   For instance, I arrived at the Qnodes listed in this paragraph through the following python script.  The list of search terms comes from the State dept human rights reports. 

import requests
import json

search_terms = ["Yoruba people", "Igbo people", "Kanuri people", "Ijaw people", "Ogbe tribe", "Tiv people", "Ibibio people", "Fulani", "Edo people"]
group_ids = []

for search_term in search_terms:
    response = requests.get("https://www.wikidata.org/w/api.php", params={
        "action": "wbsearchentities",
        "format": "json",
        "language": "en",
        "type": "item",
        "limit": "1",
        "search": search_term
    })
    data = response.json()
   
    if len(data["search"]) > 0:
        group_id = data["search"][0]["id"]
        group_ids.append(group_id)
    else:
        print(f"No results found for search term: {search_term}")

The fields on those pages which are of interest include:  alsoKnownAs, instanceOf, nativeLanguage, country, locatedIn, religionOrWorldview, hasParts. 
  
I haven't arrived at a way to identify the useful Pnodes for our project yet, but if you have any suggestions, I am all ears. 

===========================================================================

Sobre os QNodes do Ira

No QNode Irish Republican Army (Q175284) temos a indicação de uma violação de constraint UNIQUE em relação ao QNode Irish Republican Army (Q3084968). Neste último também temos a violação em relação a constraint INVERSE ao relação ao QNode Category:Irish Republican Army (Q8554003).




Entre os QNodes Irish Republican Army (Q3015384) e Irish Republican Army (Q3084968) existe uma relação INVERSA representadas pelos PNodes replaced by (P1366) e replaces (P1365). Estes PNodes possuem a constraint INVERSE definida e a relação traz a semântica de ordem cronológica (contexto temporal).



O QNode Provisional Irish Republican Army (Q504628) possui um statement com a data de fundação (inception (P571) ) mas não com a dissolução. 


Enquanto o QNode Irish Republican Army (Q3084968) possui tanto a data de fundação quanto a de dissolução (dissolved, abolished or demolished date (P576))



Já o QNode Irish Republican Army (Q3015384) possui a data de fundação e a data de fim (utilizando outro PNode - end time (P582) ) 

O QNode Provisional Irish Republican Army (Q504628) é o único que o contexto temporal está associado aos qualificadores data de início e data de fim para diferenciar os valores múltiplos para os statements Instance of (P31)

Selecionei com o kgtk os nós (sujeito e objeto) que envolvem estes QNodes

kgtk filter -i /app/kgtk/data/wikidata/claims.tsv.gz -p ' ; ; Q504628, Q175284, Q3015384, Q3084968 ' -o /app/kgtk/data/IRA-object.tsv

kgtk filter -i /app/kgtk/data/wikidata/claims.tsv.gz -p ' Q504628, Q175284, Q3015384, Q3084968 ; ; ' -o /app/kgtk/data/IRA-subject.tsv

E também os QNodes dos grupos étcnicos

kgtk filter -i /app/kgtk/data/wikidata/claims.tsv.gz -p ' ; ; Q190168, Q244157, Q572665, Q528981, Q7079875, Q1235705, Q239577, Q33454, Q1287326 ' -o /app/kgtk/data/Nigeria-object.tsv

kgtk filter -i /app/kgtk/data/wikidata/claims.tsv.gz -p ' Q190168, Q244157, Q572665, Q528981, Q7079875, Q1235705, Q239577, Q33454, Q1287326 ; ; ' -o /app/kgtk/data/Nigeria-subject.tsv

Depois para ambos os datasets eu adicionei os labels do node1, node2 e do PNode e ao final gerei o html de visualização com o kgtk. Mas o resultado da visualização não ficou bom. 

kgtk cat -i /app/kgtk/data/Nigeria-object.tsv /app/kgtk/data/Nigeria-subject.tsv \
     -o /app/kgtk/data/Nigeria-all.tsv
kgtk join --left-join \
     --left-file /app/kgtk/data/Nigeria-all.tsv \
     --right-file /app/kgtk/data/wikidata/labels.en.tsv.gz \
     -o /app/kgtk/data/Nigeria-label-node1.tsv
kgtk join --left-join \
     --left-file /app/kgtk/data/Nigeria-label-node1.tsv \
     --right-file /app/kgtk/data/wikidata/labels.en.tsv.gz \
     --left-file-join-columns node2 --right-file-join-columns node1 \
     -o /app/kgtk/data/Nigeria-label-node1-node2.tsv
kgtk join --left-join \
     --left-file /app/kgtk/data/Nigeria-label-node1-node2.tsv \
     --right-file /app/kgtk/data/wikidata/labels.en.tsv.gz \
     --left-file-join-columns label --right-file-join-columns node1 \
     -o /app/kgtk/data/Nigeria-all-labels.tsv        
kgtk lift -i /app/kgtk/data/Nigeria-all-labels.tsv -o /app/kgtk/data/Nigeria-final.tsv
               
kgtk visualize-graph -i /app/kgtk/data/Nigeria-final.tsv --show-edge-label --show-text above -o /app/kgtk/data/Nigeria.html

kgtk cat -i /app/kgtk/data/IRA-object.tsv /app/kgtk/data/IRA-subject.tsv \
     -o /app/kgtk/data/IRA-all.tsv
kgtk join --left-join \
     --left-file /app/kgtk/data/IRA-all.tsv \
     --right-file /app/kgtk/data/wikidata/labels.en.tsv.gz \
     -o /app/kgtk/data/IRA-label-node1.tsv
kgtk join --left-join \
     --left-file /app/kgtk/data/IRA-label-node1.tsv \
     --right-file /app/kgtk/data/wikidata/labels.en.tsv.gz \
     --left-file-join-columns node2 --right-file-join-columns node1 \
     -o /app/kgtk/data/IRA-label-node1-node2.tsv
kgtk join --left-join \
     --left-file /app/kgtk/data/IRA-label-node1-node2.tsv \
     --right-file /app/kgtk/data/wikidata/labels.en.tsv.gz \
     --left-file-join-columns label --right-file-join-columns node1 \
     -o /app/kgtk/data/IRA-all-labels.tsv        
kgtk lift -i /app/kgtk/data/IRA-all-labels.tsv --show-text above -o /app/kgtk/data/IRA-final.tsv

kgtk visualize-graph -i /app/kgtk/data/IRA-final.tsv --show-edge-label --show-text above -o /app/kgtk/data/IRA.html

Carreguei o dataset do IRA no Neo4J, a visualização é interessante mas não consigo exportar como html ou uma imagem interativa. 

Não agreguei os qualificadores pq nestas opções de visualização não iram ser carregados.

Comentários

Postagens mais visitadas deste blog

Aprendizado de Máquina Relacional

 Extraído de -> https://www.lncc.br/~ziviani/papers/Texto-MC1-SBBD2019.pdf   Aprendizado de máquina relacional (AMR) destina-se à criação de modelos estatísticos para dados relacionais (seria o mesmo que dados conectados) , isto é, dados cuja a informação relacional é tão ou mais impor tante que a informação individual (atributos) de cada elemento.    Essa classe de aprendizado tem sido utilizada em diversas aplicações, por exemplo, na extração de informação de dados não estruturados [Zhang et al. 2016] e na modelagem de linguagem natural [Vu et al. 2018].   A adoção de técnicas de aprendizado de máquina relacional em tarefas de comple mentação de grafo de conhecimento se baseia na premissa de existência de regularidades semânticas presentes no mesmo . Modelos grafos probabilísticos  Baseada em regras / heurísticas que não podem garantir 100% de precisão no resultado da inferência mas os resultados podem ser explicados. Modelos de características de ...

Defesa de Doutorado de Grettel Monteagudo Garcia

A última atividade presencial que fiz na PUC-Rio foi assistir a defesa de tese da Grettel Monteagudo Garcia , em 13/03/2020 (uma sexta-feira 13 !!!!). O título da tese é “ A Keyword-based Query Processing Method for Datasets with Schemas ” e me interessou por causa do projeto do NIMA. A proposta parte do cenário onde usuários possam consultar dados, armazenados em bancos de dados relacionais e TripleStores, de maneira semelhante ao Google, ou seja, digitando palavras-chave, e deixando para o sistema recuperar os dados que melhor correspondem ao conjunto de palavras-chave.  Na tese estão descritos um algoritmo e um framework projetados para processar consultas baseadas em palavras-chave para bases de dados com esquema, especificamente bancos relacionais e bases de dados em RDF. A primeira etapa do algoritmo é a conversão do conjunto de palavras chaves em uma consulta abstrata explorando um esquema abstrato . Nesta etapa o principal desafio é achar onde a informação está (os matches...

Metodologia Científica II - continuação

No primeiro post  foram detalhados os 6 primeiros vídeos do canal do Youtube do professor Eduardo Ogasawara do CEFET/RJ   Mais 3 vídeos foram disponibilizados e estão comentados a seguir: Gráficos, Figuras e Tabelas (33 minutos) - como apresentar os resultados das avaliações experimentais. Gráficos: associar análises dos resultados a cada gráfico apresentado, problemas comuns na montagem de gráficos (não usar todo eixo X ou Y, não usar área útil com uma escala adequada a ver o comportamento dos números, não marcar os pontos de observação da série, inconsistência no uso de cores ), escala logarítmica x linear, eixo X para a variável independente e Y para a dependente (resposta), escrever boas legendas para os gráficos, observar se diferenças entre variáveis apresentadas em gráficos separados podem atrapalhar a interpretação dos resultados. Diagramas devem ser pensados de acordo com o propósito, trata-se de uma abstração e cada elemento deve ser explicado no texto, rótulos...