Pular para o conteúdo principal

KGTK @ VM029 - NTriples extraída do Allegro - parte II

Agendado via crontab na VM029

Embeddings do grafo

kgtk graph-embeddings -i lattes-prof3.tsv -o lattes-g_emb-ComplEx.glo --output_format glove -op ComplEx

Início 04/06 23:40           Término 05/06 02:22              Arquivo de resultado com 2.6G

kgtk graph-embeddings -i lattes-prof3.tsv -o lattes-g_emb-TransE.tsv --output_format kgtk -op TransE

Início 05/06 02:22           Término 05/06 04:59              Arquivo de resultado com 2.6G

kgtk graph-embeddings -i lattes-prof3.tsv -o lattes-g_emb-RESCAL.tsv --output_format kgtk -op RESCAL

Início 05/06 04:59           Término 05/06 20:36              Arquivo de resultado com 2.6G

kgtk graph-embeddings -i lattes-prof3.tsv -o lattes-g_emb-DistMult.w2v --output_format w2v -op DistMult

Início 05/06 20:36           Término 05/06 20:57              Arquivo de resultado com 2.6G

Mais explicações sobre cada opção em https://versant-pesquisadedoutorado.blogspot.com/2021/05/kgtk-graph-embeddings.html

Propriedades usadas para Text Embeddings

Rótulos: foaf:name foaf:citationName dc:title skos:prefLabel
Descrição: bio:biography
Tipos: rdf:type e bibo:degree (subtipo para tese ou dissertação)
Outras propriedades: foaf:identifier, bibo:doi, foaf:homepage


kgtk sort -c node1 -i lattes-prof3.tsv -o lattes-prof4.tsv
kgtk text-embedding -i lattes-prof4.tsv -o lattes-prof-t_emb.tsv --model bert-base-wikipedia-sections-mean-tokens bert-base-nli-cls-token --label-properties foaf:name foaf:citationName dc:title skos:prefLabel --description-properties bio:biography --isa rdf:type bibo:degree --has-properties foaf:identifier bibo:doi foaf:homepage --dimensional-reduction tsne
kgtk sort -c node2 -i lattes-prof4.tsv -o lattes-prof4-sorted.tsv

* até o momento não consegui concluir a execução da geração do text embeddings por questões técnicas da VM, da última vez a máquina travou depois de 48 horas executando, deixei processando novamente

Marcadores:

Comentários

  1. Veronica dos Santos5 de julho de 2021 às 14:36

    Na última segunda, dia 28/06 as 20:30, foi executado novamente a geração de word embeddings mas processo não foi concluído novamente. A última linha do log mostra 57%, a data/hora da última atualização do arquivo de log está como 29/06 as 23:04 mas não indica erro e também não tem registro de reinicialização da máquina
    57%|█████▋ | 954621/1665264 [26:21:42<153834:35:59, 779.30s/it]

    Alterei o comando para colocar em modo verbose e para dois processos paralelos para verificar se vai funcionar.

    Se não concluir até quarta-feira, pretendo fazer um filtro no arquivo de entrada e separa a geração de embeddings para entidades do tipo Autor/Pesquisador/Pessoa e entidades do tipo Produções

    ResponderExcluir
    Respostas
    1. Veronica dos Santos15 de julho de 2021 às 19:06

      Ainda não consegui executar essa geração de Text Embeddings

      Excluir

Postar um comentário

Sinta-se a vontade para comentar. Críticas construtivas são sempre bem vindas.

Postagens mais visitadas deste blog

Connected Papers: Uma abordagem alternativa para revisão da literatura

Durante um projeto de pesquisa podemos encontrar um artigo que nos identificamos em termos de problema de pesquisa e também de solução. Então surge a vontade de saber como essa área de pesquisa se desenvolveu até chegar a esse ponto ou quais desdobramentos ocorreram a partir dessa solução proposta para identificar o estado da arte nesse tema. Podemos seguir duas abordagens:  realizar uma revisão sistemática usando palavras chaves que melhor caracterizam o tema em bibliotecas digitais de referência para encontrar artigos relacionados ou realizar snowballing ancorado nesse artigo que identificamos previamente, explorando os artigos citados (backward) ou os artigos que o citam (forward)  Mas a ferramenta Connected Papers propõe uma abordagem alternativa para essa busca. O problema inicial é dado um artigo de interesse, precisamos encontrar outros artigos relacionados de "certa forma". Find different methods and approaches to the same subject Track down the state of the art rese...
3 comentários
Leia mais

Aprendizado de Máquina Relacional

 Extraído de -> https://www.lncc.br/~ziviani/papers/Texto-MC1-SBBD2019.pdf   Aprendizado de máquina relacional (AMR) destina-se à criação de modelos estatísticos para dados relacionais (seria o mesmo que dados conectados) , isto é, dados cuja a informação relacional é tão ou mais impor tante que a informação individual (atributos) de cada elemento.    Essa classe de aprendizado tem sido utilizada em diversas aplicações, por exemplo, na extração de informação de dados não estruturados [Zhang et al. 2016] e na modelagem de linguagem natural [Vu et al. 2018].   A adoção de técnicas de aprendizado de máquina relacional em tarefas de comple mentação de grafo de conhecimento se baseia na premissa de existência de regularidades semânticas presentes no mesmo . Modelos grafos probabilísticos  Baseada em regras / heurísticas que não podem garantir 100% de precisão no resultado da inferência mas os resultados podem ser explicados. Modelos de características de ...
Postar um comentário
Leia mais

Knowledge Graph Embedding with Triple Context - Leitura de Abstract

  Jun Shi, Huan Gao, Guilin Qi, and Zhangquan Zhou. 2017. Knowledge Graph Embedding with Triple Context. In Proceedings of the 2017 ACM on Conference on Information and Knowledge Management (CIKM '17). Association for Computing Machinery, New York, NY, USA, 2299–2302. https://doi.org/10.1145/3132847.3133119 ABSTRACT Knowledge graph embedding, which aims to represent entities and relations in vector spaces, has shown outstanding performance on a few knowledge graph completion tasks. Most existing methods are based on the assumption that a knowledge graph is a set of separate triples, ignoring rich graph features, i.e., structural information in the graph. In this paper, we take advantages of structures in knowledge graphs, especially local structures around a triple, which we refer to as triple context. We then propose a Triple-Context-based knowledge Embedding model (TCE). For each triple, two kinds of structure information are considered as its context in the graph; one is the out...
Postar um comentário
Leia mais