29 октября в 17.00 состоится открытый семинар Лаборатории нейронных систем и глубокого обучения МФТИ. На семинаре выступит исследователь лаборатории Леонид Пугачев с обзором литературы по использованию графов знаний с языковыми моделями.
Список статей, которые будут рассмотрены на семинаре:
- ERNIE 3.0: LARGE-SCALE KNOWLEDGE ENHANCED PRE-TRAINING FOR LANGUAGE UNDERSTANDING AND GENERATION
- KEPLER: A Unified Model for Knowledge Embedding and Pre-trained Language Representation
- AUTOREGRESSIVE ENTITY RETRIEVAL
- Inducing Relational Knowledge from BERT
- COMET-ATOMIC 2020: On Symbolic and Neural Commonsense Knowledge Graphs
- Knowledge Graph Based Synthetic Corpus Generation for Knowledge-Enhanced Language Model Pre-training
- Symbolic Knowledge Distillation: from General Language Models to Commonsense Models