2021

预训练模型的过去、现在和未来

对NLP预训练模型的思考

Few-Shot NER and BERT Noisy Learning：ProtoBERT Paper Note

深度探索 Bert：BERTology Paper Note

SqueezeBERT 论文笔记

2020

从 Sentence-BERT 谈句子表征

Bert-Flow 论文笔记

NLP 表征的历史与未来

Funnel Transformer 论文笔记

PEGASUS 论文笔记

DeBERTa 论文+代码笔记

RoBERTa 论文+代码笔记

Bart 论文+代码笔记

中文分词系列一：思考分词

ALBERT 论文+代码笔记

DistilBERT 论文+代码笔记

Transformer 代码笔记

Luong Attention 论文+代码笔记

GPT-2 论文+代码笔记

Node2Vec 论文+代码笔记

TextRank Keyword Extraction 论文+代码笔记

Reformer, The Efficient Transformer 论文笔记

Bahdanau Attention 论文笔记

Encoder-Decoder Models Attention and Contextual Embedding Note (SLP Ch10)

2019

Neural Architectures for Named Entity Recognition 论文笔记

Few-Shot Charge Prediction with Discriminative Legal Attributes 论文笔记

关系提取简述

ELECTRA 论文笔记

自然语言记忆模块（NLM）

CTRL 论文+代码+实践笔记

Bert 论文笔记

Transformer 论文笔记

ERNIE Tutorial（论文笔记 + 实践指南）

ChatBot 设计方案

Statistical Parsing Note (SLP Ch14)

XLNet 论文笔记

Syntactic Parsing Note (SLP Ch13)

Formal Grammars of English Note (SLP Ch12)

Sequence Processing with Recurrent Networks Note (SLP Ch09)

Part-of-Speech Tagging Note (SLP Ch08)

Neural Networks and Neural Language Models Note (SLP Ch07)

Vector Semantics Note (SLP Ch06)

Logistic Regression Note (SLP Ch05)

Naive Bayes and Sentiment Classification Note (SLP Ch04)

Regular Expressions, Text Normalization, and Edit Distance Note (SLP Ch02)

Information Extraction Note (SLP Ch18)

自然语言计算机形式分析的理论与方法笔记(Ch18)

《纳博科夫最喜欢的词》读书笔记与思考

自然语言计算机形式分析的理论与方法笔记(Ch15)

自然语言计算机形式分析的理论与方法笔记(Ch14)

自然语言计算机形式分析的理论与方法笔记(Ch13)

自然语言计算机形式分析的理论与方法笔记(Ch12)

自然语言计算机形式分析的理论与方法笔记(Ch11)

自然语言计算机形式分析的理论与方法笔记(Ch10)

自然语言计算机形式分析的理论与方法笔记(Ch09)

自然语言计算机形式分析的理论与方法笔记(Ch08)

自然语言计算机形式分析的理论与方法笔记(Ch07)

自然语言计算机形式分析的理论与方法笔记(Ch06)

自然语言计算机形式分析的理论与方法笔记(Ch05)

自然语言计算机形式分析的理论与方法笔记(Ch04)

2018

自然语言计算机形式分析的理论与方法笔记(Ch03)

自然语言计算机形式分析的理论与方法笔记(Ch02)

自然语言计算机形式分析的理论与方法笔记(Ch01)

自然语言计算机形式分析的理论与方法笔记(Ch17)

自然语言计算机形式分析的理论与方法笔记(Ch16)

NLP 与人工智能

2018CCF-GAIR：自然语言如何商业落地摘录及思考