说明：读书笔记（类型为 Feeling）并非原创，内容和图均来自原作，仅用于学习交流。

Table of Contents generated with DocToc

• 个人成长Growth
• 人工智能AI
  • 思考
  • 哲学
• LLM系列
  • R1相关
  • ChatGPT/LLM
  • LLM继续训练、预训练
  • LLM数据处理相关
  • LLM论文速览
• LMM系列
  • VoiceAgent
  • LMM论文速览
  • LMM论文笔记
• NLP系列
  • 基础
  • 思考
  • 语言
  • 设计
  • 图谱
  • NLP论文笔记
  • SLP
  • 冯志伟《自然语言计算机形式分析的理论与方法》
• 推荐广告Recommendation
• 深度学习DeepLearning
• 机器学习MachineLearning
• 数据科学DataScience
• 数学Math
• 系统Unix
• 网络Net
• 树莓派Raspberrypi
• 编程Coding
  • 基础环境
  • Rust与AI
  • Rust
  • Python
  • Python 小白快速入门教程
  • C 语言课程笔记
  • 服务基础
• 算法Algorithm
  • LeetCode
  • 剑指 Offer2（Python 版）解析
  • 数据结构与算法
• 经金商管EFBM
• 认知心理CogPsy
• 育儿
• 杂文随笔Essay

个人成长Growth

• AI 工程师养成记（上）
• 一些关于工作的观点（From《华为工作法》）

人工智能AI

思考

• 分类与 AI
• 语言、AI、情感
• NLP 与 AI
• 关于AI前沿的思考 | Yam

哲学

• 西蒙《人工科学》读书笔记
• 人工智能哲学笔记
• 《与机器人共舞》读后感兼谈 AI 与 IA

LLM系列

R1相关

• GRPO优化在继续——CISPO和熵 | Yam
• Reward Model建模 | Yam
• R1后范式最佳实践：Seed-Thinking和Qwen3 | Yam
• Yarz-Logic：R1-Zero相关实验报告 | Yam
• R1相关：R1-Zero的进一步理解和探索 | Yam
• VAPO：基于价值方法的新突破 | Yam
• 异曲同工之妙的DrGRPO——DAPO几乎同时出现的又一GRPO优化！ | Yam
• DAPO：为GRPO的锦上加四点花 | Yam
• DeepSeek R1后LLM新范式 | Yam
• DeepSeek R1：新范式、新纪元 | Yam
• R1相关：少量高质量数据SFT激活LLM推理能力 | Yam
• R1相关：RL数据选择与Scaling | Yam
• R1相关：DPO数据选择与DPO等RL算法 | Yam
• LLM、强化、蒸馏讨论 | Yam

ChatGPT/LLM

• LLM极简科普
• LLM打街霸
• ChatGPT 基础科普：知其一点所以然
• ChatGPT Prompt工程：设计、实践与思考
• ChatGPT Prompt 示例
• ChatGPT 标注指南：任务、数据与规范
• ChatGPT 开发指南：Hugging LLM Hugging Future
• 关于大语言模型的思考
• OpenAIGC 大赛小结
• ChatGPT 影响冲击：职业、行业与产业

LLM预训练

• 预训练：无处安放的躁动之心 | Yam
• 预训练：NTP和Scaling Law | Yam

LLM继续训练

• Tiny LLM Continual Pre-training：RHO-1 | Yam
• LLM Tiny Pretrain：H2O-Danube and Stable LM | Yam
• LLM Continual Pre-training：Ziya2 | Yam

LLM数据处理相关

• LLM DataManagement：Weaver | Yam
• LLM DataManagement：Ziya2 | Yam

LLM指令跟随

• 指令跟随近期工作梳理（2025年上半年） | Yam
• LLM指令跟随论文速览

LMM系列

VoiceAgent

• 从Voila看语音端到端发展 | Yam
• 实时语音交互场景下RAG的机遇和挑战 | Yam

LMM论文速览

• OMNI论文速览（2025） | Yam
• OMNI论文速览（2024） | Yam
• SLM论文速览
• 音频Codec论文速览

LMM论文笔记

• 2024 MIO
• 2024 BigCodec
• 2024 TS3-Codec
• 2023 DAC
• 2023 XTTS
• 2021 VITS

NLP系列

基础

• 自然语言处理（NLP）知识地图
• hscspring/All4NLP: All For NLP, especially Chinese.
• 中文分词系列一：思考分词
• 正则表达式笔记
• 《Elasticsearch 权威指南》之基础入门 Note（基于 7.x）
• 浅析文本分类 —— 情感分析与自然语言处理
• TensorBay 指南

思考

• 对NLP预训练模型的思考
• NLP 表征的历史与未来
• 句子表征综述

语言

• 《纳博科夫最喜欢的词》读书笔记与思考

设计

• 2018CCF-GAIR：自然语言如何商业落地摘录及思考
• ChatBot 设计方案

图谱

• 关系提取简述
• 自然语言记忆模块（NLM）

NLP论文笔记

• 2024 LLM中的演绎推理、归纳推理和溯因推理
• 2022 LM Cascades
• 2022 Put Human in NLP Loop
• 2022 DeepGen
• 2022 Global Pointer
• 2022 大脑解码与NLP
• 2022 MarkBERT
• 2022 深度vsBM25排序
• 2022 Impossible Triangle
• 2022 NLM Memorization
• 2022 REINA
• 2022 FLAN
• 2021 W2NER
• 2021 W2NER 代码
• 2021 W2NER 解读
• 2021 ExT5
• 2021 多任务Prompt元学习
• 2021 Prompt综述
• 2021 数据增强综述
• 2021 去偏技术综述
• 2021 在上下文中学习如何学习：MetaICL
• 2021 通过最优转移进行词表学习：VOLT
• 2021 SimCSE 和 R-Drop 在 TextCNN 上的实验
• 2021 R-Drop
• 2021 简单的对比学习框架：SimCSE
• 2021 高效深度学习：让模型更小、更快、更好
• 2021 预训练模型的过去、现在和未来
• 2021 Few-Shot NER and BERT Noisy Learning：ProtoBERT
• 2020 GPT3 和它的 In-Context Learning
• 2020 T5
• 2020 SqueezeBERT
• 2020 深度探索 Bert：BERTology
• 2020 Bert-Flow
• 2020 Funnel Transformer
• 2020 PEGASUS
• 2020 DeBERTa
• 2020 Reformer
• 2019 T5
• 2019 UniLM
• 2019 Sentence-Bert
• 2019 Bart
• 2019 DistilBERT
• 2019 ALBERT
• 2019 GPT2
• 2019 ELECTRA
• 2019 CTRL
• 2019 RoBERTa
• 2019 ERNIE
• 2019 XLNet
• 2019 Bert
• 2018 Attributes External Feature
• 2017 Transformer Code
• 2017 Transformer Paper
• 2016 Node2Vec
• 2016 NER with Bi-LSTM and CRF
• 2015 Bahdanau Attention
• 2015 Luong Attention
• 2004 TextRank Keyword Extraction

SLP

• Regular Expressions, Text Normalization, and Edit Distance Note (SLP Ch02)
• Language Model Note (SLP Ch03)
• Naive Bayes and Sentiment Classification Note (SLP Ch04)
• Logistic Regression Note (SLP Ch05)
• Vector Semantics Note (SLP Ch06)
• Neural Networks and Neural Language Models Note (SLP Ch07)
• Part-of-Speech Tagging Note (SLP Ch08)
• Sequence Processing with Recurrent Networks Note (SLP Ch09)
• Encoder-Decoder Models Attention and Contextual Embedding Note (SLP Ch10)
• Formal Grammars of English Note (SLP Ch12)
• Syntactic Parsing Note (SLP Ch13)
• Statistical Parsing Note (SLP Ch14)
• Information Extraction Note (SLP Ch18)

冯志伟《自然语言计算机形式分析的理论与方法》

• 第一章：自然语言处理的学科定位
• 第二章：自然语言研究的先驱
• 第三章：基于短语结构语法的形式模型
• 第四章：基于合一运算的形式模型
• 第五章：基于依存和配价的形式模型
• 第六章：基于格语法的形式模型
• 第七章：基于词汇主义的形式模型
• 第八章：语义自动处理的形式模型
• 第九章：系统功能语法
• 第十章：语用自动处理的形式模型
• 第十一章：概率语法
• 第十二章：Bayes 公式与动态规划算法
• 第十三章：N 元语法和数据平滑
• 第十四章：隐 Markov 模型
• 第十五章：语音自动处理的形式模型
• 自然语言计算机形式分析的理论与方法笔记(Ch16) | Yam
• 第十七章：自然语言处理系统评测
• 第十八章：自然语言处理中的理性主义与经验主义

推荐广告Recommendation

• 推荐系统概述
• 协同过滤
• 矩阵分解
• Wide & Deep
• GBTD + LR

深度学习DeepLearning

• “心有麟熙”《强化学习炼金术》系列笔记 | Yam
• Gan 原理、证明与实现 | Yam
• NG CNN 笔记 | Yam
• AI 小课堂：Activation Function | Yam

机器学习MachineLearning

• 机器学习概念
• Metrics
• EDA
• 特征工程
• 建模调参
• 模型融合
• Hard-SVM, Soft-SVM 和 KKT
• 核方法 和 SMO

数据科学DataScience

• 高性能数据处理 | Yam
• List, Dict, Array, Series, DataFrame 相互转换
• Numpy 入门
• Pandas 入门
• 绘制文本分类数据
• QA 小课堂：Introduction | Yam

数学Math

• 辛普森悖论及其哲学思考 | Yam
• 信息熵与选择：由三门问题想到的 | Yam
• 线性代数的本质笔记 | Yam
• 微积分的本质笔记 | Yam

系统Unix

• Ubuntu16.04 安装 VirtualBox & Vagrant 管理 VirtualBox 各种问题总结 | Yam
• AINLP GPU 使用体验指南 | Yam
• Unix Cheat Sheet | Yam
• Docker Memo | Yam
• Git Memo | Yam

网络Net

• 虚拟网络指南 | Yam

树莓派Raspberrypi

• 机器之脑：树莓派初使用 | Yam
• 机器之眼：树莓派摄像头 | Yam

编程Coding

基础环境

• hscspring/ALL4AI: AI Related Tools/Projects
• Programming Language Environment Cheat Sheet | Yam

Rust与AI

• 【Rust与AI】概览和方向 | Yam
• 【Rust与AI】LLM模型基本架构 | Yam

Rust

• Rust str 转 String
• Rust Tutorial
• Rust by Example Brief Note | Yam

Python

• Python 编码笔记整理 | Yam
• Jupyter Notebook Cheat Sheet | Yam
• Python 调用 Java
• Python Ellipsis | Yam

Python 小白快速入门教程

• Ch00：在开始前
• Ch01：基础知识
• Ch02：使用模块
• Ch03：使用框架
• Ch04：阅读源码
• Ch05：在结束后

C 语言课程笔记

• 浙大翁恺老师《程序设计入门 ——C 语言》笔记
• 浙大翁恺老师《C 语言程序设计进阶》笔记

服务基础

• GraphQL Glance
• GraphQL Elixir Glance
• 常用 DataBase 相关操作和资源
• DataBase Foreign Data Wrapper

算法Algorithm

LeetCode

• Longest Substring Without Repeating Characters (LeetCode 3)
• Median of Two Sorted Arrays (LeetCode 4)
• Longest Palindromic Substring (LeetCode 5)
• Generate Parentheses (LeetCode 22) | Yam
• Swap Nodes in Paris (LeetCode 24)
• Search in Rotated Sorted Array (LeetCode 33, 81, 153)
• Find First and Last Position of Element in Sorted Array (LeetCode 34)

剑指 Offer2（Python 版）解析

• 剑指 Offer2（Python 版）解析（Ch2）
• 剑指 Offer2（Python 版）解析（Ch3）
• 剑指 Offer2（Python 版）解析（Ch4）
• 剑指 Offer2（Python 版）解析（Ch5）
• 剑指 Offer2（Python 版）解析（Ch6）

数据结构与算法

• 数据结构与算法：前言
• 数据结构与算法：导论
• 数据结构与算法：思考排序
• 数据结构与算法：线性结构
• Sort Based on Multiway Tree

经金商管EFBM

• 由一场供应链讲座引发的思考
• 《基业长青》读书笔记
• 《管人的真理》读书笔记
• 《海底捞你学不会》读书笔记

认知心理CogPsy

• 多贝里《清醒思考的艺术》读书笔记
• 《自私的基因》读书笔记
• 麦肯锡战略化思维》读书笔记

育儿

• 《真希望父母读过这本书》读书笔记 | Yam

杂文随笔Essay

• 60小时备考高架擦边过经验 | Yam
• 我为什么做开源？ | Yam
• 随笔：人生，当有所为有所不为 | Yam
• 随笔：命运 | Yam
• 《舞狮少年》观后 —— 信念、文化与希望 | Yam
• 只如初见的不只爱情 | Yam
• 人生随笔 | Yam
• 基础和取舍 | Yam