Pytorch
torchrun 训练
错误问题
突然中断 sighup 1
原因
- 使用 nohup + torchrun 后台运行导致
解决方法
- 参考: DDP Error: torch.distributed.elastic.agent.server.api:Received 1 death signal…
- 使用 tmux 或者 screen 命令把 torchrun 后台运行
torch.Tensor
transformers
参考
模型转换
Rust
书籍
- the book
- learn by examples
nomicon(Rustnomicon)
- Introduction - The Rustonomicon
- 编写 Unsafe Rust 必须的知识
内容
- 所有权 ownwership
- 指针
- 生命周期 lifetime
- Rust 程序设计语言 - Rust 程序设计语言 简体中文版
- Rust Language Cheat Sheet
Bert
参考
- BERT详解:概念、原理与应用__StarryNight_的博客-CSDN博客
- huggingface 解释 bert: BERT 101 - State Of The Art NLP Model Explained
huggingface 训练 model 流程
GitHub - datawhalechina/learn-nlp-with-transformers: we want to create a repo…
Dark Theme
gtk 应用
| |