https://github.com/rasbt/LLMs-from-scratch
看看这个项目的介绍是:Implementing a ChatGPT-like LLM from scratch, step by step
翻译成中文就是标题.
看了下整本书的主图,以及主要章节,还是很震撼的,这个教授简简单单就从零一步一步实现了一个chatgpt
https://github.com/rasbt/LLMs-from-scratch/blob/main/ch04/01_main-chapter-code/ch04.ipynb 最后我看了下实现的效果,还不错。这本书值得一看.