GPT-1：於2018年6月推出，包含1.17億個參數，是第一個使用transformer模型的自然語言處理模型。
GPT-2：於2019年2月推出，包含15億個參數，是當時最大的自然語言處理模型之一，並且在各種自然語言處理任務上取得了優異的表現。
GPT-3：於2020年6月推出，包含170億個參數，是當時最大的自然語言處理模型，具有極強的自然語言生成和理解能力，在自然語言生成、問答系統、語言翻譯等多個任務上取得了驚人的表現。
GPT-3.5：於2022年3月推出，包含3.5萬億個參數，具有編輯和插入的功能
GPT-4：於2023年3月推出，包含100萬億個參數，可以生成各種類型的文本，包括故事、詩歌、歌詞、代碼、摘要等，並且可以根據不同的指令和提示進行調整。
| 1token | 4個字符 | 1個漢字 | 2~2.5個token |
| 模型 | 發布日期 | 參數數量 | token | 上下文窗口 |
|---|---|---|---|---|
| GPT-1 | 2018年6月11日 | 117MB | 1024 | 512 |
| GPT-2 | 2019年2月14 日 | 1.5GB | 2048 | 1024 |
| GPT-3 | 2020年5 月 28 日 | 1750GB | 4096 | 2048 |
| GPT-3.5 | 2022年 3 月 15 日 | 1750GB | 4096 | 2048 |
| GPT-4 | 2023 年 3 月 14 日 | 100TB | 8192 | 32768 |