跳转到内容

GPT (语言模型)

本页使用了标题或全文手工转换
维基百科，自由的百科全书

这是本页的一个历史版本，由BlackShadowG​（留言 | 贡献）在2023年7月22日 (六) 12:39 （→基础模型）编辑。这可能和当前版本存在着巨大的差异。

机器学习与数据挖掘
范式
问题
聚类分析
降维
结构预测（英语：Structured prediction）
异常检测
人工神经网络
强化学习
与人类学习
模型诊断
数学基础
大会与出版物
相关条目
原始的GPT模型

基于转换器的生成式预训练模型[1]（英語：Generative pre-trained transformers，GPT）是OpenAI于2018年开始开发[2]的一系列大型语言模型（LLM）[3][1][4]，也是生成式人工智慧的重要框架[5][6]。GPT模型是基于Transformer模型的人工神经网络，在大型未标记文本数据集上进行预训练，并能够生成类似于人类自然语言的文本[1][4]。截至2023年，大多数LLM都具备这些特征[7]，并广泛被称为GPT[8][9]。

OpenAI发布了具有极大影响力的GPT基础模型，它们按顺序编号，构成了“GPT-n”系列[10]。由于其规模（可训练参数数量）和训练程度的提升，每个模型相较于前一个都显著增强。其中最新的模型是GPT-4，于2023年3月发布。这些模型为更具任务特定性的GPT系统奠定了基础，包括经过微调以适应特定指令的模型——而这些又反过来为ChatGPT聊天机器人服务提供了支持[3] 。

术语“GPT”还用于命名和描述其他开发者所开发的模型。例如，其他GPT基础模型包括EleutherAI（英语：EleutherAI）开发的一系列模型[11]，以及Cerebras（英语：Cerebras）开发的七个模型[12]。此外，不同行业的公司还在其各自领域开发了执行特定任务的GPT，例如赛富时的“EinsteinGPT”（用于客户关系管理）[13]和彭博的“BloombergGPT”（用于金融领域）[14]。


历史

初步发展

生成式预训练（Generative pretraining，简称GP）是机器学习应用中一个历史悠久的概念[15][16]，但直到2017年，Google的员工发明了Transformer模型[17]，这才使得大型语言模型如BERT（2018年）[18]和XLNet（2019年）成为可能[19]，这些模型是预训练的转换器（Pre-trained transformers，简称PT），但未被设计为生成式，而是“仅编码器”（encoder-only）[20]。2018年，OpenAI发表了题为《通过生成式预训练提高语言理解能力》（Improving Language Understanding by Generative Pre-Training）的文章，在其中首次介绍了基于转换器的生成式预训练模型（GPT）系统（“GPT-1”）[21]。

在基于转换器的架构出现之前，表现最优秀的神经自然语言处理（NLP）模型通常通过大量手动标记的数据进行监督学习。这种依赖于监督学习的开发途径限制了在未经充分标记的数据集上的应用，并且使得训练极大型语言模型相当耗时且开支非常昂贵[21]。

OpenAI采用半监督学习方法来构建大规模生成式系统，同时也是首个使用Transformer模型的方法。该方法包括两个阶段：无监督的生成式“预训练”阶段，使用目标函数来设置初始参数；以及有监督的判别式“微调（英语：fine-tuning (machine learning)）”阶段，将这些参数在目标任务上进行微调[21]。

后续发展

OpenAI于2020年7月发布了GPT-3的首个版本。其中包括三个模型，参数数量分别为10亿、67亿和1750亿，分别被命名为巴贝奇（babbage）、居里（curie）和达芬奇（davinci），分别以B、C和D作为简称。

2021年7月，OpenAI发布了Codex，是专门用于编程应用的特定任务GPT模型。该模型使用GitHub上的代码对GPT-3的12亿参数版本（与之前的GPT-3模型不同）进行代码微调而开发[22]。

2022年3月，OpenAI发布了两个针对指令跟随进行微调（即“指令微调”（instruction-tuned））的GPT-3版本，分别命名为davinci-instruct-beta（1750亿参数）和text-davinci-001[23]，随后开始测试code-davinci-002[24]。text-davinci-002是通过code-davinci-002进行指令微调得到的。text-davinci-003和ChatGPT于2022年11月发布，两者都是在text-davinci-002的基础上通过人类反馈强化学习（英语：Reinforcement learning from human feedback）（RLHF）得到的。text-davinci-003用于遵循指令（与其前身相似），而ChatGPT则经过进一步训练，可与人类用户进行对话交互[25][26] 。

OpenAI最新的GPT基础模型是GPT-4，于2023年3月14日发布。用户可以通过ChatGPT的高级版本直接访问它，而开发者则可通过OpenAI的API将其纳入其他产品和服务中。其他GPT基础模型的开发者包括EleutherAI（英语：EleutherAI）（从2021年3月开始推出一系列模型）[11]和Cerebras（英语：Cerebras）（于2023年3月发布七个模型）[12]。

基础模型

更多信息：OpenAI

基础模型是指在广泛的数据上进行大规模训练的AI模型，以便能够适用于各种下游任务[27] 。

迄今为止，最著名的GPT基础模型来自OpenAI的GPT-n系列。其中最新的是GPT-4，OpenAI选择不公开该模型的规模或训练细节，理由是“大规模模型的竞争环境和安全影响”[28]。

OpenAI的“GPT-n”系列
模型 架构 参数数量 训练数据 发布日期 训练成本
GPT-1 12层，12头的Transformer解码器（没有编码器），后跟线性softmax层 1.17 亿 BookCorpus[29]：一个包含7000本未出版书籍的语料库，总大小为4.5 GB。这些书籍涵盖了各种不同的文学流派和主题。 2018年6月11日[2] “使用8个GPU训练1个月”[2]，或等价于1.7e19次浮点运算（FLOP）[30]
GPT-2 基于GPT-1架构，但使用修改后的归一化方法 15亿 WebText：一个包含八百万个文档的语料库，总大小为40 GB。这些文本是从Reddit上投票最高的4,500万个网页中收集的，包括各种主题和来源，例如新闻、论坛、博客、维基百科和社交媒体等。 2019年2月14日（初始/有限版）和2019年11月5日（完整版）[31] “数十PetaFlop/s-day”[32]，或等价于1.5e21次浮点运算[30]
GPT-3 基于GPT-2架构，但修改以支持更大规模的训练 1750亿 一个总大小为570 GB的大规模文本语料库，其中包含约4990亿个标记。这些数据主要来自于Common Crawl（英语：Common Crawl）、WebText、英文维基百科和两个书籍语料库（Books1和Books2）。 2020年5月28日[32] 3640 petaflop/s-day（Table D.1 [32]）, 或等价于3.1e23次浮点运算[30]
GPT-3.5 未公开 1750亿[33] 未公开 2020年3月15日 未公开
GPT-4 使用文本预测和人类反馈强化学习（英语：Reinforcement learning from human feedback）（RLHF）进行训练，并可以接受文本和图像输入。进一步的细节尚未公开[28] 未公开 未公开 2023年3月14日 未公开。估计约为2.1e25次浮点运算[30]

其他类似的模型包括Google的PaLM（英语：PaLM），与2023年3月通过API向开发者提供[34][35]。另外还有Together的GPT-JT，据报道是与GPT-3性能最接近的开源替代方案（源自早期的开源GPT模型）[36]。Meta AI（英语：Meta AI）（前身为Facebook）还拥有一个基于转换器的生成式基础大型语言模型（generative transformer-based foundational large language model），称为LLaMA[37]。

基础GPT模型还可以采用文本以外的模态（英语：Modality (human–computer interaction)）进行输入和/或输出。GPT-4是一个多模态LLM，能够处理文本和图像输入（尽管其输出仅限于文本）[38]。多模态输出方面，一些基于转换器的生成式模型被用于文本到图像技术，如扩散[39]和并行解码[40]。此类模型可作为视觉基础模型（visual foundation models，简称VFMs），用于开发能够处理图像的下游系统[41]。

应用

  • ChatGPT (Chat Generative Pre-trained Transformer，基于转换器的交互式生成式预训练模型[1][4]）是由OpenAI于2022年11月30日发布的一款聊天机器人。它采用的是GPT-3.5，应用了“基于人类反馈的强化学习方案”（Reinforcement Learning from Human Feedback，RLHF）。
  • BioGPT是由微软开发的[42]一种专注于生物医学领域的GPT模型。[43]
  • ProtGPT2是一种专注于蛋白质研究的GPT模型。[44]

參考資料

  1. ^ 1.0 1.1 1.2 1.3 冯志伟. 冯志伟教授聊ChatGPT. 中国科技术语. [2023-02-27]. （原始内容存档于2023-02-27） –通过微信公众平台.  引用错误：带有name属性“:0”的<ref>标签用不同内容定义了多次
  2. ^ 2.0 2.1 2.2 Improving language understanding with unsupervised learning. openai.com. June 11, 2018 [2023-03-18]. （原始内容存档于2023-03-18） （美国英语）. 
  3. ^ 3.0 3.1 Haddad, Mohammed. How does GPT-4 work and how can you start using it in ChatGPT?. www.aljazeera.com. 
  4. ^ 4.0 4.1 4.2 The A to Z of Artificial Intelligence. Time. April 13, 2023.  引用错误：带有name属性“:4”的<ref>标签用不同内容定义了多次
  5. ^ Hu, Luhui. Generative AI and Future. Medium. November 15, 2022. 
  6. ^ CSDL | IEEE Computer Society. www.computer.org. 
  7. ^ Toews, Rob. The Next Generation Of Large Language Models. Forbes. 
  8. ^ Toews, Rob. The Next Generation Of Large Language Models. Forbes. 
  9. ^ Mckendrick, Joe. Most Jobs Soon To Be 'Influenced' By Artificial Intelligence, Research Out Of OpenAI And University Of Pennsylvania Suggests. Forbes. March 13, 2023. 
  10. ^ GPT-1 to GPT-4: Each of OpenAI's GPT Models Explained and Compared. MUO. April 11, 2023. 
  11. ^ 11.0 11.1 Alford, Anthony. EleutherAI Open-Sources Six Billion Parameter GPT-3 Clone GPT-J. InfoQ. July 13, 2021. 
  12. ^ 12.0 12.1 News (新闻稿). 
  13. ^ Morrison, Ryan. Salesforce launches EinsteinGPT built with OpenAI technology. Tech Monitor. 7 March 2023. 
  14. ^ The ChatGPT of Finance is Here, Bloomberg is Combining AI and Fintech. Forbes. 
  15. ^ Hinton (et-al), Geoffrey. Deep neural networks for acoustic modeling in speech recognition (PDF). IEEE Signal Processing Magazine. October 15, 2012,. Digital Object Identifier 10.1109/MSP.2012.2205597. S2CID 206485943. doi:10.1109/MSP.2012.2205597. 
  16. ^ Deng, Li. A tutorial survey of architectures, algorithms, and applications for deep learning | APSIPA Transactions on Signal and Information Processing | Cambridge Core. Apsipa Transactions on Signal and Information Processing (Cambridge.org). 2014-01-22, 3: e2 [2023-05-21]. S2CID 9928823. doi:10.1017/atsip.2013.9. 
  17. ^ Vaswani, Ashish; Shazeer, Noam; Parmar, Niki; Uszkoreit, Jakob; Jones, Llion; Gomez, Aidan N.; Kaiser, Lukasz; Polosukhin, Illia. Attention Is All You Need. December 5, 2017. arXiv:1706.03762 可免费查阅. 
  18. ^ Devlin, Jacob; Chang, Ming-Wei; Lee, Kenton; Toutanova, Kristina. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. May 24, 2019. arXiv:1810.04805v2 可免费查阅. 
  19. ^ Yang (et-al), Zhilin. XLNet (PDF). Proceedings from NeurIPS 2019. 2019. 
  20. ^ Naik, Amit Raja. Google Introduces New Architecture To Reduce Cost Of Transformers. Analytics India Magazine. September 23, 2021. 
  21. ^ 21.0 21.1 21.2 Radford, Alec; Narasimhan, Karthik; Salimans, Tim; Sutskever, Ilya. Improving Language Understanding by Generative Pre-Training (PDF). OpenAI: 12. 11 June 2018 [23 January 2021]. （原始内容存档 (PDF)于26 January 2021）. 
  22. ^ Chen, Mark; Tworek, Jerry; Jun, Heewoo; Yuan, Qiming; Ponde de Oliveira Pinto, Henrique; Kaplan, Jared; Edwards, Harri; Burda, Yuri; Joseph, Nicholas; Brockman, Greg; Ray, Alex; Puri, Raul; Krueger, Gretchen; Petrov, Michael; Khlaaf, Heidy. Evaluating Large Language Models Trained on Code. 2021-07-01. arXiv:2107.03374 可免费查阅. 
  23. ^ Ouyang, Long; Wu, Jeffrey; Jiang, Xu; Almeida, Diogo; Wainwright, Carroll; Mishkin, Pamela; Zhang, Chong; Agarwal, Sandhini; Slama, Katarina; Ray, Alex; Schulman, John; Hilton, Jacob; Kelton, Fraser; Miller, Luke; Simens, Maddie. Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems. 2022-12-06, 35: 27730–27744. arXiv:2203.02155 可免费查阅 （英语）. 
  24. ^ New GPT-3 capabilities: Edit & insert. openai.com. [2023-06-24] （美国英语）. 
  25. ^ Fu, Yao; Peng, Hao; Khot, Tushar. How does GPT Obtain its Ability? Tracing Emergent Abilities of Language Models to their Sources. Yao Fu's Notion. 2022. 
  26. ^ Model index for researchers. OpenAI API. [2023-06-23]. （原始内容存档于23 Jun 2023） （英语）. 
  27. ^ Introducing the Center for Research on Foundation Models (CRFM). Stanford HAI. 
  28. ^ 28.0 28.1 OpenAI. GPT-4 Technical Report (PDF). 2023 [2023-03-16]. （原始内容存档 (PDF)于2023-03-14）. 
  29. ^ Zhu, Yukun; Kiros, Ryan; Zemel, Rich; Salakhutdinov, Ruslan; Urtasun, Raquel; Torralba, Antonio; Fidler, Sanja. Aligning Books and Movies: Towards Story-Like Visual Explanations by Watching Movies and Reading Books. IEEE International Conference on Computer Vision (ICCV) 2015: 19–27. 2015 [2023-02-07]. arXiv:1506.06724 可免费查阅. （原始内容存档于2023-02-05）. 
  30. ^ 30.0 30.1 30.2 30.3 ML input trends visualization. Epoch. [2023-05-02] （英语）. 
  31. ^ Vincent, James. OpenAI has published the text-generating AI it said was too dangerous to share. The Verge. November 7, 2019. 
  32. ^ 32.0 32.1 32.2 Brown, Tom B.; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav; Sastry, Girish; Askell, Amanda; Agarwal, Sandhini; Herbert-Voss, Ariel; Krueger, Gretchen; Henighan, Tom; Child, Rewon; Ramesh, Aditya; Ziegler, Daniel M.; Wu, Jeffrey; Winter, Clemens; Hesse, Christopher; Chen, Mark; Sigler, Eric; Litwin, Mateusz; Gray, Scott; Chess, Benjamin; Clark, Jack; Berner, Christopher; McCandlish, Sam; Radford, Alec; Sutskever, Ilya; Amodei, Dario. Language Models are Few-Shot Learners. May 28, 2020. arXiv:2005.14165v4 可免费查阅. 
  33. ^ 引用错误：没有为名为:8的参考文献提供内容
  34. ^ Vincent, James. Google opens up its AI language model PaLM to challenge OpenAI and GPT-3. The Verge. March 14, 2023. 
  35. ^ Google Opens Access to PaLM Language Model. 
  36. ^ Iyer, Aparna. Meet GPT-JT, the Closest Open Source Alternative to GPT-3. Analytics India Magazine. November 30, 2022. 
  37. ^ Meta Debuts AI Language Model, But It's Only for Researchers. PCMAG. 
  38. ^ Islam, Arham. Multimodal Language Models: The Future of Artificial Intelligence (AI). March 27, 2023. 
  39. ^ Islam, Arham. How Do DALL·E 2, Stable Diffusion, and Midjourney Work?. November 14, 2022. 
  40. ^ Saha, Shritama. Google Launches Muse, A New Text-to-Image Transformer Model. Analytics India Magazine. January 4, 2023. 
  41. ^ Wu (et-al), Chenfei. Visual ChatGPT. March 8, 2023. arXiv:2303.04671 可免费查阅 [cs.CV]. 
  42. ^ Matthias Bastian. BioGPT is a Microsoft language model trained for biomedical tasks. The Decoder. 2023-01-29 [2023-02-27]. （原始内容存档于2023-02-07）. 
  43. ^ Luo R, Sun L, Xia Y, Qin T, Zhang S, Poon H; et al. BioGPT: generative pre-trained transformer for biomedical text generation and mining.. Brief Bioinform. 2022, 23 (6). PMID 36156661. doi:10.1093/bib/bbac409. 
  44. ^ Ferruz, N., Schmidt, S. & Höcker, B.; et al. ProtGPT2 is a deep unsupervised language model for protein design.. Nature Communications volume. 2022, 13 [2023-02-27]. doi:10.1038/s41467-022-32007-7. （原始内容存档于2023-02-08）. 
检索自“https://zh.wikipedia.org/w/index.php?title=GPT_(语言模型)&oldid=78190175”