01.语言模型与大语言模型
2023年，让整个人类最为振奋的AI技术就是ChatGPT。“大语言模型（Large Language Model）”这个词也随之映入人们的眼帘。ChatGPT让人觉得惊艳之处，能够结合上下文，像人一样有逻辑性地回答问题，就算生成超长的文本也不会跑偏。
所谓语言模型（Language Model） 是一种机器学习算法，它可以根据给定文本来预测下一个词语或字符的出现的概率，通过大量的文本数据来学习语言的统计特征，进而生成具有相似统计特征的新文本。
其核心目标是建立一个统计模型，用来估计文本序列中每个词语或字符出现的概率，从而实现语言生成、语言理解等自然语言处理任务。
大型语言模型（Large Language Model，LLM），即利用大规模语料数据进行预训练的预训练语言模型（Pre-trained Language Models，PLMs），是自然语言处理（Natrual Language Processing，NLP）的方式之一。
简言之，大语言模型是在巨大数据集上训练以理解人类语言的深度学习模型，其核心目标是准确地学习和理解人类语言，大语言模型使机器能够像我们人类解释语言一样解释语言，彻底改变了计算机理解和生成人类语言的方式。
大语言模型与普通语言模型相比，大语言模型的一个显著区别在于其规模。大语言模型通常具有大量的参数，并且在训练过程中使用了巨量的文本数据。
大语言模型是一种强大的工具，可以在最少的人工干预下快速、准确地处理自然语言数据。这些模型可用于各种任务，例如文本生成、情感分析、问答系统、自动摘要、机器翻译、文档分类等。
大语言模型 (LLM) 已成为人工智能 (AI) 领域的突破性发展，与ChatGPT功能对标的大语言模型，目前国外主要有Google推出的Gopher、LaMDA以及meta的Llama等；国内为百度首发的“文心一言”、360发布的大语言模型、阿里发布的“通义千问”、商汤发布的“商量”等。
02.大语言模型落地应用对数字产业影响
① 变革人机交互方式：既有软件将接入对话能力，交互界面发生变革，自然语言成为用户发布操作指令的新模态。这一影响将从搜索引擎等知识信息平台拓展到一切人机交互型应用。友好度和功能性的显著提升将激活软件服务的增量用户市场；
② 丰富产品种类：将诞生新一批AI-first的应用，如创意设计、AI营销、AI运营等领域；
③ 塑造新兴商业模式：AI主导的“模型即服务”商业逻辑将重构应用开发流程，传统企业可享受低成本构建应用模型的便利；
④ 构建新兴生态平台：超级应用的出现，本质上搭建了用户需求与各类信息服务之间的基于自然语言交互的平台生态，塑造了移动互联网后新的流量入口。
03.大语言模型的具体应用场景
① 文本生成和完成
大语言模型带来了文本生成和完成的新时代。这些模型具有理解上下文、含义和语言的微妙复杂性的固有能力。
因此，他们可以生成连贯且上下文相关的文本。他们非凡的才能已在各个领域得到实际应用。
写作帮助：专业和业余作家体验利用大语言模型的好处。这些模型能够建议适当的短语、句子甚至整个段落，从而简化创作过程并提高书面内容的质量。
改进版本：语言模型通过帮助创作者生成引人入胜且信息丰富的文本，彻底改变了内容创建。通过分析大量数据，这些模型可以定制内容以满足特定的目标受众。
② 问答与信息检索
大语言模型在问答和信息检索领域正在快速发展。他们理解人类语言的卓越能力使他们能够从庞大的数据存储库中提取相关细节。
虚拟助手：它由大语言模型提供支持，为寻求准确且相关信息的用户提供便捷的解决方案。
这些先进的人工智能系统可以无缝地协助完成各种任务，例如检查天气、发现食谱或解决复杂的查询。通过理解上下文并生成适当响应的能力，这些虚拟助手可以促进顺畅的人机交互。
搜索引擎：它们是数字探索的基础，依靠其无与伦比的能力来理解用户查询并提供相关结果。通过利用广泛的语言模型，这些搜索平台的效率进一步提高，不断完善算法以提供更精确和个性化的搜索结果。
③ 情感分析与意见挖掘
了解人类的情感和观点在不同的环境中都具有巨大的意义，从塑造品牌认知到进行市场分析。利用大语言模型为有效分析文本数据中的情感提供了强大的工具。
社交媒体监控：它允许企业和组织利用先进的语言模型来分析和监控社交平台上表达的情绪。这一宝贵的工具使他们能够评估公众意见、跟踪品牌情绪并做出明智的决策。
品牌认知分析：大语言模型通过分析客户评论、评论和反馈来评估品牌情绪。这种有价值的分析可以帮助公司根据公众的看法完善其产品、服务和营销策略。
04.大语言模型的价值隐忧
① 算法垄断：大语言模型的训练需要消耗巨大的算力资源，更高的门槛在很大程度上限制了学界对大模型的持续探索，未来可能只有少量大型企业和机构能够参与到前沿大语言模型的研发当中。
从信息生产的角度来看，算力垄断也可能带来应用市场的垄断，从而削弱信息生产的多元性。
由于算力垄断，大语言模型的发展可能还会面临价值垄断的风险，尤其是当大语言模型被应用到新闻的生产和流通过程中，其携带的价值偏见和刻板印象会被进一步强化和放大。
② 虚假信息：大语言模型可能会生产一些具有极强迷惑性的信息，甚至可能被用于传播虚假信息或进行舆论操纵：当前社交机器人更多停留在一级传播，如果大语言模型和社交机器人相结合，就可能会形成类人的交流能力，带来社交机器人的多级传播，从而强化社交机器人传播虚假信息的负面影响。
AIGC（人工智能生成内容）的发展可能将未来置于一个真假难辨的信息空间，这对个体的生存和整个社会信息环境来讲都是一个很大的挑战。
05.大语言模型与新闻传播研究
2023年5月14日，“ChatGPT启示会：智能传播的大语言模型时代传播学研究新问题”在北京师范大学京师大厦第五会议室举行。
以ChatGPT为代表的大模型应用开始成为互联网空间新形态，开放域的多轮对话与生成式文本技术突破带来人机交互新体验。
大语言模型正在成为新一代人工智能技术突破口。本次启示会聚焦大语言模型时代的新变化提出了66个传播学研究新问题。
由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。
但是具体到个人，只能说是：
“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。
我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【】
该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。
- 大模型 AI 能干什么？
- 大模型是怎样获得「智能」的？
- 用好 AI 的核心心法
- 大模型应用业务架构
- 大模型应用技术架构
- 代码示例：向 GPT-3.5 灌入新知识
- 提示工程的意义和核心思想
- prompt 典型构成
- 指令调优方法论
- 思维链和思维树
- prompt 攻击和防范
- …
该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 Javascript 程序员。
- 为什么要做 RAG
- 搭建一个简单的 ChatPDF
- 检索的基础概念
- 什么是向量表示（Embeddings）
- 向量数据库与向量检索
- 基于向量检索的 RAG
- 搭建 RAG 系统的扩展知识
- 混合检索与 RAG-Fusion 简介
- 向量模型本地部署
- …
恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。
到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？
- 为什么要做 RAG
- 什么是模型
- 什么是模型训练
- 求解器 & 损失函数简介
- 小实验2：手写一个简单的神经网络并训练它
- 什么是训练/预训练/微调/轻量化微调
- Transformer结构简介
- 轻量化微调
- 实验数据集的构建
- …
对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。
- 硬件选型
- 带你了解全球大模型
- 使用国产大模型服务
- 搭建 OpenAI 代理
- 热身：基于阿里云 PAI 部署 Stable Diffusion
- 在本地计算机运行大模型
- 大模型的私有化部署
- 基于 vLLM 部署大模型
- 案例：如何优雅地在阿里云私有部署开源大模型
- 部署一套开源 LLM 项目
- 内容安全
- 互联网信息服务算法备案
- …