Llama 2 的基本原理
- 监督微调（SFT）：通过在预训练的大型模型上进行特定任务的进一步优化，使其更好地适应特定任务的要求和上下文，能够提高模型在特定任务上的性能，同时节省了标记数据和训练时间，使其在实际应用中具备更强的适应性和灵活性。
- 有人类反馈的强化学习（RLHF）：一种模型训练程序，通过使用人类生成的反馈来微调语言模型，以进一步使模型行为与人类偏好和指令遵循一致。
- 奖励模型：一种训练强化学习模型的技术，用于指导模型的学习过程。在强化学习中，模型通过与环境交互来学习如何做出正确的决策以获得最大的奖励
- 幽灵注意力（Gatt）：一种人工智能领域的新技术，用于解决模型在几轮对话后忘记最初约束性指令的问题（如“简洁回答”或“扮演某个公众人物”）。Gatt 利用微调数据在多阶段过程中保持注意力集中，从而实现一致性的系统信息。
Llama 2 相比 Llama 有哪些升级
- 功能升级：Llama 2 是 Llama 的后继版本，相较于 Llama 在功能上有显著升级。Llama 2 经过更大规模的数据训练，其训练数据量比 Llama 多了40%，同时它的上下文长度也扩大了一倍。为了确保Llama 2在实际应用中更具有帮助性和安全性，它还在一个大规模的人类偏好数据集上进行了调优，包含了超过100万个人类偏好的注释。
- 访问权限：与 Llama 相比，Llama 2 在开放源代码的基础上更加开放，可以用于研究和商业用途。Llama 2 免费提供给研究人员和商业用户，可以在亚马逊云科技、Azure 和 Hugging Face 的AI模型托管平台上进行微调。
Llama 2 的优势
- 数据来源：Llama 2 的训练数据来自于公开可访问的多样化数据集，其数据集的规模非常庞大，包含了 2 万亿的标记（tokens）。
- 上下文窗口：Llama 2 的上下文窗口长度从之前的 2048 扩展到 4096，这意味着它能够处理更长的文本内容，提供更全面的语境理解。
- 预训练和微调：Llama 2 是在公开可用的在线数据来源上进行预训练的。该模型在数万亿标记上进行训练，拥有比 Llama 1 多一倍的上下文长度。Llama-2-chat 模型还通过公开可用的对话数据集和超过一百万条人类注释进行了微调。
- 性能优化：Llama 2 在许多外部基准测试中表现出色，包括推理、编码、熟练程度和知识测试等方面。特别是，Llama-13B 在大多数基准上超过了参数量达 1750 亿的 GPT-3，而 Llama-65B 也与最佳模型 Chinchilla-70B 和 PaLM-540B 相竞争。
Llama 2 的安全基准
- 安全性：指大型语言模型可能会因为误解和错误信念而产生已知的错误信息。Llama 2 采用 TurthfulQA 来衡量 LLM 模型能否生成符合事实和常识的可靠输出。
- 安全鲁棒性：指大型语言模型生成有毒、粗鲁、敌对或隐含仇恨内容的倾向。Llama 2 选用 ToxiGen 来测量不同群体中有毒语言和仇恨言论的生成量。
- 模型偏见：指大型语言模型在训练数据中可能会吸收社会偏见和不平等，并在生成文本或做出决策时反映这些偏见。这可能导致模型产生带有偏见的输出，进而对用户和社会造成负面影响。Llama 2 使用 BOLD 来研究模型的情绪导向如何随人口属性而变化。
Llama 2 的不同参数大小介绍及对应场景
LLaMa 7B
LLaMa 7B 是小规模大型语言模型，经过超过 1 万亿个 tokens 的训练。虽然是较小规模的模型，但其在许多基准测评上表现出色，甚至超过了参数量更大的 GPT-3（1750亿）。由于其相对较小的参数规模，LLaMa 7B 可能适用于资源有限的研究者和初创企业，可用于构建商用聊天机器人和 AI 助手等应用场景。
LLaMa 13B
LLaMa 13B 是参数规模介于 7B 和 70B 之间的中等规模大型语言模型。在大多数基准测评上，LLaMa 13B 可以胜过参数量达到 1750 亿的GPT-3。LLaMa 13B 在性能和规模之间具备一定平衡性，可适用于中型企业或研究机构，用于更复杂的自然语言处理任务、对话生成和AI交互等场景。
LLaMa 70B
LLaMa 70B 是大规模大型语言模型，具有约 700 亿个参数。虽然与一些超大规模模型相比，如 Chinchilla-70B 和 PaLM-540B，LLaMa 70B 的参数数量较少，但仍具有较强的竞争力。LLaMa 70B 可适用于需要更高性能和更复杂任务的企业、研究机构或大规模应用，如生成大规模对话、智能搜索和自然语言理解等。
Llama 2 与 GPT-4.0 的区别
- 语言支持：Llama 2 支持 20 种语言，语言范围较窄；GPT-4.0 支持更广泛的语言范围，语言能力更强。
- 模型参数与性能：Llama 2 的模型参数相对较少，比起 GPT-3 的模型来说规模更小，但表现出色，可以在单个 GPU 上高效运行；GPT-4.0 采用了大量参数和更多的预训练数据，在某些任务上表现更强大和更全面。
- 开放性：Llama 2 是开源的，免费提供给研究者和商业用途，使得公众有更多机会塑造和受益于这项技术；GPT-4.0 是一个封闭模型，不具备开放性。
- 用途：Llama 2 主要用于指令型语言模型，即基于指令进行操作和回应；GPT-4.0 可以执行多种任务，包括指令型和生成型任务，如对话、内容创作等。
亚马逊云科技热门云产品
Amazon SageMaker
大规模构建、训练和部署机器学习模型
欢迎加入亚马逊云科技培训中心
欢迎加入亚马逊云科技培训中心
-
快速上手训练营
-
账单设置与查看
-
动手实操
-
快速上手训练营
-
第一课：亚马逊云科技简介
本课程帮助您初步了解云平台与本地环境的差异，以及亚马逊云科技平台的基础设施和部分核心服务，包括亚马逊云科技平台上的弹性高可用架构，架构设计准则和本地架构迁移上云的基本知识。
亚马逊云科技技术讲师：李锦鸿第二课：存储与数据库服务
您将在本课程中学习到亚马逊云科技上的三个存储服务分别是什么。我们也将在这个模块中为您介绍亚马逊云科技上的关系型数据库服务 Amazon Relational Database Service (RDS)。
亚马逊云科技资深技术讲师：周一川第三课：安全、身份和访问管理
在这个模块，您将学习到保护您在亚马逊云科技上构建的应用的安全相关知识，责任共担模型以及身份和访问管理服务， Identity and Access Management (IAM) 。同时，通过讲师演示，您将学会如何授权给 EC2 实例，允许其访问 S3 上的资源。
亚马逊云科技技术讲师：马仲凯 -
账单设置与查看
-
-
动手实操
-
