关键知识点

1. AI人工智能（Artificial Intelligence）

2. AI1.0：感知智能时代：基于规则的人工智能

3. AI2.0：认知智能时代：机器学习（Machine Learning），深度学习（Deep Learning）

4. 大模型概念：全称「大语言模型」，英文「Large Language Model」，缩写「LLM」。是一种基于机器学习和自然语言处理技术的模型，它通过对大量的文本数据进行训练，来学习服务人类语言理解和生成的能力。

5. 大模型特点：1.数据量大 2.规模大 3.算力大 4.参数量大 5.具备强大泛化能力的预训练模型（举一反三的能力）

6. 为什么是大模型兴起？

   硬件进步：GPU、TPU 等高性能计算设备的普及，使得训练大模型成为可能。
   
   算法优化：如 Transformer 架构的提出，极大提升了模型处理长序列数据的能力。
   
   数据爆炸：互联网文本、图像、视频等数据量激增（部分数据集达PB级），为大模型训练提供燃料
   
   分布式训练：大规模分布式计算框架（如 PyTorch、TensorFlow）的成熟，支持高效训练大模型
   

7. 通用人工智能，简称AGI（Artificial General Intelligence），指的是一种智能，能够理解、学习和应用知识和技能，需要能够处理极其广泛的问题和环境，具有很高的适应性、自主性和创造性。这是人类的终极目标，目前还没有达到！

8. AIGC人工智能生成内容（Artificial Intelligence Generated Content）定义：指利用人工智能技术自动生成文本、图像、音频、视频等内容。AIGC的快速发展（如大语言模型）为AGI提供了部分技术积累（如自然语言处理能力），但AGI需突破认知、推理等更高层能力。总结来说，AIGC是当前AI技术落地的热门方向，而AGI是长期愿景。

9. 常见大模型版本区分

   通义千问2.5：这是通义千问第2.5代通用模型
   
   版本编号(如0314、2025-03-05)：这些数字通常代表模型的发布或修订日期。
   
   72B：指大模型的内部参数量，比如还有DeepSeek满血版DeepSeek-671B，1个B为10亿。
   
   1M：这个标签通常指的是模型处理文本时的最大token数(或“上下文窗口"大小)。32k意味着模型能够在一个实例中处理最多32,000个
   token。这对于处理长文本特别有用。
   
   Turbo：这可能指的是模型的一个优化版本，旨在提高速度和效率，可能在保持生成质量的同时减少了资源消耗。
   
   Preview：这通常意味着该模型是供早期访问、测试或预览的版本。它可能不是最终的商业版本，但提供了对即将发布功能的早期查看。
   
   带V字：这意味着模型被设计或优化以处理视觉数据，比如图像或视频
   

10. 大模型相关硬件介绍

    GPU:（Graphics Processing Unit，图形处理器）是专门用于处理图形和并行计算任务的处理器，最初设计用于加速图像渲染（如游戏、3D建模），但现在也广泛应用于科学计算、人工智能等领域
    
    TPU:（Tensor Processing Unit，张量处理器）是谷歌（Google）专门为机器学习（ML）和张量运算设计的定制化加速芯片，主要用于加速神经网络的计算任务（如训练和推理）。TPU 针对 TensorFlow 框架高度优化，在 AI 工作负载（如深度学习、大规模矩阵乘法）上比传统 CPU 和 GPU 更高效
    
    CPU:（Central Processing Unit，中央处理器）是计算机的核心部件，负责执行程序指令、处理数据以及协调计算机其他组件的工作
    

11. FLOPS（Floating-Point Operations Per Second，每秒浮点运算次数）是衡量计算机、处理器或硬件（如GPU、CPU）计算性能的核心指标，表示设备每秒能完成多少次浮点数运算（如加减乘除1 TFLOPS = 1万亿次浮点运算/秒 ）

大模型应用开发-Hello World

1. 注册用户

   https://bailian.console.aliyun.com/?spm=5176.29619931.J_AHgvE-XDhTWrtotIBlDQQ.12.31a6521cYFEWJX&tab=api#/api

2. 开通大模型功能

3. 获取API Key，配置环境变量DASHSCOPE_API_KEY=API Key

4. 通过代码调用API实现功能，（pip install -U openai）安装SDK（Software Development Kit）

   import os
   from openai import OpenAI
   
   client = OpenAI(
       # 若没有配置环境变量，请用百炼API Key将下行替换为：api_key="sk-xxx",
       api_key=os.getenv("DASHSCOPE_API_KEY"),
       base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
   )
   completion = client.chat.completions.create(
       # 此处以qwen-plus为例，可按需更换模型名称。
       # 模型列表：https://help.aliyun.com/zh/model-studio/getting-started/models
       model="qwen-plus",
       messages=[
           {'role': 'system', 'content': 'You are a helpful assistant.'},
           {'role': 'user', 'content': '你是谁？'}],
   )
   
   print(completion.model_dump_json())
   print(completion.choices[0].message.content)