一、电脑配置要求

• 推荐16GB内存以上，最低8GB。
• 最近几年的CPU均可。
• 有英伟达显卡性能表现会更好，但不是必须。

二、Ollama 介绍

Ollama是一个开源的大模型管理工具，它支持模型的训练、部署和监控等功能。通过使用Ollama，用户可以轻松地管理本地的大模型，从而提高模型的训练速度和部署效率。此外，Ollama还支持多种机器学习框架，如TensorFlow和PyTorch等，使用户可以根据自己的需求选择合适的框架进行模型的训练。

Ollama不仅是一个大型语言模型服务，提供了类似OpenAI的API接口和聊天界面，还支持热加载模型文件，使得部署最新版本的GPT模型并通过接口使用变得非常方便。它是基于Go语言开发的，可以帮助用户在本地快速运行大模型，通过简单的安装指令，可以用一条命令就在本地运行大模型。

Ollama的功能还包括启动并运行大型语言模型，如Llama 2、Code Llama和其他模型，以及自定义并创建用户自己的模型。它支持GPU/CPU混合模式，允许用户根据自己笔记本电脑的GPU和GPU显存来选择运行模式。

此外，Ollama被设计用于在Docker容器中部署LLM（大型语言模型），其主要功能是在Docker容器内部署和管理LLM，使该过程变得非常简单。它还提供了与微软AI合作的最先进的大型语言模型合集，这些模型在复杂的聊天、多语言、推理和代理用例上提高了性能。

Ollama是一个功能强大的工具，适用于需要在本地部署和管理大型语言模型的用户。它支持多种机器学习框架，提供API接口和聊天界面，支持GPU/CPU混合模式，并且可以通过Docker容器简化部署过程。

三、部署流程

• 下载安装 Ollama
• 下载 Llama3 大模型

ollama run llama3

第一次运行要下载大模型，下载的快慢取决于你的网速。

• 使用 Python ，API调用
  • Github

import requests

def get_lamma_response(prompt):
    # 定义请求的 URL
    url = 'http://localhost:11434/api/chat'
    # 定义请求的数据
    data = {
        "model": "llama3",
        "messages": [
            {
                "role": 'user',
                "content": prompt
            }
        ],
        "stream": False
    }
    # 发送 POST 请求
    response = requests.post(url, json=data)
    # 获取响应内容
    response_data = response.json()

    return response_data['message']['content']

prompt='''
why is the sky blue?
'''
response = ollama_model(prompt)

print(response)

The sky appears blue to us because of a combination of factors involving light, atmosphere, and our own perception. Here's a breakdown:

1. **Sunlight**: When sunlight enters Earth's atmosphere, it contains all the colors of the visible spectrum (red, orange, yellow, green, blue, indigo, and violet). The shorter wavelengths of light, like blue and violet, are more easily scattered by the tiny molecules of gases like nitrogen (N2) and oxygen (O2).
2. **Atmospheric scattering**: As sunlight interacts with these gas molecules, it scatters in all directions. This scattering effect is more pronounced for shorter wavelengths (like blue and violet) than longer wavelengths (like red and orange). Think of it like a game of pool: the smaller balls (shorter wavelengths) are more likely to bounce around and change direction than the larger balls (longer wavelengths).
3. **Rayleigh scattering**: In 1871, Lord Rayleigh discovered that the amount of scattering depends on the wavelength of light and the size of the particles involved. This phenomenon is now known as Rayleigh scattering. It's responsible for the blue color we see in the sky during the daytime.
4. **Perception**: Our brains are wired to perceive the blue light that reaches our eyes as a dominant feature of the sky. The scattered blue light from all directions appears to come from above, creating the illusion of a blue sky.
5. **Earth's atmosphere**: The color of the sky can also be influenced by various atmospheric conditions, such as:
	* Dust and pollutants: These particles can scatter light in different ways, making the sky appear more hazy or gray.
	* Water vapor: High levels of water vapor can make the sky appear more white or cloudy.
	* Aerosols: Tiny particles in the air, like those from volcanic eruptions or human activities, can scatter light and change the apparent color of the sky.

In summary, the combination of sunlight, atmospheric scattering (especially Rayleigh scattering), and our perception of the scattered blue light creates the blue color we see in the sky. The Earth's atmosphere can also influence this appearance through various factors.

Llama3的发布对AI行业产生了深远影响。目前已经出现中文版本微调模型了，不过目前这个项目还不算完善，距离完成还有很长的路要走。虽然微调模型是在预训练的基础上做的微调，但事实上预训练和微调是两个不同的概念。预训练只是为了让模型更好的掌握基础知识，而微调则是为了让模型在不同任务中表现得更好。尽管目前国内也有一些针对Llama3的微调模型，但还不够完善，而且并不能做到通用。
目前国内对Llama3微调模型的支持主要还是通过开源社区获取，这是因为Llama3开源社区目前处于起步阶段，很多细节都还没有完善，不过我相信在不久的将来会有更多针对Llama3的微调模型出现。

读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓