本地部署 聊天机器人及基础API
·
效果

python环境下使用pycharm等工具进行

下载ollama (包含大模型) --->安装streamlit包---->文件下终端执行命令 streamlit run 文件名
import streamlit as st
import time
import ollama
#获取ollama的客户端
client=ollama.Client(host="http://localhost:11434")
#初始化消息记录
if 'message' not in st.session_state:
st.session_state['message']=[]
#添加标题
st.title("ollama 聊天机器人")
#添加分割线
st.divider()
#用户输入
prompt = st.chat_input("请输入问题:")
#对输入问题进行处理
if prompt:
# 用户问题添加进历史记录
st.session_state['message'].append({"role":"user","content":prompt})
#for循环将历史消息全部输出到消息容器
for message in st.session_state['message']:
st.chat_message(message['role']).markdown(message['content'])
with st.spinner("AI思考"):
response = client.chat(
model="deepseek-r1:1.5b",
messages=[{"role": "user", "content": prompt}]
)
#从response中去除message和content
st.session_state['message'].append({"role":"assistant","content":response['message']['content']})
#在页面渲染ai回答
st.chat_message("assistant").markdown(response['message']['content'])
调用API基础



DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐



所有评论(0)