效果

python环境下使用pycharm等工具进行

下载ollama (包含大模型) --->安装streamlit包---->文件下终端执行命令 streamlit run 文件名

import streamlit as st
import time
import ollama

#获取ollama的客户端
client=ollama.Client(host="http://localhost:11434")
#初始化消息记录
if 'message' not in st.session_state:
    st.session_state['message']=[]

#添加标题
st.title("ollama 聊天机器人")
#添加分割线
st.divider()
#用户输入
prompt = st.chat_input("请输入问题:")

#对输入问题进行处理
if prompt:
    # 用户问题添加进历史记录
    st.session_state['message'].append({"role":"user","content":prompt})
    #for循环将历史消息全部输出到消息容器
    for message in st.session_state['message']:
        st.chat_message(message['role']).markdown(message['content'])

    with st.spinner("AI思考"):
        response = client.chat(
            model="deepseek-r1:1.5b",
            messages=[{"role": "user", "content": prompt}]
        )
        #从response中去除message和content
        st.session_state['message'].append({"role":"assistant","content":response['message']['content']})
        #在页面渲染ai回答
        st.chat_message("assistant").markdown(response['message']['content'])

调用API基础

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐