使用Gradio、讯飞星火大模型搭建聊天机器人
本帖最后由 长空牧雁 于 2024-6-5 10:08 编辑一、获取讯飞星火大模型的APPID、APISecret、APIKey，模型我用的是免费的Spark Lite，其他收费的模型同理
二、安装gradio 一句命令搞定 pip install gradio
chat.py代码如下：
from sparkai.llm.llm import ChatSparkLLM, ChunkPrintHandler
from sparkai.core.messages import ChatMessage
import gradio as gr
#星火认知大模型Spark3.5 Max的URL值，其他版本大模型URL值请前往文档（https://www.xfyun.cn/doc/spark/Web.html）查看
SPARKAI_URL = 'ws(s)://spark-api.xf-yun.com/v1.1/chat'
#星火认知大模型调用秘钥信息，请前往讯飞开放平台控制台（https://console.xfyun.cn/services/bm35）查看
SPARKAI_APP_ID = '替换成自己的appid'
SPARKAI_API_SECRET = '替换成自己的secret'
SPARKAI_API_KEY = '替换成自己的key'
#星火认知大模型Spark3.5 Max的domain值，其他版本大模型domain值请前往文档（https://www.xfyun.cn/doc/spark/Web.html）查看
SPARKAI_DOMAIN = 'general'
with gr.Blocks() as demo:
chatbot = gr.Chatbot()
msg = gr.Textbox()
clear = gr.Button("清除")
def respond(message, chat_history):
spark = ChatSparkLLM(
spark_api_url=SPARKAI_URL,
spark_app_id=SPARKAI_APP_ID,
spark_api_key=SPARKAI_API_KEY,
spark_api_secret=SPARKAI_API_SECRET,
spark_llm_domain=SPARKAI_DOMAIN,
streaming=False,
)
messages = [ChatMessage(
role="user",
content=message
)]
handler = ChunkPrintHandler()
a = spark.generate(, callbacks=)
print(a.generations.text)
chat_history.append((message, a.generations.text))
return "", chat_history
msg.submit(respond, , )
clear.click(lambda: None, None, chatbot, queue=False)
demo.launch()
三、运行代码，python chat.py
显示如下信息即成功：
Running on local URL:http://127.0.0.1:7860
To create a public link, set `share=True` in `launch()`.
四、打开浏览器 输入http://127.0.0.1:7860 界面如下：
https://img96.pixhost.to/images/148/474971949_chat.png
https://img96.pixhost.to/images/148/474971952_chat2.png
Chatbox显示聊天的记录，Textbox为输入框
机器人聊天挺有意思的，有时出其不意。但智能还有待提高 谢谢牛逼大佬分享代码 昨天还像来着，怎么论坛就没有人出这类作品，今天就有了，大佬牛13，请问大佬，能出多功能吗，比如，我填百度的去水印API，可以达到去水印，高清修复api，影视去字幕api等等AI功能，只要填百度，或者讯飞的API等去就能实现的软件^ 大佬牛逼 高级！！！搞一个试试，感谢分享 这个不粗我来 看看了 很不错的原创分享 楼主用的python版本是几啊 很好，可以试试