CoolFace
Apppublic

Xs-plugin/otto-HZYS

sourceHugging Facebigscience-openrail-mupdated 3y agoView on Hugging Face
0likes
app.py34 linesDownload Raw Back to root
1import streamlit as st2import transformers3import torch4 5model = transformers.AutoModelForCausalLM.from_pretrained("HanaYabuki/otto-hzys")6tokenizer = transformers.AutoTokenizer.from_pretrained("HanaYabuki/otto-hzys")7 8 9 10def generate_reply(input_text):11  # 将用户的输入转换为模型可以理解的**张量**12  input_ids = tokenizer.encode(input_text, return_tensors="pt")13  # 使用模型生成回复,设置一些参数来控制生成的质量和长度14  output_ids = model.generate(input_ids, max_length=50, do_sample=True, top_k=20, top_p=0.9, temperature=0.8)15  # 将生成的回复转换为**文本**16  output_text = tokenizer.decode(output_ids[0], skip_special_tokens=True)17  # 返回生成的回复18  return output_text19```20 214. 使用**streamlit**库提供的**API**来构建**web应用**的界面。您可以使用**st.title**,**st.text_input**,**st.button**,**st.write**等方法来创建标题,输入框,按钮,文本等元素。您可以在文件中写下以下代码:22 23# 创建一个标题,显示项目的名称24st.title("Otto-hzys: A chatbot by Hana Yabuki")25# 创建一个输入框,让用户输入他们想说的话26input_text = st.text_input("You:")27# 创建一个按钮,让用户发送他们的输入28send_button = st.button("Send")29# 如果用户点击了按钮30if send_button:31  # 调用生成回复的函数,得到回复32  output_text = generate_reply(input_text)33  # 显示回复34  st.write("Otto-hzys:", output_text)