Rimyy/Chatbot
1
1import streamlit as st2from transformers import AutoModelForCausalLM, AutoTokenizer3 4# Charger le modèle et le tokenizer5model_name = "Rimyy/MISTRAL-finetuneGSMdata1exp"6tokenizer = AutoTokenizer.from_pretrained(model_name)7model = AutoModelForCausalLM.from_pretrained(model_name)8 9# Fonction de prédiction10def predict(prompt):11 inputs = tokenizer(prompt, return_tensors="pt")12 outputs = model.generate(inputs.input_ids, max_length=256)13 return tokenizer.decode(outputs[0], skip_special_tokens=True)14 15# Interface utilisateur Streamlit16st.title("Modèle de génération de texte")17prompt = st.text_area("Entrez votre texte:")18if st.button("Générer"):19 result = predict(prompt)20 st.text_area("Résultat", value=result, height=200)21 