Upload 2 files

app.py

@@ -1,25 +1,24 @@
+from ctransformers import AutoModelForCausalLM
 import gradio as gr
-from transformers import pipeline
 
-# Carrega modelo StarCoder otimizado para geração de código
-generator = pipeline("text-generation", model="bigcode/starcoder", device=-1)
+# Carrega CodeLlama 7B Instruct quantizado (GGUF) direto do Hugging Face
+llm = AutoModelForCausalLM.from_pretrained(
+    "TheBloke/CodeLlama-7B-Instruct-GGUF",
+    model_file="codellama-7b-instruct.Q4_K_M.gguf",  # versão leve
+    model_type="llama"
+)
 
 def chat(message, history):
-    history = history or []
-    response = generator(message, max_new_tokens=200, do_sample=True, temperature=0.2)[0]["generated_text"]
-    # Pega apenas a resposta após a mensagem do usuário
-    response = response[len(message):].strip()
-    history.append((message, response))
-    return history, history
+    prompt = f"### Instrução:\n{message}\n### Resposta:\n"
+    response = llm(prompt, max_new_tokens=512)
+    return response
 
-with gr.Blocks(css="style.css") as demo:
-    gr.Markdown("# 💬 StarCoder Chat\nDigite sua mensagem abaixo e veja a resposta:")
+# Layout igual ao anterior (estilo chat)
+iface = gr.ChatInterface(
+    fn=chat,
+    title="MEu ChatBot CodeLlama",
+    description="Assistente de Programação rodando no Hugging Face Spaces (CodeLlama-7B Instruct).",
+    theme="soft"
+)
 
-    chatbot = gr.Chatbot(elem_id="chatbot")
-    msg = gr.Textbox(placeholder="Digite sua mensagem...")
-    clear = gr.Button("Limpar")
-
-    msg.submit(chat, [msg, chatbot], [chatbot, chatbot])
-    clear.click(lambda: None, None, chatbot)
-
-demo.launch()
+iface.launch()

requirements.txt

@@ -1,6 +1,2 @@
-gradio
-transformers
-torch
-sentencepiece
-huggingface-hub
-websockets
+ctransformers
+gradio