Update app.py

app.py

@@ -12,12 +12,11 @@ model_path = hf_hub_download(model_name, filename=model_file)
 llm = Llama(
     model_path=model_path,
     n_ctx=2048,  # Context length to use
-    # n_threads=4,            # Number of CPU threads to use
+    n_threads=4,            # Number of CPU threads to use
     # n_gpu_layers=0        # Number of model layers to offload to GPU
     # chat_format="chatml",
     verbose=False
-
-)
+    )
 
 prompt_template="""<|begin_of_text|>Dibawah ini adalah percakapan antara dokter dengan pasiennya yang ingin berkonsultasi terkait kesehatan. Tuliskan jawaban yang tepat dan lengkap sesuai sesuai pertanyaan dari pasien.<|end_of_text|>
 
@@ -49,8 +48,8 @@ def output_inference(tanya, history):
         yield temp
     
     history = ["init", prompt]
-
-
+    
+    
 gr.ChatInterface(
     output_inference,
     chatbot=gr.Chatbot(height=300),
@@ -63,4 +62,4 @@ gr.ChatInterface(
     retry_btn=None,
     undo_btn="Delete Previous",
     clear_btn="Clear",
-).launch()
+    ).launch()