Update start.sh

start.sh

@@ -1,18 +1,35 @@
 #!/bin/bash
 
-
+# 設定工作目錄
 export WORK="/home/user/app"
-cd $WORK
-echo "unzip and download model"
-unzip llama_cpp_avx512.zip > /dev/null 2>&1 
+cd "$WORK" || exit 1
+
+# 建立 Python 虛擬環境
+python3 -m venv venv
+
+# 啟動虛擬環境
+source venv/bin/activate
+
+echo "Unzip and download model..."
+unzip llama_cpp_avx512.zip > /dev/null 2>&1
 wget -O model.gguf https://huggingface.co/unsloth/gpt-oss-20b-GGUF/resolve/main/gpt-oss-20b-Q4_K_M.gguf > /dev/null 2>&1
-echo "start llama.cpp"
-./llama-server -m model.gguf --port 8000 --host 0.0.0.0 --threads 2 --ctx-size 4096  --mlock --jinja  \
-  --temp 0.2 \
-  --top-p 0.85 &
-
-pip install --break-system-packages gradio openai
-echo "start app.py"  
-python3 app.py
+
+echo "Start llama.cpp server..."
+./llama-server -m model.gguf \
+                --port 8000 \
+                --host 0.0.0.0 \
+                --threads 2 \
+                --ctx-size 4096 \
+                --mlock \
+                --jinja \
+                --temp 0.2 \
+                --top-p 0.85 &
+
+# 安裝 Python 套件到虛擬環境
+pip install --upgrade pip
+pip install gradio openai
+
+echo "Start app.py..."
+python app.py
 
 #python3 -m http.server 7860 --bind 0.0.0.0