將 RAG 應用程式容器化
概觀
本節將引導您使用 Docker 將 RAG 應用程式容器化。
注意
您可以在 GenAI 堆疊
您現在應該在您的 winy
目錄中有以下檔案。
├── winy/
│ ├── .gitignore
│ ├── app/
│ │ ├── main.py
│ │ ├── Dockerfile
| | └── requirements.txt
│ ├── tools/
│ │ ├── create_db.py
│ │ ├── create_embeddings.py
│ │ ├── requirements.txt
│ │ ├── test.py
| | └── download_model.sh
│ ├── docker-compose.yaml
│ ├── wine_database.db
│ ├── LICENSE
│ └── README.md
將應用程式容器化涉及將其及其依賴項打包到一個容器中,以確保不同環境之間的一致性。以下是您需要將像 Winy 這樣的應用程式容器化的內容
Dockerfile:一個 Dockerfile,其中包含有關如何為您的應用程式構建 Docker 鏡像的說明。 它指定基礎映像、依賴項、設定檔和運行應用程式的命令。
Docker Compose 檔案:Docker Compose 是一個用於定義和運行多容器 Docker 應用程式的工具。 Compose 檔案允許您在單個檔案中設定應用程式的服務、網路和磁碟區。
在 winy
目錄中,在終端機中運行以下命令。
$ docker compose up --build
Docker 建構並運行您的應用程式。 根據您的網路連線,下載所有依賴項可能需要幾分鐘時間。 應用程式運行時,您會在終端機中看到如下訊息。
server-1 | You can now view your Streamlit app in your browser.
server-1 |
server-1 | URL: http://0.0.0.0:8501
server-1 |
如果您沒有運行服務,請繼續閱讀本指南,了解如何使用 Docker 運行部分或所有這些服務。 請記住,ollama
服務是空的;它沒有任何模型。 因此,您需要在開始使用 RAG 應用程式之前提取模型。 所有說明都在下一頁中。
在終端機中,按 ctrl
+c
停止應用程式。
在本節中,您學習了如何使用 Docker 將 RAG 應用程式容器化並運行。
在下一節中,您將學習如何使用 Docker 在本地完全正確地使用您首選的 LLM 模型設定應用程式。