構建文字摘要應用

概述

在本指南中,您將學習如何構建和執行文字摘要應用程式。您將使用 Python 和 Bert Extractive Summarizer 構建應用程式,然後使用 Docker 設定環境並執行應用程式。

示例文字摘要應用程式使用 Bert Extractive Summarizer。該工具利用 HuggingFace Pytorch transformers 庫來執行提取式摘要。它的工作原理是首先嵌入句子,然後執行聚類演算法,找到最接近聚類中心點的句子。

先決條件

  • 您已安裝最新版本的 Docker Desktop。Docker 定期新增新功能,本指南的某些部分可能僅適用於最新版本的 Docker Desktop。
  • 您擁有一個 Git 客戶端。本節中的示例使用基於命令列的 Git 客戶端,但您可以使用任何客戶端。

獲取示例應用程式

  1. 開啟終端,並使用以下命令克隆示例應用程式的儲存庫。

    $ git clone https://github.com/harsh4870/Docker-NLP.git
    
  2. 驗證您是否克隆了儲存庫。

    您應該在 Docker-NLP 目錄中看到以下檔案。

    01_sentiment_analysis.py
    02_name_entity_recognition.py
    03_text_classification.py
    04_text_summarization.py
    05_language_translation.py
    entrypoint.sh
    requirements.txt
    Dockerfile
    README.md

探索應用程式程式碼

文字摘要應用程式的原始碼位於 Docker-NLP/04_text_summarization.py 檔案中。在文字或程式碼編輯器中開啟 04_text_summarization.py 以在以下步驟中探索其內容。

  1. 匯入所需的庫。

    from summarizer import Summarizer

    這行程式碼從 summarizer 包中匯入 Summarizer 類,這對於您的文字摘要應用程式至關重要。summarizer 模組實現了 Bert Extractive Summarizer,它利用 HuggingFace Pytorch transformers 庫,該庫在 NLP(自然語言處理)領域享有盛名。該庫提供對 BERT 等預訓練模型的訪問,BERT 徹底改變了包括文字摘要在內的語言理解任務。

    BERT 模型或來自 Transformers 的雙向編碼器表示在理解語言中的上下文方面非常出色,它使用稱為“注意力”的機制來確定句子中單詞的重要性。對於摘要,該模型嵌入句子,然後使用聚類演算法來識別關鍵句子,即最接近這些聚類中心點的句子,有效地捕獲文字的主要思想。

  2. 指定主要執行塊。

    if __name__ == "__main__":

    這個 Python 習語確保以下程式碼塊僅在該指令碼為主程式時執行。它提供了靈活性,允許指令碼既可以作為獨立程式執行,也可以作為匯入的模組執行。

  3. 為持續輸入建立一個無限迴圈。

       while True:
          input_text = input("Enter the text for summarization (type 'exit' to end): ")
    
          if input_text.lower() == 'exit':
             print("Exiting...")
             break

    無限迴圈不斷提示您輸入文字,確保互動性。當您鍵入 exit 時,迴圈將中斷,使您能夠有效地控制應用程式流程。

  4. 建立 Summarizer 的例項。

          bert_model = Summarizer()

    在這裡,您建立了名為 bert_model 的 Summarizer 類的例項。該例項現在已準備好使用 BERT 模型執行摘要任務,將嵌入句子和聚類的複雜過程簡化為可訪問的介面。

  5. 生成並列印摘要。

    summary = bert_model(input_text)
    print(summary)

    您的輸入文字由 bert_model 例項處理,然後返回摘要版本。這展示了 Python 高階庫在使用最少程式碼啟用複雜操作方面的強大功能。

  6. 建立 requirements.txt。示例應用程式已包含 requirements.txt 檔案,以指定應用程式匯入的必要模組。在程式碼或文字編輯器中開啟 requirements.txt 以探索其內容。

    ...
    
    # 04 text_summarization
    bert-extractive-summarizer==0.10.1
    
    ...
    
    torch==2.1.2

    文字摘要應用程式需要 bert-extractive-summarizertorch 模組。summarizer 模組生成輸入文字的摘要。這需要 PyTorch,因為用於生成摘要的底層 BERT 模型是在 PyTorch 中實現的。

探索應用程式環境

您將使用 Docker 在容器中執行應用程式。Docker 允許您容器化應用程式,為執行應用程式提供一致且隔離的環境。這意味著應用程式將在其 Docker 容器中按預期執行,而與底層系統差異無關。

要在容器中執行應用程式,需要 Dockerfile。Dockerfile 是一個文字文件,其中包含您將在命令列上呼叫的所有命令,以組裝映象。映象是一個只讀模板,其中包含建立 Docker 容器的說明。

示例應用程式已包含 Dockerfile。在程式碼或文字編輯器中開啟 Dockerfile 以探索其內容。

以下步驟解釋了 Dockerfile 的每個部分。有關更多詳細資訊,請參見 Dockerfile 參考

  1. 指定基礎映象。

    FROM python:3.8-slim

    此命令為構建奠定了基礎。python:3.8-slim 是 Python 3.8 映象的輕量級版本,針對大小和速度進行了最佳化。使用此精簡映象會減少 Docker 映象的整體大小,從而導致更快的下載速度以及更小的安全漏洞攻擊面。這對於 Python 應用程式特別有用,因為您可能不需要完整的標準 Python 映象。

  2. 設定工作目錄。

    WORKDIR /app

    WORKDIR 設定 Docker 映象中的當前工作目錄。將其設定為 /app,可確保 Dockerfile 中的所有後續命令(如 COPYRUN)在此目錄中執行。這也有助於組織您的 Docker 映象,因為所有與應用程式相關的檔案都包含在特定目錄中。

  3. 將 requirements 檔案複製到映象中。

    COPY requirements.txt /app

    COPY 命令將 requirements.txt 檔案從本地計算機傳輸到 Docker 映象。該檔案列出了應用程式所需的所有 Python 依賴項。將其複製到容器中,使下一個命令(RUN pip install)能夠在映象環境中安裝這些依賴項。

  4. 在映象中安裝 Python 依賴項。

    RUN pip install --no-cache-dir -r requirements.txt

    這行使用 pip(Python 的包安裝程式)來安裝 requirements.txt 中列出的包。--no-cache-dir 選項停用快取,透過不儲存不必要的快取資料來減小 Docker 映象的大小。

  5. 執行其他命令。

    RUN python -m spacy download en_core_web_sm

    此步驟特定於需要 spaCy 庫的 NLP 應用程式。它下載了 en_core_web_sm 模型,這是一個用於 spaCy 的小型英語語言模型。雖然對於此應用程式不需要,但它被包含在內以與可能使用此 Dockerfile 的其他 NLP 應用程式相容。

  6. 將應用程式程式碼複製到映象中。

    COPY *.py /app
    COPY entrypoint.sh /app

    這些命令將您的 Python 指令碼和 entrypoint.sh 指令碼複製到映象的 /app 目錄中。這是至關重要的,因為容器需要這些指令碼才能執行應用程式。entrypoint.sh 指令碼特別重要,因為它決定了應用程式如何在容器內啟動。

  7. 設定 entrypoint.sh 指令碼的許可權。

    RUN chmod +x /app/entrypoint.sh

    此命令修改 entrypoint.sh 的檔案許可權,使其可執行。此步驟對於確保 Docker 容器可以執行此指令碼以啟動應用程式至關重要。

  8. 設定入口點。

    ENTRYPOINT ["/app/entrypoint.sh"]

    ENTRYPOINT 指令將容器配置為執行 entrypoint.sh 作為其預設可執行檔案。這意味著容器啟動時,它會自動執行指令碼。

    您可以透過在程式碼或文字編輯器中開啟 entrypoint.sh 指令碼進行探索。由於示例包含多個應用程式,因此該指令碼允許您在容器啟動時指定要執行的應用程式。

執行應用程式

要使用 Docker 執行應用程式

  1. 構建映象。

    在終端中,在 Dockerfile 所在目錄中執行以下命令。

    $ docker build -t basic-nlp .
    

    以下是該命令的分解

    • docker build:這是從 Dockerfile 和上下文構建 Docker 映象的主要命令。上下文通常是特定位置的一組檔案,通常是包含 Dockerfile 的目錄。
    • -t basic-nlp:這是標記映象的選項。-t 標誌代表標籤。它為映象分配一個名稱,在本例中為 basic-nlp。標籤是以後引用映象的便捷方式,尤其是在將它們推送到登錄檔或執行容器時。
    • .: 這是命令的最後一部分,用於指定構建上下文。句點 (.) 表示當前目錄。Docker 將在該目錄中查詢 Dockerfile。構建上下文(在本例中為當前目錄)將傳送到 Docker 守護程式以啟用構建。它包括指定目錄中的所有檔案和子目錄。

    有關更多詳細資訊,請參閱 docker build CLI 參考

    Docker 在構建映象時會向您的控制檯輸出幾個日誌。您將看到它下載並安裝依賴項。根據您的網路連線,這可能需要幾分鐘。Docker 確實具有快取功能,因此後續構建可以更快。完成後,控制檯將返回到提示符。

  2. 以容器形式執行映象。

    在終端中,執行以下命令。

    $ docker run -it basic-nlp 04_text_summarization.py
    

    以下是該命令的分解

    • docker run: 這是用於從 Docker 映象執行新容器的主要命令。
    • -it: 這是兩個選項的組合
      • -i--interactive: 這即使在未附加的情況下也會保持標準輸入 (STDIN) 開啟。它使容器能夠在前臺執行並具有互動性。
      • -t--tty: 這會分配一個偽終端,本質上模擬一個終端,如命令提示符或 shell。它允許您與容器內的應用程式進行互動。
    • basic-nlp: 這指定用於建立容器的 Docker 映象的名稱。在本例中,它是您使用 docker build 命令建立的名為 basic-nlp 的映象。
    • 04_text_summarization.py: 這是您要在 Docker 容器中執行的指令碼。它被傳遞給 entrypoint.sh 指令碼,該指令碼在容器啟動時執行它。

    有關更多詳細資訊,請參閱 docker run CLI 參考

    注意

    對於 Windows 使用者,在執行容器時可能會出現錯誤。驗證 entrypoint.sh 中的行尾是否為 LF (\n) 而不是 CRLF (\r\n),然後重新構建映象。有關更多詳細資訊,請參閱 避免意外語法錯誤,為容器中的檔案使用 Unix 風格的行尾

    容器啟動後,您將在控制檯中看到以下內容。

    Enter the text for summarization (type 'exit' to end):
    
  3. 測試應用程式。

    輸入一些文字以獲取文字摘要。

    Enter the text for summarization (type 'exit' to end): Artificial intelligence (AI) is a branch of computer science that aims to create machines capable of intelligent behavior. These machines are designed to mimic human cognitive functions such as learning, problem-solving, and decision-making. AI technologies can be classified into two main types: narrow or weak AI, which is designed for a particular task, and general or strong AI, which possesses the ability to understand, learn, and apply knowledge across various domains. One of the most popular approaches in AI is machine learning, where algorithms are trained on large datasets to recognize patterns and make predictions.
    
    Artificial intelligence (AI) is a branch of computer science that aims to create machines capable of intelligent behavior. These machines are designed to mimic human cognitive functions such as learning, problem-solving, and decision-making.
    

總結

在本指南中,您學習瞭如何構建和執行文字摘要應用程式。您學習瞭如何使用 Python 和 Bert Extractive Summarizer 構建應用程式,然後使用 Docker 設定環境並執行應用程式。

相關資訊

下一步

探索更多 自然語言處理指南