DeepStream Samples版的操作環(huán)境調試過程

NVIDIA的DeepStream是目前業(yè)界最好開發(fā)而且功能強大的AI視頻分析工具，在NGC上https://catalog.ngc.nvidia.com/orgs/nvidia/containers/deepstream-l4t為 Jetson 提供 4 個可使用的版本，分別如下：

• Base 版（deepstream-l4t:6.1-base）：作為 DeepStream SDK 一部分的插件、庫以及依賴項，如 CUDA、TensorRT、GStreamer 等，希望為自己創(chuàng)建 Docker 版的 DeepStream 應用程序用戶，建議使用此映像。請注意，這個鏡像不包含示例內容。

• Samples 版（deepstream-l4t:6.1-samples）：在 Base 版的基礎上添加范例的內容，包括 C/C++ 開源代碼、deepstream-app 范例配置文件、模型文件與測試視頻等，適合體驗與學習用途的初學者使用。

• IoT 版（deepstream-l4t:6.1-iot）：在 Base 版上擴充 IoT 應用所需的環(huán)境，包括 Kafka、Azure IoT、REDIS 和 MQTT 等協議、DeepStream test5 應用程序以及相關配置和模型，可啟用多視頻流應用程序，并將各種消息傳遞到服務器端進行統(tǒng)計分析。

• Triton 部署版（deepstream-l4t:6.1-triton）：這是配合 Triton 推理服務器使用的環(huán)境，開發(fā)者可以直接使用 TensorFlow、TensorFlow-TensorRT 與 ONNX-RT 等方式進行推理計算。

從上面的描述中可以看出 Samples 版本鏡像適合絕大部分初學者的使用，現在就以這個鏡像來做說明。

1、下載鏡像：

這里使用 JetPack 5.0 版的 Jetson Orin 開發(fā)套件，可以使用 DeepStream-6.1 版的容器，可以從 https://catalog.ngc.nvidia.com/orgs/nvidia/containers/deepstream-l4t網頁右上角 “Pull Tag” 按鈕中，選擇 “6.1-samples” 選項，這時就已經將執(zhí)行指令復制到緩沖區(qū)，然后粘貼在 Jetson 上的命令終端，指令內容如下：

docker  pull  nvcr.io/nvidia/deepstream-l4t:6.1-samples

這樣就能從 NGC 服務器將 deepstream-l4t:6.1-samples 鏡像文件下載到 Jetson 設備上。下載完畢之后，執(zhí)行以下指令看看結果：

docker  images

如下圖 TAG 欄中顯示 “6.1-samples” 就表示鏡像文件下載成功。

到此只是將鏡像文件下載到本地，但還不是可執(zhí)行的容器狀態(tài)，接著就要使用 Docker 指令來創(chuàng)建工作容器。

如果是使用 JetPack 4.6.x 版的其他 Jetson 設備時，目前只能使用 DeepStream-6.0.1 版本，請使用以下指令下載鏡像文件到 Jetson 設備上：

docker  pull  nvcr.io/nvidia/deepstream-l4t:6.0.1-samples

2、創(chuàng)建臨時容器的指令：

以下是 NVIDIA 官方所提供的創(chuàng)建容器指令，由于指令內容較長，建議寫入 .sh 腳本中會比較方便執(zhí)行：

# 允許外部應用程序連接到主機的X顯示器：xhost +# 允許外部應用程序連接到主機的X顯示器：dockerrun-it--rm--net=host--runtimenvidia-eDISPLAY=$DISPLAY-w/opt/nvidia/deepstream/deepstream-6.1-v/tmp/.X11-unix/:/tmp/.X11-unixnvcr.io/nvidia/deepstream-l4t:6.1-samples

以下對這段指令進行基本說明：

• 使用 “docker run” 組合指令來創(chuàng)建容器；

• 中間的參數可以用 “docker run --help” 查看，這里使用以下幾個參數：

-it：啟動互動式（-i）的終端（-t）；

--rm：退出容器之后自動移除；

--net：讓容器內網絡使用指定網絡，這里指定 “host” 表示共用 Jetson 設備網絡；

--runtime：指定執(zhí)行時的方式，這里指定為 “nvidia” 其實可以省略；

-e：配置環(huán)境變量，這里指定容器內 DISPLAY 變量為設備的 $DISPLAY 變量內容；

-w：指定容器內的工作目錄，進入容器就會直接進入到這個工作目錄下；

-v：將容器內的目錄與容器外的目錄形成映射；

• 鏡像的完整路徑（nvcr.io/nvidia/deepstream-l4t:6.1-samples），放在最后面。

這樣的指令有個最大的缺點，就是每次啟動都只能是個臨時用途的容器，一旦退出之后就會刪除工作容器，表示過程中所有執(zhí)行修改與步驟都將付之一炬，因此這樣指令適合做簡單的測試用途，但并不適合作為開發(fā)階段的使用，必須做些調整。

3、將源代碼與范例復制到容器外：

在容器中的 DeepStream 源代碼有兩個部分：

• Sources：在容器內 /opt/nvidia/deepstream/deepstream/sources 下

• Samples：在容器內 /opt/nvidia/deepstream/deepstream/samples 下

我們先將這兩個部分的內容復制到容器外，然后啟動容器的時候再用 “-v” 進行路徑映射，這樣過程中修改的內容就會保存在容器外，即便退出后銷毀容器也沒關系。不過這個復制的過程必須在 “容器啟動” 的狀態(tài)下執(zhí)行，可以先執(zhí)行下面最簡單的容器啟動指令：

# 在第一個命令終端dockerrun-it--rmnvcr.io/nvidia/deepstream-l4t:6.1-samples

現在進入容器之內，可能看到以下的顯示信息：

root@1c03f4d7628a:/opt/nvidia/deepstream/deepstream-6.1#

“1c03f4d7628a” 是這個容器目前的編號，現在需要開啟一個指令終端進行操作，這個過程是在容器外進行處理，請執(zhí)行以下指令列出執(zhí)行中的容器編號與狀態(tài)：

# 在第二個命令終端dockerps

下圖顯示目前有個正在執(zhí)行的容器，其編號（CONTAINER ID）為 1c03f4d7628a，正好是上面看到容器內所顯示的編號。

現在執(zhí)行以下指令，將容器內的 sources 與 samples 目錄內容，復制到容器外的指定路徑之下，例如 ~/deepstream/sources 與 ~/deepstream/samples：

# 在第二個命令終端mkdir  -p  ~/deepstream export  CONTAINER_ID=’根據實際編號’docker  cp  $CONTAINER_ID:/opt/nvidia/deepstream/deepstream/sources ~/deepstream/sourcesdockercp$CONTAINER_ID:/opt/nvidia/deepstream/deepstream/samples~/deepstream/samples

現在看看在 Jetson 設備上 ~/deepstream 目錄下是否多了 sources 與 samples 兩個目錄？比對一下里面的內容是否與容器內的一致。

接下來就可以調整一下執(zhí)行的指令，讓所有的代碼與配置文件的修改部分，保留在容器外面，這樣過程中的修改就不會白白浪費。請執(zhí)行以下指令創(chuàng)建另一容器：

# 在第二個命令終端sudo  xhost +docker  run  -it  --rm  --net=host  --runtime  nvidia  -e  DISPLAY=$DISPLAY -w  /opt/nvidia/deepstream/deepstream  -v /tmp/.X11-unix/:/tmp/.X11-unix -v  ~/deepstream/sources:/opt/nvidia/deepstream/deepstream/sources -v  ~/deepstream/samples:/opt/nvidia/deepstream/deepstream/samples nvcr.io/nvidia/deepstream-l4t:6.1-samples

現在再開啟一個指令窗口，執(zhí)行以下指令檢查以下容器的狀態(tài)：

# 在第三個命令終端dockerps

應該會看到類似下面截屏中的兩個 “執(zhí)行中容器” 的信息：

在容器外試著在 ~/deepstream/sources 目錄下添加個子目錄：

# 在第三個命令終端mkdir-p~/deepstream/sources/outsideContainer

然后到第二個終端里執(zhí)行以下指令，看看是否也多了 “outsideContainer” 目錄？

# 在第二個命令終端ls/opt/nvidia/deepstream/deepstream/sources

如果能對應的上，就表示后面在容器內修改的代碼文件，都存放在容器外面的指定路徑下，這樣就不用擔心每次退出容器之后的問題。

4、在容器內執(zhí)行范例：

現在就在第二個終端里執(zhí)行 DeepStream 的標準范例，請執(zhí)行以下指令：

# 在第二個命令終端cd  /samples/configs/deepstream-appdeepstream-app-csource4_1080p_dec_infer-resnet_tracker_sgie_tiled_display_int8.txt

就能看到下面這個大家相當熟悉的執(zhí)行結果。

以上就完成 DeepStream Samples 版的操作環(huán)境調試過程，開發(fā)人員可以在容器外用編輯器去修改配置文件或 C/C++ 源代碼，然后在容器內執(zhí)行編譯或操作，這樣就會非常方便。

審核編輯：湯梓紅