최근에 Jetson orin에 카메라(stereolabs zed camera)를 연결하고, 모델을 추론하여 로봇을 제어하기 위한 시스템을 구축하고 있는데 Jetson orin을 세팅하는 과정에서 cpu architecture가 aarch64라는 점에서 쉽지 않다는 것을 느끼고 있다.
1. Jetson orin은 기본적으로 jetpack(SDK)에서 시작한다.
초기 버전은 jetpack 5.1.2로 설치가 되어 있었으며, 본인이 사용하고자 하는 CUDA 버전이나 ubuntu 버전에 맞춰서 설치를 진행해야한다.
간략하게 보자면 Jetpack 5.x 버전은 ubuntu 20.04이며, Jetpack 6.x 버전은 ubuntu 22.04이상에서 지원 되는 걸로 알고 있다. (정확한 내용은 공식 사이트를 참고하자) 또한, 해당 Jetpack 버전에 따라서 CUDA의 지원 버전도 다르다.
https://developer.nvidia.com/embedded/jetpack-archive
JetPack Archive
This page includes access to previously released versions of JetPack. The latest version of JetPack is always available under the main NVIDIA JetPack product page. JetPack 6.2 Jetson AGX Orin Series, Jetson Orin NX Series, Jetson Orin Nano Series [L4T 36.4
developer.nvidia.com
2. Jetson orin의 Jetpack을 (재)설치 하기 위해서는 ubuntu host PC가 필요하다.
따라서, Jetpack 버전 업데이트를 위해서는 Host PC가 하나 준비되어야 한다. PC에 SDK manager를 설치한 뒤 Jetson orin을 연결하여 업데이트를 진행할 수 있다. 꽤나 오랜 시간이 걸리니 파이팅...
3. 카메라(stereolabs zed camera) 연결 시 호환되는 버전 확인하여 ZED SDK 설치
Jetpack에 맞는 적절한 ZED SDK가 설치되어야 카메라가 동작한다. CUDA가 호환안되거나 여러 문제로 Depth mode가 안된다거나 SDK가 안켜지는 경우가 존재한다.(사이트 참고하여 설치 - ZED 사이트는 자주 안들어가지니 참고할 것)
- * 추가적으로 Capture card를 사용하는 사용자는 카메라 드라이버를 추가로 설치해주어야 카메라를 인식한다.
Install the ZED Link driver - (https://www.stereolabs.com/docs/get-started-with-zed-link/install-the-drivers)
https://www.stereolabs.com/en-kr/developers/release
ZED SDK 5.0 EA - Download | Stereolabs
The ZED SDK allows you to add depth, motion sensing and spatial AI to your application. Available as a standalone installer, it includes applications, tools and sample projects with source code.
www.stereolabs.com
4. 이후 추가적으로 Jetson orin 세팅을 위해서 jtop, miniconda, pytorch 설치를 진행한다.
jtop - jetson orin에서 지원하는 nvitop이다. 실시간 CPU, GPU 설치 버전 상태 등을 확인 가능
miniconda - 아나콘다를 사용해도 되나, M.2 NVMe를 연결하지 않으면 용량이 부족하므로 본인에 맞게 설치
5. 여기서 가장 중요한 pytorch 설치 관련
근데 문제가 딱 이거다 CP로 되어 있어도 CUDA가 지원이 되어서 import 이후 확인해 보면 쿠다가 지원된다고 나오는데 가끔 다른 라이브러리를 설치하려는 데에 쿠다가 안된다는 둥 이슈들이 발생하곤 한다. (Openvla를 위해 세팅을 진행하고 flash-attn까지 어떻게든 설치를 진행했는데 갑자기 이거는 cuda 안된다는 둥 문제가 생겨버려서 어떻게든 맞춰보려 했으나 안되서 포기하였다. 아마 shared-VRAM 이여서 그렇거나 aarch64라서 뭔가 다른 문제가 존재하는 듯 하나 명확히 해결하지 못한 상태이다.)
(2025.06.11 수정) Jetpack 6.2라서 6.0에서 사용되는 torch나 torchvision이 지원이 안되나 생각했는데 그게 아니라 호환이 된다. 따라서 https://pypi.jetson-ai-lab.dev/jp6/cu122 다음 페이지에서 원하는 패키지나 라이브러리 다운하면 GPU가 지원되는 torch가 가능하다. 참고로 DP는 Developer Preview로 프리뷰 버전이다.
jp6/cu122 index
ctranslate2-4.2.0 ctranslate2-4.2.0-cp310-cp310-linux_aarch64.whl ctranslate2-4.2.0-cp311-cp311-linux_aarch64.whl
pypi.jetson-ai-lab.dev
https://forums.developer.nvidia.com/t/pytorch-for-jetson/72048
PyTorch for Jetson
Below are pre-built PyTorch pip wheel installers for Jetson Nano, TX1/TX2, Xavier, and Orin with JetPack 4.2 and newer. Download one of the PyTorch binaries from below for your version of JetPack, and see the installation instructions to run on your Jetson
forums.developer.nvidia.com
Installing PyTorch for Jetson Platform - NVIDIA Docs
About this task To verify that PyTorch has been successfully installed on the Jetson platform, you’ll need to launch a Python prompt and import PyTorch. Procedure From the terminal, run: Copy Copied! $ export LD_LIBRARY_PATH=/usr/lib/llvm-8/lib:$LD_LIBRA
docs.nvidia.com
'Codes > 다목적 코드 (환경세팅)' 카테고리의 다른 글
| IP주소 추가하기: 2개의 주소 사용하기 (0) | 2025.04.16 |
|---|---|
| Docker GPU setting (0) | 2025.04.15 |
| ROS2 foxy package build (0) | 2025.03.13 |
| ROS 환경 구축을 위한 VMware Workstation 가상환경 사용하기 (3) | 2024.11.05 |
| VS code GitHub Repository [clone, add, commit, push] (0) | 2024.08.27 |