임베디드 비전 AI 플랫폼(EmVision) 모델 이식·소프트웨어 스택

Jetson Orin 모듈을 넣은 자사 임베디드 비전 AI 장치의 소프트웨어 스택을 맡아, 사전학습 모델 묶음을 이식·최적화하고 추론 플러그인과 예제·교재를 함께 정리했습니다. 교육 현장의 체험 실습 장비로, 연구기관의 성능 평가 대상 장비로 쓰였습니다.

기간
2023.11 - 2024.12
분류
사내
역할
모델 이식·플랫폼 소프트웨어
사용 기술
Jetson OrinTensorRTDeepStreamCUDAEdge AI

Jetson Orin 계열 연산 모듈을 넣은 자사 임베디드 비전 AI 장치입니다. 개발·교육용과 양산·실증용으로 라인업이 나뉘고, 광각 카메라와 작은 OLED, 유선 포트를 기본으로 갖춰 교실과 연구실에 그대로 놓고 쓰는 것을 목표로 했습니다.

장치와 소프트웨어 스택

외부 연구기관과 공개 저장소의 검출·분류·자세 모델을 장치에 올려 TensorRT 로 최적화하고 속도를 쟀습니다.

그 결과를 부팅 직후 바로 쓸 수 있는 사전학습 모델 묶음으로 만들었습니다.

자체 영상·추론 라이브러리 위에 DeepStream 추론 플러그인을 얹어, 파이프라인을 짜는 사용자가 모델 교체만으로 응용을 바꿀 수 있게 했습니다.

부팅 직후 바로 돌려 볼 수 있도록 데모와 예제, 공개 교재를 함께 제공했습니다.

장치와 소프트웨어 스택

장치소프트웨어 스택Jetson Orin 모듈개발용 · 양산용 라인업광각 CSI 카메라 · OLED · 유선 포트JetPack · CUDA · TensorRT · DeepStream자체 영상 · 추론 라이브러리DeepStream 추론 플러그인사전학습 모델 묶음이식 · 최적화예제 · 데모 · 공개 교재교육 · 연구 기관 공급
이더넷·USB·HDMI 포트와 작은 OLED 화면이 보이는 파란 알루미늄 케이스의 장치 단독 사진
장치 본체. 앞면에 유선 포트, 윗면에 상태를 보여 주는 OLED 가 있습니다.

사전학습 모델과 공급

제품 이름이 붙기 전부터 해 오던 모델 이식·가속 작업을 이 장치의 사전학습 모델 묶음으로 모았습니다.

이후 대학·연구기관 공급과 실습 교육으로 이어졌습니다.

교재와 상태 표시 OLED 예제, 모델 속도 비교, 추론 데모 화면은 공개 저장소로 나눠 관리했습니다.

모델 묶음에서 공급까지

제품 이름이 붙기 전부터 한모델 이식 · 가속 작업장치의 사전학습 모델 묶음대학 · 연구기관 공급실습 교육공개 저장소로 나눠 관리교재 · 상태 표시 OLED 예제모델 속도 비교 · 추론 데모 화면
이식·가속 작업을 사전학습 모델 묶음으로 모은 뒤 공급과 실습 교육으로 이어졌습니다.

교육 현장 활용

만들어 둔 것으로 끝나지 않고 실제 교육 현장에서 쓰였습니다.

지역 소프트웨어 교육의 체험 수업에서 학생들이 장치를 직접 놓고 공개 교재대로 모델을 바꿔 가며 추론을 돌려 보았고, 대학에는 소개 시연으로 활용했습니다.

연구기관의 분산 추론 성능 평가에서도 이 장치가 대상 장비로 쓰였습니다.

파란 알루미늄 케이스의 임베디드 비전 장치 옆에 보조 모니터와 노트북이 놓여 있고, 화면에 추론 데모와 모델 목록이 떠 있는 사진
장치와 개발 PC 를 연결해 추론 데모를 돌리는 모습. 보조 모니터에 모델별 처리 시간이 나옵니다.