엣지 AI 추론 지연, NPU보다 카메라 인터페이스가 먼저 결정합니다 — GigE Vision 3.0 RDMA와 분리형 검사 아키텍처

[이미지 플레이스홀더 — 히어로: 다크 배경 위 골드/블루 포인트 Canvas 도식. 좌측 GigE 카메라 → 중앙 두 갈래 데이터 경로(위: 기존 소프트웨어 경로, CPU를 거쳐 지연 표시 / 아래: RDMA 직결 경로, CPU 우회) → 우측 엣지 NPU·판정 아이콘. 파일명 가정: hero_gige_rdma_pipeline.webp]

도입 — NPU를 바꿨는데 왜 처리량이 그대로일까

PCB SMT 라인의 엣지 AI 검사 컨트롤러를 최신 NPU로 교체했는데도, 초당 처리 가능한 패널 수가 목표치에 미치지 못하는 경우를 종종 마주하게 됩니다. 이 상황에서 대부분 먼저 의심하는 대상은 추론 모델이나 NPU 연산 성능입니다. 그런데 실제로 병목을 추적해 보면, 카메라에서 호스트 메모리로 이미지가 넘어가는 구간 — 즉 카메라 인터페이스의 CPU 오버헤드 — 가 원인인 경우가 적지 않습니다.

이 병목을 방치하면 벌어지는 일은 명확합니다. 라인 속도를 인터페이스 한계에 맞춰 낮추거나, 검사 해상도를 줄여 데이터량을 줄이는 우회를 택하게 되고, 그 결과 30μm급 미세 결함의 검출 여력이 함께 줄어듭니다. 다행히 2026년 4월 17일 공식 승인된 GigE Vision 3.0 표준은 RDMA 기반 스트리밍(GVRSP)을 통해 이 구간 자체를 재설계할 수 있는 경로를 제공합니다.

카메라 인터페이스가 왜 병목이 되는가

기존 GigE Vision 스트리밍은 카메라가 보낸 패킷을 호스트 CPU가 매번 소프트웨어 경로로 받아 처리하고, 이를 애플리케이션 메모리로 복사하는 구조입니다. 카메라 한 대라면 큰 문제가 아니지만, PCB 검사 라인처럼 여러 대의 GigE Vision 카메라를 한 대의 엣지 컨트롤러에 물리는 구성에서는 카메라 대수에 비례해 CPU 점유율이 누적됩니다.

GigE Vision 3.0의 GVRSP는 RoCEv2(RDMA over Converged Ethernet)를 활용해 이 소프트웨어 경로를 우회합니다. 애플리케이션 메모리와 운영체제 버퍼 사이의 복사 과정을 없애는 방식으로, 실측 테스트에서는 CPU 점유율이 50%대에서 10% 미만으로 낮아지고, 처리량은 2GB/s를 넘어서며, 지연은 약 80% 개선되는 결과가 보고되었습니다. 다중 카메라 GigE Vision 3.0 구성에서, 엣지 NPU가 프레임을 받기도 전에 이미 프레임 예산의 상당 부분이 인터페이스 구간에서 소모되고 있었던 셈입니다.

분리형 엣지 아키텍처, 캡처와 추론을 나누는 이유

카메라·전처리·추론·판정을 하나의 컨트롤러에 몰아넣지 않고 역할별로 분리하는 구조는 2026년 컴퓨텍스(COMPUTEX 2026)에서 실제 배치 사례로 확인됩니다. 캡처·분석·판정을 서로 다른 컨트롤러가 맡으면, 각 구간의 대역폭과 지연 요구사항을 독립적으로 설계할 수 있어 병목 위치를 특정하기가 훨씬 쉬워집니다.

AAEON은 UP Xtreme PTL, Intel Xeon 6 기반 EATX-W890A 워크스테이션 보드, Intel Core Ultra Series 3 기반 BOXER-6650-PTH 팬리스 컨트롤러로 PCB 검사 파이프라인을 캡처·분석·판정 단계로 나눈 분리형 AI 시스템을 공개했습니다. 다만 이런 구조에서도 카메라와 캡처 컨트롤러 사이의 인터페이스가 병목이면, 뒷단에 아무리 강력한 NPU를 붙여도 그 성능은 묻히게 됩니다. GigE Vision 3.0 RDMA는 분리형 구조가 실제로 설계 의도대로 동작하기 위한 첫 단추에 해당합니다.

NPU는 이미 충분히 빨라지고 있다

엣지 NPU 자체의 연산 성능이 병목의 원인이 아니라는 근거는 최근 발표된 임베디드 프로세서 로드맵에서도 확인됩니다. AMD의 Ryzen AI Embedded P100 시리즈는 Zen 5 코어 8~12개에 최대 80 TOPS의 NPU를 통합해 산업용 머신비전 검사 PC를 겨냥하며, 현재 샘플링 중으로 2026년 2~3분기 양산 출하를 앞두고 있습니다. NPU 연산 능력이 인터페이스 대역폭보다 빠르게 늘어날수록, 병목은 더더욱 카메라-호스트 간 데이터 전송 구간으로 옮겨갑니다. GigE Vision 3.0 RDMA 없이 NPU만 교체하는 투자는 절반의 해법에 그칠 가능성이 큽니다.

핵심 골격 매칭표

PCB SMT 라인에서 솔더 필렛 표면의 미세 크랙·브릿지를 다중 카메라로 동시 검사하는 구성을 기준으로 정리합니다. 솔더 필렛은 정반사가 강한 광택 금속 표면으로, 카메라 인터페이스 개선이 검출률 자체를 보장하지는 않는다는 점을 먼저 밝혀 둡니다.

항목	사양
① 검출해야 할 최소 불량 사이즈	30 μm (솔더 브릿지·헤어라인 크랙 기준)
② 광학 셋업	12MP(4096×3000) GigE Vision 3.0 카메라 4대 병렬 구성, 35 mm 고정초점 렌즈, F/4, WD 150 mm 확보, FOV 약 60×44 mm, 동축낙사+저각 다크필드 혼합 조명, 픽셀 분해능 약 14.6 μm/px
③ 알고리즘 파라미터	프레임레이트 60 fps(프레임 예산 16.6 ms), 엣지 NPU 추론 모델 입력 640×640·추론 지연 8 ms 이내, GigE Vision 3.0 GVRSP(RDMA over RoCEv2) 스트리밍, 목표 CPU 점유율 10% 미만, 목표 처리량 720 MB/s 이상(4대 합산 시 약 2.9 GB/s)

카메라 4대를 동시 운용하는 이 구성에서는 GVRSP 없이 목표 처리량(4대 합산 약 2.9 GB/s)을 유지하기 어렵고, 이는 곧 엣지 NPU에 배정된 프레임당 16.6ms의 추론 예산을 인터페이스 구간이 잠식하는 구조로 이어집니다. 반대로 카메라가 1~2대이고 요구 프레임레이트가 낮아 필요 대역폭이 1GigE 수준(약 100MB/s 이하)에 머무는 소규모 라인이라면, RDMA 도입에 따르는 NIC·프레임그래버 교체 비용이 병목 해소 효과 대비 과할 수 있습니다. 이 경계 조건은 실제 라인 구성에 따라 달라지므로, 샘플 테스트 전 확언은 어렵습니다.

[이미지 플레이스홀더 — 본문 도식: 다크 배경, 4대의 카메라 아이콘에서 하나의 캡처 컨트롤러로 모이는 굵은 골드색 RDMA 우회 화살표와 얇은 블루색 기존 소프트웨어 경로 화살표를 병렬 비교. 하단에 CPU 점유율 막대그래프(50%→10%) 삽입. 파일명 가정: diagram_gvrsp_vs_legacy_pipeline.webp]

관련 특허로 보는 흐름 — 카메라-프로세서 구간 병목 해소의 역사

카메라와 프로세서 사이의 메모리 복사를 줄이려는 시도는 이번이 처음이 아닙니다. Google Patents에서 확인되는 세 건의 특허는 시대별로 같은 문제의식을 다르게 풀어낸 궤적을 보여줍니다.

• US20090027509A1 (Vision System With Deterministic Low-Latency Communication, 공개 2009-01-29) — EtherCAT 인터페이스를 통해 비전 시스템과 주변 장치 간 결정론적 저지연 통신을 구현한 초기 사례입니다.
• CN109089029B (지난대학Jinan University, 공개 2020-11-13) — FPGA와 PHY 칩 기반으로 GigE Vision 인터페이스의 이미지 전송 효율을 높이고, 로직 자원 점유를 낮춘 임베디드 전송 구조입니다.
• US20240406579A1 / 등록번호 US12316981B2 (NXP B.V., 출원 2023-08-01·공개 2024-12-05) — 카메라 스트림 프레임을 외부 메모리에 저장하지 않고 ISP에 직결해 처리하는 구조로, RDMA와 동일한 방향성(메모리 카피 최소화)을 스트림 처리 단에서 구현합니다.

세 특허 모두 “카메라와 프로세서 사이의 불필요한 메모리 복사를 없앤다”는 동일한 목표를, 2009년 결정론적 통신 → 2020년 FPGA 임베디드 전송 → 2024년 스트림 직결 ISP 순으로 각기 다른 계층에서 풀어냈다는 점이 흥미롭습니다. GigE Vision 3.0의 GVRSP는 이 계보의 표준화 버전에 해당합니다.

현장 체크포인트

• 카메라·프레임그래버·NIC가 모두 GigE Vision 3.0 GVRSP(RDMA over RoCEv2)를 지원하는지 스펙시트로 직접 확인했는가
• 다중 카메라 동시 운용 시 필요 처리량(fps × 해상도 × 비트심도 × 대수)을 계산해 인터페이스 대역폭과 실제로 비교했는가
• WD(작동거리) 확보 여부 — 렌즈·조명 배치가 카메라 인터페이스 변경과 무관하게 목표 FOV·분해능을 만족하는 WD를 라인 레이아웃상 실제로 확보하고 있는가
• 정반사가 강한 솔더·금속 표면은 인터페이스 개선만으로 검출률이 보장되지 않으므로, 샘플 테스트로 별도 검증했는가

참고 자료

• LUCID to Showcase New 8K Line Scan, NIR, STARVIS, and 3D RGB-D Cameras at VISION 2026 — Vision Systems Design
• RDMA Cameras and GigE Vision 3.0: High-Speed Streaming Standards — LUCID Vision Labs
• RDMA Technology in Vision Applications — STEMMER IMAGING
• Removing the CPU Bottleneck in High-Bandwidth Machine Vision — Quality Magazine
• COMPUTEX 2026 Announcement — AAEON
• Top AI Inference Chips for Edge Devices in 2026 — Kynix
• US20090027509A1 — Google Patents
• CN109089029B — Google Patents
• US20240406579A1 / US12316981B2 — Google Patents