벤치마크에서는 빨랐는데 왜 오후에 느려지는가 — 팬리스 엣지 디바이스의 열 설계와 지속 추론

EDGE AI / THERMAL DESIGN

팬리스 인클로저에 엣지 추론 모듈을 넣은 검사기는 출하 전 시험에서 대개 훌륭한 숫자를 보여 줍니다. 전원을 켜고 몇 분간 벤치마크를 돌리면 추론 시간은 일정하고 판정 지연도 흔들리지 않습니다. 문제는 라인에 설치한 뒤 몇 시간이 지나 오후가 되면 판정 지연이 들쭉날쭉해지기 시작한다는 것입니다. 모델도, 광학 셋업도 바뀐 것이 없는데 결과가 달라집니다.

이 현상의 원인은 대부분 서멀 스로틀링입니다. 모듈 온도가 한계에 가까워지면 연산 클록이 내려가고, 온도가 내려가면 다시 올라갑니다. 클록이 오르내리는 만큼 추론 시간도 오르내리며, 이 흔들림(지터)은 판정 신호가 마감을 넘기는 꼬리를 만듭니다. 마감을 넘긴 부품은 판정과 무관하게 통과하므로, 열 문제는 결국 불량 유출과 재검사 비용으로 돌아옵니다. 원인이 온도라는 사실조차 로그가 없으면 드러나지 않습니다.

해법은 추론 성능을 콜드 스타트 벤치마크가 아니라 열평형 상태에서 정의하는 것입니다. 열저항과 열시정수로 정상 상태 온도를 먼저 계산하고, 전력 모드와 클록을 고정해 성능의 상한 대신 하한을 보장하며, 온도·클록·지연을 함께 기록해 지터의 원인을 추적 가능하게 만듭니다.

엣지 디바이스의 진짜 추론 속도는 전원을 켠 직후가 아니라 열평형에 도달한 뒤에 측정됩니다.

1. 콜드 스타트 벤치마크가 정상 상태를 보여 주지 못하는 이유

Point. 몇 분짜리 벤치마크는 열적으로 보면 상승 곡선의 초입만 잘라 본 것입니다.

Reason. 모듈과 방열판, 인클로저는 열을 저장하는 질량(열용량 C)과 열을 외기로 내보내는 경로(열저항 R)를 가집니다. 일정 전력 P를 넣으면 온도 상승은 1 − e^−t/τ 형태로 따라가며, 열시정수 τ는 R × C입니다. 최종 상승폭은 P × R로 정해지지만, 그 값에 도달하는 데는 τ의 수 배가 걸립니다. 팬리스 구조는 R이 크고 알루미늄 질량으로 C도 크기 때문에 τ가 수십 분 단위가 되기 쉽습니다.

Example. 설계 가정으로 모듈 전력 15 W, 인클로저 열저항 2.5 °C/W, 열용량 600 J/°C, 외기 40 °C를 두겠습니다. τ는 2.5 × 600 = 1,500 s, 즉 25 min이고 정상 상태 온도는 40 + 15 × 2.5 = 77.5 °C입니다(계산값). 그런데 5 min 벤치마크 시점의 상승폭은 최종값의 1 − e^−0.2 ≈ 18%에 불과해 약 46.8 °C에 머뭅니다. 벤치마크는 시원한 상태의 성능을, 라인은 뜨거운 상태의 성능을 보는 셈입니다.

Point. 성능 검증은 최소 3τ(최종 상승폭의 95%) 이상의 연속 운전 뒤에 시작해야 합니다. 이 조건 없이 측정한 추론 시간은 설계 근거가 되지 않습니다.

2. 서멀 스로틀링이 판정 지터를 만드는 과정

Point. 스로틀링의 피해는 느려지는 것 자체보다 빨라졌다 느려졌다를 반복하는 것에서 옵니다.

Reason. 온도 보호 로직은 한계 부근에서 클록을 내리고, 온도가 떨어지면 다시 올립니다. 열시정수가 긴 인클로저 안에서 이 제어는 느린 진동을 만들고, 추론 시간은 클록에 반비례해 함께 진동합니다. 판정 지연 분포는 두 봉우리로 갈라지고 p99는 느린 쪽 봉우리에 걸립니다. 평균만 보면 약간 느려진 정도로 보이지만, 마감 관점에서는 느린 상태가 기준이 됩니다.

Example. 추론 시간 10 ms인 모델에서 스로틀링이 클록을 70%로 내리면 추론 시간은 10 ÷ 0.7 ≈ 14.3 ms가 됩니다(계산값). 클록이 두 상태를 오가면 같은 모델에서 4.3 ms의 흔들림이 생깁니다. 반대로 처음부터 클록을 85%로 고정하면 추론 시간은 11.8 ms로 평균은 느려지지만 흔들림은 사라집니다. 마감이 걸린 검사에서는 흔들리는 10~14.3 ms보다 고정된 11.8 ms가 더 좋은 설계입니다.

Point. 따라서 전력 모드와 클록은 최대 성능이 아니라 열평형에서 유지 가능한 값으로 고정해야 합니다. 동적 클록 조정은 편의 기능이지 검사 장비의 기본값이 아닙니다.

마감이 있는 검사에서는 흔들리는 빠름보다 고정된 느림이 더 안전합니다.

3. 방열 설계와 온도 로깅 — 열을 계산 가능한 변수로 만들기

Point. 방열 설계의 출발점은 방열판 크기가 아니라 허용 열저항 R_max = (목표 온도 − 최고 외기) ÷ 전력이라는 한 줄의 계산입니다.

Reason. 스로틀링 개시 온도는 모듈 제조사 문서가 정하지만, 설계 목표 온도는 그보다 여유를 두고 잡아야 합니다. 목표 온도와 최고 외기, 고정 전력이 정해지면 인클로저가 만족해야 할 열저항이 바로 나옵니다. 여기에 열 패드 접촉, 방열 핀 방향, 설치 위치의 대류 조건이 더해집니다. 카메라 헤드를 같은 인클로저에 넣으면 렌즈 경통의 열팽창으로 초점이 이동할 수 있으므로, 카메라는 연산 모듈의 열 경로 밖에 두는 것이 원칙입니다.

Example. 목표 온도 70 °C, 최고 외기 40 °C, 전력 15 W라면 R_max는 (70 − 40) ÷ 15 = 2.0 °C/W입니다. 앞의 2.5 °C/W 인클로저는 이 조건을 넘으므로 방열 핀 면적을 늘리거나 설치 위치를 바꿔야 합니다. 2.0 °C/W를 달성하면 τ는 2.0 × 600 = 1,200 s(20 min)가 되고, 검증 운전은 3τ = 60 min 이상이 필요합니다. 운전 중에는 모듈 온도, 클록, 전력, 추론 시간을 1 s 간격으로 같은 타임스탬프에 기록합니다.

Point. 온도 로그의 가치는 사후 분석에 있습니다. 지연 꼬리가 생겼을 때 같은 시각의 클록 값을 바로 대조할 수 있어야 열 문제와 소프트웨어 문제를 구분할 수 있습니다. 소프트웨어 최적화로 광학 셋업이나 열 설계의 결함을 완전히 덮을 수는 없습니다.

4. 핵심 골격 — 매칭표

구분	항목	사양 / 파라미터	근거·비고
① 최소 불량 사이즈	사출품 표면 흑점(이물)	직경 90 µm 이상	설계 가정. 30 µm/px에서 3.0 px 점유
① 최소 불량 사이즈	파팅 라인 버(flash)	폭 150 µm 이상	설계 가정. 5.0 px 점유
② 광학 셋업	조명	확산 링 조명, 상방 45° 입사	무광 수지 기준. 광택 수지는 난반사 조건 재검토
② 광학 셋업	센서·렌즈	2048 × 1536 px(화소 피치 3.45 µm), 초점거리 16 mm	설계 가정. 배율 0.115×(계산값)
② 광학 셋업	WD(작동 거리)	140 mm 이상 확보 필수	박막 렌즈 근사 물체거리 약 155 mm(계산값). 링 조명 두께 포함 실측
② 광학 셋업	FOV·화소 분해능	FOV 61.4 mm × 46.1 mm, 30 µm/px	2048 px × 30 µm = 61.44 mm(계산값)
② 광학 셋업	카메라 배치	연산 인클로저와 분리 설치	렌즈 경통 열팽창에 의한 초점 이동 회피
③ 알고리즘	전력 모드·클록	15 W 고정, 클록 85% 고정(동적 조정 비활성)	설계 가정. 추론 11.8 ms 일정(계산값)
③ 알고리즘	열 설계 기준	R ≤ 2.0 °C/W, τ = 20 min	(70 − 40) ÷ 15 = 2.0, 2.0 × 600 J/°C = 1,200 s
③ 알고리즘	검증 운전	60 min 이상 연속 운전 후 측정, 지터 p99 − p50 ≤ 3 ms	3τ = 최종 상승폭의 95%
③ 알고리즘	온도 로깅	1 s 간격, 온도·클록·전력·추론 시간 동기 기록, 65 °C 경고	목표 70 °C − 5 °C 여유

표 시사점. ①의 흑점 90 µm는 ②의 30 µm/px에서 3.0 px로, 광학 분해능에는 여유가 없습니다. 이런 구성에서 열이 카메라 쪽으로 전달되어 초점이 조금만 밀려도 3 px 결함의 콘트라스트가 먼저 무너집니다. 한편 ③의 전력 15 W와 R 2.0 °C/W는 정상 상태에서 정확히 목표 70 °C에 도달하므로, 외기가 설계 가정보다 높은 설치 위치에서는 여유가 0이 됩니다. 열 설계 여유는 광학 분해능 여유와 같은 방식으로 계산되고 관리되어야 합니다.

5. 반대 접근이 유리한 조건

• 강제 공랭이 허용되는 설치 환경: 분진과 유지보수 제약이 없다면 팬 구조가 열저항을 크게 낮춰 클록 고정값을 더 높게 잡을 수 있습니다. 필터 교체 주기 관리가 전제입니다.
• 간헐 운전 검사: 검사가 짧게 몇 분씩만 이뤄지고 사이에 긴 휴지가 있으면 τ에 도달하지 않으므로 콜드 스타트 성능이 실제 운전 성능에 가깝습니다.
• 판정 마감이 느슨한 오프라인 검사: 지연 흔들림이 불량 유출로 이어지지 않는 구조라면 동적 클록 조정으로 평균 처리량을 높이는 편이 유리할 수 있습니다.

광택 사출품처럼 난반사가 강한 재질은 조명과 노출 조건에 따라 전처리 부하와 전력 조건이 달라지므로, 위 열 설계 수치는 샘플 테스트 전 확언 불가입니다.

현장 노트

고온 롤 구간 인근에 설치한 팬리스 검사기에서 오후 시간대에만 판정 지연 꼬리가 길어지는 현상을 추적한 적이 있습니다. 소프트웨어를 먼저 의심했지만, 1 s 간격 온도·클록 로그를 지연 기록과 겹쳐 보니 꼬리가 생긴 시각마다 클록이 한 단계씩 내려가 있었습니다. 클록을 낮은 값으로 고정하고 방열 핀 방향을 바꾼 뒤 60 min 이상 운전 후 다시 재자, 평균은 조금 느려졌지만 지터는 눈에 띄게 줄었습니다. 설치 위치의 외기 조건이 다르면 결과도 달라질 수 있어 단정하지는 않습니다.

현장 체크포인트

• WD 140 mm 이상이 실측으로 확보되는가 — 링 조명 두께와 카메라 분리 설치 브래킷을 포함해 확인할 것.
• 대상물 표면 재질과 반사율을 먼저 특정했는가 — 무광 수지인지 광택 수지인지에 따라 조명과 전처리 조건이 달라집니다.
• 성능 측정이 3τ 이상 연속 운전 뒤, 열평형 상태에서 이뤄졌는가.
• 허용 열저항 R_max를 설치 위치의 최고 외기 기준으로 계산했는가.
• 전력 모드와 클록이 고정되어 있고, 재부팅 후에도 같은 값으로 복원되는가.
• 온도·클록·전력·추론 시간이 같은 타임스탬프로 1 s 간격 기록되고 있는가.