추론Inference
Inference
학습된 모델을 사용해 새 입력에 대한 예측이나 결과를 계산하는 과정이에요.
쉽게 비유하면
공부를 마친 사람이 배운 내용을 활용해 새 문제에 답하는 것과 같아요.
조금 더 자세히
사진의 물체 분류, 수요 예측, 문장 생성 모두 추론에 해당해요. 보통 학습된 가중치를 그대로 사용하며, 요청마다 다시 학습하는 것은 아니에요.
여기서 추론은 모델을 실행한다는 기술 용어예요. 여러 단계를 논리적으로 따지는 reasoning과 구분하며, 추론 모델도 실행할 때는 inference를 수행해요.
왜 생겼나요
모델을 배우게 하는 과정과 배운 모델을 실제 서비스에서 사용하는 과정은 자원과 목적이 달라 구분해요.
어떻게 작동하나요
- 1. 입력 준비 새 데이터를 모델이 받는 형식으로 바꿔요.
- 2. 모델 실행 학습된 가중치로 출력을 계산해요.
- 3. 결과 활용 출력을 글이나 분류 결과 등으로 해석해 전달해요.
활용 예시
- 챗봇 답변 생성
- 사진 분류
- 판매량 예측
추론 vs 모델 학습
| 추론 | 모델 학습 | |
|---|---|---|
| 목적 | 학습된 모델로 새 입력 처리 | 데이터와 목표를 바탕으로 모델 조정 |
| 가중치 | 보통 기존 가중치를 그대로 사용 | 학습 대상 가중치를 조정 |
흔한 오해
추론할 때마다 모델이 새로 배우나요?
일반적인 추론은 가중치를 바꾸지 않아요. 별도의 온라인 학습이나 후속 학습 절차가 있어야 모델 자체가 바뀌어요.
이렇게 쓰여요
응답 속도 개선
“학습 시간이 아니라 서비스 추론 지연을 측정하자”라고 말하면 사용자가 기다리는 시간을 보자는 뜻이에요.
관련 용어
함께 보면 좋은 용어
최종 업데이트