1.5.5 이상에서 모델을 내보내는 경로는 두 가지다. 하나는 프로젝트 안의 함수를 그대로 REST 엔드포인트로 올리는 기본 방식이고, 다른 하나는 Registered Model 로 등록한 뒤 AI Inference service 로 배포하는 방식이다. 전자는 워크벤치 안에서 끝나고, 후자는 AI Registry 와 Inference service 가 갖춰져 있어야 한다.
모델은 항상 프로젝트 컨텍스트 안에서 만들어진다. 순서는 이렇다.
predict.py 등) 를 작성한다.PBJ(Powered by Jupyter) 런타임을 쓴다면 함수에 cml_model 데코레이터를 붙여야 모델로 인식된다.
import cml.models_v1 as models
@models.cml_model
def predict(args):
return {"result": args["x"] * 2}
배포가 끝나면 Model Overview 에 엔드포인트 URL 과 Access Key 가 나온다. 빌드 → 배포 순으로 상태가 바뀌며, 실패하면 Build 로그에서 의존성 설치 단계를 먼저 본다.
curl -H "Content-Type: application/json" \
-d '{"accessKey":"${ACCESS_KEY}","request":{"x":21}}' \
https://modelservice.<workbench-domain>/model