Method and system of providing Artificial Intelligence service
본 명세서는 NPU 게이트웨이를 이용한 AI 서비스 제공 방법 및 AI 서비스 제공 시스템에 관한 것이다. 본 명세서에 따른 AI 서비스 제공 방법은 디바이스로부터 특정 추론(Inference) 작업에 대한 추론 작업 요청 메시지를 획득하는 단계, 제1 테이블 또는 제2 테이블 중 적어도 하나를 기반으로 상기 특정 추론 작업을 스케쥴링하는 단계, 및 상기 스케쥴링된 특정 추론 작업을 처리하는 단계를 포함하되, 상기 제1 테이블은 적어도 하나의 추론 작업에 대한 스케쥴링 정책을 포함하고, 상기 제2 테이블은 스케쥴링된 추론 작업에 대...
Gespeichert in:
Hauptverfasser: | , , |
---|---|
Format: | Patent |
Sprache: | eng ; kor |
Schlagworte: | |
Online-Zugang: | Volltext bestellen |
Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
Schreiben Sie den ersten Kommentar!