Method and system of providing Artificial Intelligence service

본 명세서는 NPU 게이트웨이를 이용한 AI 서비스 제공 방법 및 AI 서비스 제공 시스템에 관한 것이다. 본 명세서에 따른 AI 서비스 제공 방법은 디바이스로부터 특정 추론(Inference) 작업에 대한 추론 작업 요청 메시지를 획득하는 단계, 제1 테이블 또는 제2 테이블 중 적어도 하나를 기반으로 상기 특정 추론 작업을 스케쥴링하는 단계, 및 상기 스케쥴링된 특정 추론 작업을 처리하는 단계를 포함하되, 상기 제1 테이블은 적어도 하나의 추론 작업에 대한 스케쥴링 정책을 포함하고, 상기 제2 테이블은 스케쥴링된 추론 작업에 대...

Ausführliche Beschreibung

Gespeichert in:

Bibliographische Detailangaben
Hauptverfasser:	HEESU SUNG, HAEJOON KIM, GIJEONG KIM
Format:	Patent
Sprache:	eng ; kor
Schlagworte:	CALCULATING COMPUTER SYSTEMS BASED ON SPECIFIC COMPUTATIONAL MODELS COMPUTING COUNTING ELECTRIC COMMUNICATION TECHNIQUE ELECTRICITY PHYSICS TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHICCOMMUNICATION
Online-Zugang:	Volltext bestellen
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!

Beschreibung
Zusammenfassung:	본 명세서는 NPU 게이트웨이를 이용한 AI 서비스 제공 방법 및 AI 서비스 제공 시스템에 관한 것이다. 본 명세서에 따른 AI 서비스 제공 방법은 디바이스로부터 특정 추론(Inference) 작업에 대한 추론 작업 요청 메시지를 획득하는 단계, 제1 테이블 또는 제2 테이블 중 적어도 하나를 기반으로 상기 특정 추론 작업을 스케쥴링하는 단계, 및 상기 스케쥴링된 특정 추론 작업을 처리하는 단계를 포함하되, 상기 제1 테이블은 적어도 하나의 추론 작업에 대한 스케쥴링 정책을 포함하고, 상기 제2 테이블은 스케쥴링된 추론 작업에 대한 상태 정보를 포함하고, 상기 제1 테이블에 상기 특정 추론 작업에 대한 스케쥴링 정책이 포함된 경우, 상기 NPU 게이트웨이에 포함된 NPU에서 상기 스케쥴링 정책에 따른 상기 특정 추론 작업이 수행되고, 상기 제1 테이블에 상기 특정 추론 작업에 대한 스케쥴링 정책이 포함되지 않은 경우, 상기 NPU에서 상기 특정 추론 작업은 수행되지 않는 것을 특징으로 한다.