APPARATUS FOR IMPROVING LEARNING AND INFERENCE SPEED OF GENERATIVE DEEP LEARNING MODEL THROUGH SINGLE TOKEN PROCESSING OF COMPOUND NOUNS

본 발명은 복합 명사에 대한 단일 토큰 처리를 포함한 생성형 딥러닝 모델 학습 및 추론 장치에 관한 것으로, 제공된 학습 데이터셋에 포함된 도메인 용어에 대한 전처리를 수행하는 복합명사 전처리부; 전처리를 수행한 상기 학습 데이터셋을 사용하여 스페셜 토큰이 포함된 생성형 AI모델을 생성하는 생성형AI모델 생성부; 및 수신된 추론 요청에 따라 프롬프트 데이터를 생성하고, 상기 생성형 AI모델에 적용하여 스페셜 토큰이 포함된 추론 응답을 생성하는 추론응답 생성부;를 포함한다....

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: CHO CHANG HEE, KHO HYEONG SEOG, LEE HONG JAE
Format: Patent
Sprache:eng ; kor
Schlagworte:
Online-Zugang:Volltext bestellen
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Beschreibung
Zusammenfassung:본 발명은 복합 명사에 대한 단일 토큰 처리를 포함한 생성형 딥러닝 모델 학습 및 추론 장치에 관한 것으로, 제공된 학습 데이터셋에 포함된 도메인 용어에 대한 전처리를 수행하는 복합명사 전처리부; 전처리를 수행한 상기 학습 데이터셋을 사용하여 스페셜 토큰이 포함된 생성형 AI모델을 생성하는 생성형AI모델 생성부; 및 수신된 추론 요청에 따라 프롬프트 데이터를 생성하고, 상기 생성형 AI모델에 적용하여 스페셜 토큰이 포함된 추론 응답을 생성하는 추론응답 생성부;를 포함한다.