METHOD FOR IMPROVING LEARNING AND INFERENCE SPEED OF GENERATIVE DEEP LEARNING MODEL THROUGH SPECIAL TOKEN USING DOMAIN DICTIONARY

본 발명은 도메인 사전에 등록된 스페셜 토큰을 활용한 생성형 딥러닝 모델의 학습 및 추론 속도 개선 방법에 관한 것으로, 생성형 딥러닝 모델의 학습 및 추론 속도 개선 장치에서, 제공된 학습 데이터셋에 포함된 도메인 용어에 대한 전처리를 수행하는 단계; 전처리를 수행한 상기 학습 데이터셋을 사용하여 스페셜 토큰이 포함된 생성형 AI모델을 생성하는 단계; 및 추론 요청을 수신하고, 추론 요청에 따라 프롬프트 데이터를 생성하여 상기 생성형 AI모델에 적용하여 스페셜 토큰이 포함된 추론 응답을 생성하는 단계;를 포함한다.