METHOD AND SYSTEM FOR DETECTING DUPLICATE DOCUMENTS USING VECTOR QUANTIZATION
To provide a method, computer program, and computer device for detecting duplicate documents using vector quantization.SOLUTION: A duplicate document detection system 300 implemented by a computer device performs steps comprising: acquiring a vector expression for each of a plurality of documents us...
Gespeichert in:
Hauptverfasser: | , |
---|---|
Format: | Patent |
Sprache: | eng ; jpn |
Schlagworte: | |
Online-Zugang: | Volltext bestellen |
Tags: |
Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
|
container_end_page | |
---|---|
container_issue | |
container_start_page | |
container_title | |
container_volume | |
creator | HAN BYEONGHOON KIM SUNG MIN |
description | To provide a method, computer program, and computer device for detecting duplicate documents using vector quantization.SOLUTION: A duplicate document detection system 300 implemented by a computer device performs steps comprising: acquiring a vector expression for each of a plurality of documents using a similarity model 320 trained to output vector expressions for documents based on semantic similarity between documents; generating a key consisting of a binary character string by performing vector quantization on the vector expression; and detecting duplicate documents from among the plurality of documents using the key.SELECTED DRAWING: Figure 4
【課題】ベクトル量子化を利用して重複文書を探知する重複文書探知方法、コンピュータプログラム及びコンピュータ装置を提供する。【解決手段】コンピュータ装置によって実現された重複文書探知システム300は、文書間の意味的類似度に基づいて文書に対するベクトル表現を出力するように学習された類似度モデル320により、文書集合に含まれた文書それぞれに対するベクトル表現を取得する段階と、ベクトル表現をベクトル量子化して2進数の文字列で実現されるキーを生成する段階と、キーにより文書集合に含まれた文書のうちから重複文書を探知する段階と、を含む。【選択図】図4 |
format | Patent |
fullrecord | <record><control><sourceid>epo_EVB</sourceid><recordid>TN_cdi_epo_espacenet_JP2021096858A</recordid><sourceformat>XML</sourceformat><sourcesystem>PC</sourcesystem><sourcerecordid>JP2021096858A</sourcerecordid><originalsourceid>FETCH-epo_espacenet_JP2021096858A3</originalsourceid><addsrcrecordid>eNrjZPD1dQ3x8HdRcPRzUQiODA5x9VVw8w9ScHENcXUO8fRzV3AJDfDxdHYMcVVw8XcO9XX1CwlWCA0GyYQBVQCVBoY6-oV4RjmGePr78TCwpiXmFKfyQmluBiU31xBnD93Ugvz41OKCxOTUvNSSeK8AIwMjQwNLMwtTC0djohQBAGl8Lx4</addsrcrecordid><sourcetype>Open Access Repository</sourcetype><iscdi>true</iscdi><recordtype>patent</recordtype></control><display><type>patent</type><title>METHOD AND SYSTEM FOR DETECTING DUPLICATE DOCUMENTS USING VECTOR QUANTIZATION</title><source>esp@cenet</source><creator>HAN BYEONGHOON ; KIM SUNG MIN</creator><creatorcontrib>HAN BYEONGHOON ; KIM SUNG MIN</creatorcontrib><description>To provide a method, computer program, and computer device for detecting duplicate documents using vector quantization.SOLUTION: A duplicate document detection system 300 implemented by a computer device performs steps comprising: acquiring a vector expression for each of a plurality of documents using a similarity model 320 trained to output vector expressions for documents based on semantic similarity between documents; generating a key consisting of a binary character string by performing vector quantization on the vector expression; and detecting duplicate documents from among the plurality of documents using the key.SELECTED DRAWING: Figure 4
【課題】ベクトル量子化を利用して重複文書を探知する重複文書探知方法、コンピュータプログラム及びコンピュータ装置を提供する。【解決手段】コンピュータ装置によって実現された重複文書探知システム300は、文書間の意味的類似度に基づいて文書に対するベクトル表現を出力するように学習された類似度モデル320により、文書集合に含まれた文書それぞれに対するベクトル表現を取得する段階と、ベクトル表現をベクトル量子化して2進数の文字列で実現されるキーを生成する段階と、キーにより文書集合に含まれた文書のうちから重複文書を探知する段階と、を含む。【選択図】図4</description><language>eng ; jpn</language><subject>CALCULATING ; COMPUTING ; COUNTING ; ELECTRIC DIGITAL DATA PROCESSING ; PHYSICS</subject><creationdate>2021</creationdate><oa>free_for_read</oa><woscitedreferencessubscribed>false</woscitedreferencessubscribed></display><links><openurl>$$Topenurl_article</openurl><openurlfulltext>$$Topenurlfull_article</openurlfulltext><thumbnail>$$Tsyndetics_thumb_exl</thumbnail><linktohtml>$$Uhttps://worldwide.espacenet.com/publicationDetails/biblio?FT=D&date=20210624&DB=EPODOC&CC=JP&NR=2021096858A$$EHTML$$P50$$Gepo$$Hfree_for_read</linktohtml><link.rule.ids>230,308,780,885,25564,76547</link.rule.ids><linktorsrc>$$Uhttps://worldwide.espacenet.com/publicationDetails/biblio?FT=D&date=20210624&DB=EPODOC&CC=JP&NR=2021096858A$$EView_record_in_European_Patent_Office$$FView_record_in_$$GEuropean_Patent_Office$$Hfree_for_read</linktorsrc></links><search><creatorcontrib>HAN BYEONGHOON</creatorcontrib><creatorcontrib>KIM SUNG MIN</creatorcontrib><title>METHOD AND SYSTEM FOR DETECTING DUPLICATE DOCUMENTS USING VECTOR QUANTIZATION</title><description>To provide a method, computer program, and computer device for detecting duplicate documents using vector quantization.SOLUTION: A duplicate document detection system 300 implemented by a computer device performs steps comprising: acquiring a vector expression for each of a plurality of documents using a similarity model 320 trained to output vector expressions for documents based on semantic similarity between documents; generating a key consisting of a binary character string by performing vector quantization on the vector expression; and detecting duplicate documents from among the plurality of documents using the key.SELECTED DRAWING: Figure 4
【課題】ベクトル量子化を利用して重複文書を探知する重複文書探知方法、コンピュータプログラム及びコンピュータ装置を提供する。【解決手段】コンピュータ装置によって実現された重複文書探知システム300は、文書間の意味的類似度に基づいて文書に対するベクトル表現を出力するように学習された類似度モデル320により、文書集合に含まれた文書それぞれに対するベクトル表現を取得する段階と、ベクトル表現をベクトル量子化して2進数の文字列で実現されるキーを生成する段階と、キーにより文書集合に含まれた文書のうちから重複文書を探知する段階と、を含む。【選択図】図4</description><subject>CALCULATING</subject><subject>COMPUTING</subject><subject>COUNTING</subject><subject>ELECTRIC DIGITAL DATA PROCESSING</subject><subject>PHYSICS</subject><fulltext>true</fulltext><rsrctype>patent</rsrctype><creationdate>2021</creationdate><recordtype>patent</recordtype><sourceid>EVB</sourceid><recordid>eNrjZPD1dQ3x8HdRcPRzUQiODA5x9VVw8w9ScHENcXUO8fRzV3AJDfDxdHYMcVVw8XcO9XX1CwlWCA0GyYQBVQCVBoY6-oV4RjmGePr78TCwpiXmFKfyQmluBiU31xBnD93Ugvz41OKCxOTUvNSSeK8AIwMjQwNLMwtTC0djohQBAGl8Lx4</recordid><startdate>20210624</startdate><enddate>20210624</enddate><creator>HAN BYEONGHOON</creator><creator>KIM SUNG MIN</creator><scope>EVB</scope></search><sort><creationdate>20210624</creationdate><title>METHOD AND SYSTEM FOR DETECTING DUPLICATE DOCUMENTS USING VECTOR QUANTIZATION</title><author>HAN BYEONGHOON ; KIM SUNG MIN</author></sort><facets><frbrtype>5</frbrtype><frbrgroupid>cdi_FETCH-epo_espacenet_JP2021096858A3</frbrgroupid><rsrctype>patents</rsrctype><prefilter>patents</prefilter><language>eng ; jpn</language><creationdate>2021</creationdate><topic>CALCULATING</topic><topic>COMPUTING</topic><topic>COUNTING</topic><topic>ELECTRIC DIGITAL DATA PROCESSING</topic><topic>PHYSICS</topic><toplevel>online_resources</toplevel><creatorcontrib>HAN BYEONGHOON</creatorcontrib><creatorcontrib>KIM SUNG MIN</creatorcontrib><collection>esp@cenet</collection></facets><delivery><delcategory>Remote Search Resource</delcategory><fulltext>fulltext_linktorsrc</fulltext></delivery><addata><au>HAN BYEONGHOON</au><au>KIM SUNG MIN</au><format>patent</format><genre>patent</genre><ristype>GEN</ristype><title>METHOD AND SYSTEM FOR DETECTING DUPLICATE DOCUMENTS USING VECTOR QUANTIZATION</title><date>2021-06-24</date><risdate>2021</risdate><abstract>To provide a method, computer program, and computer device for detecting duplicate documents using vector quantization.SOLUTION: A duplicate document detection system 300 implemented by a computer device performs steps comprising: acquiring a vector expression for each of a plurality of documents using a similarity model 320 trained to output vector expressions for documents based on semantic similarity between documents; generating a key consisting of a binary character string by performing vector quantization on the vector expression; and detecting duplicate documents from among the plurality of documents using the key.SELECTED DRAWING: Figure 4
【課題】ベクトル量子化を利用して重複文書を探知する重複文書探知方法、コンピュータプログラム及びコンピュータ装置を提供する。【解決手段】コンピュータ装置によって実現された重複文書探知システム300は、文書間の意味的類似度に基づいて文書に対するベクトル表現を出力するように学習された類似度モデル320により、文書集合に含まれた文書それぞれに対するベクトル表現を取得する段階と、ベクトル表現をベクトル量子化して2進数の文字列で実現されるキーを生成する段階と、キーにより文書集合に含まれた文書のうちから重複文書を探知する段階と、を含む。【選択図】図4</abstract><oa>free_for_read</oa></addata></record> |
fulltext | fulltext_linktorsrc |
identifier | |
ispartof | |
issn | |
language | eng ; jpn |
recordid | cdi_epo_espacenet_JP2021096858A |
source | esp@cenet |
subjects | CALCULATING COMPUTING COUNTING ELECTRIC DIGITAL DATA PROCESSING PHYSICS |
title | METHOD AND SYSTEM FOR DETECTING DUPLICATE DOCUMENTS USING VECTOR QUANTIZATION |
url | https://sfx.bib-bvb.de/sfx_tum?ctx_ver=Z39.88-2004&ctx_enc=info:ofi/enc:UTF-8&ctx_tim=2025-01-04T07%3A46%3A06IST&url_ver=Z39.88-2004&url_ctx_fmt=infofi/fmt:kev:mtx:ctx&rfr_id=info:sid/primo.exlibrisgroup.com:primo3-Article-epo_EVB&rft_val_fmt=info:ofi/fmt:kev:mtx:patent&rft.genre=patent&rft.au=HAN%20BYEONGHOON&rft.date=2021-06-24&rft_id=info:doi/&rft_dat=%3Cepo_EVB%3EJP2021096858A%3C/epo_EVB%3E%3Curl%3E%3C/url%3E&disable_directlink=true&sfx.directlink=off&sfx.report_link=0&rft_id=info:oai/&rft_id=info:pmid/&rfr_iscdi=true |