Earticle

초록

영어

The purpose of this paper is to provide a search system using a method of accessing the web in real time without using a database server in order to guarantee the up-to-date information in a single network, rather than using a plurality of bots connected by a wide area network Design. The method of the research is to design and analyze the system which can search the person and keyword quickly and accurately in crepe system. In the crepe server, when the user registers information, the body tag matching conversion process stores all the information as it is, since various styles are applied to each user, such as a font, a font size, and a color. The crepe server does not cause a problem of body tag matching. However, when executing the crepe retrieval system, the style and characteristics of users can not be formalized. This problem can be solved by using the html_img_parser function and the Go language html parser package. By applying queues and multiple threads to a general-purpose web crawler, rather than a web crawler design that targets a specific site, it is possible to utilize a multiplier that quickly and efficiently searches and collects various web sites in various applications.

한국어

본 연구의 목적은 광역 네트워크로 연결된 다수의 봇을 활용한 방식이 아닌 단일 네트워크에서 정보의 최신성을 보장하기 위해 데이터베이스 서버를 사용하지 않고 실시간으로 웹에 접속하여 정보를 불러오는 방식을 사용한 검색 시스템 을 설계하는 것이다. 연구의 방법은 크레페 시스템에서 신속하고 정확한 인물과 키워드 검색을 할 수 있는 시스템을 설계하 고 분석한다. 크레페 서버는 본문 태그 매칭 변환 과정은 사용자가 정보를 등록할 경우 글자체, 글자 크기, 색상등과 같이 사용자마다 여러 스타일이 적용되어 그 자체가 정보가 되기 때문에 모든 정보를 그대로 저장하게 된다. 크레페 서버는 본문 태그 매칭 문제점이 발생되지 않는다. 그러나 크레페 검색 시스템을 실행할 때에는 사용자들의 스타일 및 특성을 정형 화할 수 없다. 이러한 문제점을 html_img_parser 함수와 Go언어의 html 파서 패키지를 사용하면 해결할 수 있다. 특정 사이트를 대상으로 하는 웹 크롤러 설계가 아닌 범용 웹 크롤러에 큐와 다중 스레드를 적용하여 다양한 웹 사이트를 빠르고 효율적으로 탐색, 수집한 빅 데이터를 다양한 응용 분야에 활용될 수 있을 것이다.

목차

요약
 Abstract
 1. 서론
 2. 관련연구
  2.1 디지털 큐레이션
  2.2 크레페 시스템
  2.3 웹 크롤러
 3. 크레페 검색 시스템
  3.1 시스템 구성
  3.2 검색 시스템 설계
  3.3 Crawler Module
 4. 분석
  4.1 구현 환경
  4.2 웹 크롤링 분석
  4.3 검색 시스템 분석
 5. 결론
 REFERENCES

키워드

디지털 큐레이션 콘텐츠 웹 크롤러 검색 시스템 키워드 검색 모듈 Digital Curation Contents Web Crawler Search system Keyword search Module

저자

• 김효종 [ Hyo-Jong Kim | 동명대학교 정보보보학과 ]
• 한군희 [ Kun-Hee Han | 백석대학교 정보통신학부 ]
• 신승수 [ Seung-Soo Shin | 동명대학교 정보보보학과 ] Corresponding author

참고문헌

발행기관

간행물