Earticle

현재 위치 Home

A Focused Crawler URL Analysis Algorithm based on Semantic Content and Link Clustering in Cloud Environment

첫 페이지 보기
  • 발행기관
    보안공학연구지원센터(IJGDC) 바로가기
  • 간행물
    International Journal of Grid and Distributed Computing 바로가기
  • 통권
    Vol.8 No.2 (2015.04)바로가기
  • 페이지
    pp.49-60
  • 저자
    Mingming Li, Chunlin Li, Chao Wu, Youlong Luo
  • 언어
    영어(ENG)
  • URL
    https://www.earticle.net/Article/A245226

※ 원문제공기관과의 협약기간이 종료되어 열람이 제한될 수 있습니다.

원문정보

초록

영어
Currently, the efficiency of the existing focused crawlers is not high because of their unsatisfactory precision. In this article, we analyze the URL analysis methods of the existing focused crawlers, and propose a URL analysis algorithm based on the semantic content and link clustering in cloud environment. In this algorithm, the download URLs are clustered with the philosophy of clustering on the basis of VSM to improve the precision of the focused crawler according to the correlation between download URLs and new URLs. The algorithm is evaluated on Heritrix3.10 compared with Best First Search algorithm and Shark Search algorithm. The experiment results demonstrate that the algorithm proposed can collect web pages related to the given topic accurately and effectively.Moreover, the algorithm has a good ability of learning which proves the possibility of this algorithm.

목차

Abstract
 1. Introduction
 2. Related Work
 3. The Algorithm based on Semantic Content and Link Clustering
  3.1 Vector Space Model
  3.2. Judgments of Page Relativity
  3.3. Clustering Downloaded URLs with DBSCAN Algorithm
  3.4. Algorithm based on Semantic Content and Link Clustering
 4. Experiment Result and Analysis
 5. Conclusion and Future Works
 References

키워드

Focused Crawler URL analysis algorithm DBSCAN Map/Reduce Semantic Content

저자

  • Mingming Li [ School of Computer Science, Wuhan University of Technology, Wuhan, P.R. China ]
  • Chunlin Li [ School of Computer Science, Wuhan University of Technology, Wuhan, P.R. China ]
  • Chao Wu [ School of Computer Science, Wuhan University of Technology, Wuhan, P.R. China ]
  • Youlong Luo [ Management School, Wuhan University of Technology, Wuhan, P.R. China ]

참고문헌

자료제공 : 네이버학술정보

간행물 정보

발행기관

  • 발행기관명
    보안공학연구지원센터(IJGDC) [Science & Engineering Research Support Center, Republic of Korea(IJGDC)]
  • 설립연도
    2006
  • 분야
    공학>컴퓨터학
  • 소개
    1. 보안공학에 대한 각종 조사 및 연구 2. 보안공학에 대한 응용기술 연구 및 발표 3. 보안공학에 관한 각종 학술 발표회 및 전시회 개최 4. 보안공학 기술의 상호 협조 및 정보교환 5. 보안공학에 관한 표준화 사업 및 규격의 제정 6. 보안공학에 관한 산학연 협동의 증진 7. 국제적 학술 교류 및 기술 협력 8. 보안공학에 관한 논문지 발간 9. 기타 본 회 목적 달성에 필요한 사업

간행물

  • 간행물명
    International Journal of Grid and Distributed Computing
  • 간기
    격월간
  • pISSN
    2005-4262
  • 수록기간
    2008~2016
  • 십진분류
    KDC 505 DDC 605

이 권호 내 다른 논문 / International Journal of Grid and Distributed Computing Vol.8 No.2

    피인용수 : 0(자료제공 : 네이버학술정보)

    함께 이용한 논문 이 논문을 다운로드한 분들이 이용한 다른 논문입니다.

      페이지 저장