Earticle

현재 위치 Home

Clustering Large Scale Data Set Based on Distributed Local Affinity Propagation on Spark

첫 페이지 보기
  • 발행기관
    보안공학연구지원센터(IJDTA) 바로가기
  • 간행물
    International Journal of Database Theory and Application SCOPUS 바로가기
  • 통권
    Vol.9 No.10 (2016.10)바로가기
  • 페이지
    pp.241-250
  • 저자
    Wei Lu, Peng Cao
  • 언어
    영어(ENG)
  • URL
    https://www.earticle.net/Article/A288060

※ 원문제공기관과의 협약기간이 종료되어 열람이 제한될 수 있습니다.

원문정보

초록

영어
Affinity Propagation (AP) is a new clustering method to cluster data set efficiently. In this paper, a Distributed method of Local Affinity Propagation (DLAP) is proposed to solve hardware bottleneck and time-consuming problem. DLAP refines AP by reducing the calculating data scale in each iteration and keeps a high quality clustering result. The method is implemented on Apache Spark distributed computation framework. Depending on high iteration efficiency on Spark, the method has an impressive result in time complexity. Experiments are conducted on two-dimensional data to show that the time cost of LAP on single machine is better than the two methods, FSAP and FAP, meanwhile the result of DLAP on Spark is better than that on Hadoop.

목차

Abstract
 1. Introduction
 2. Related Work
  2.1. Affinity Propagation
  2.2. Dataset Scale Reduction
  2.3. Parallel Realization
 3. Distributed Local Affinity Propagation Method
  3.1. Local Dataset Reduction
  3.2. Parallel Realization on Spark
 4. Experiments
 5. Conclusions
 References

키워드

BigData Distributed Computing Apache Spark Affinity Propagation

저자

  • Wei Lu [ School of Software Engineering, Beijing Jiaotong University, Beijing, China ]
  • Peng Cao [ School of Software Engineering, Beijing Jiaotong University, Beijing, China ]

참고문헌

자료제공 : 네이버학술정보

간행물 정보

발행기관

  • 발행기관명
    보안공학연구지원센터(IJDTA) [Science & Engineering Research Support Center, Republic of Korea(IJDTA)]
  • 설립연도
    2006
  • 분야
    공학>컴퓨터학
  • 소개
    1. 보안공학에 대한 각종 조사 및 연구 2. 보안공학에 대한 응용기술 연구 및 발표 3. 보안공학에 관한 각종 학술 발표회 및 전시회 개최 4. 보안공학 기술의 상호 협조 및 정보교환 5. 보안공학에 관한 표준화 사업 및 규격의 제정 6. 보안공학에 관한 산학연 협동의 증진 7. 국제적 학술 교류 및 기술 협력 8. 보안공학에 관한 논문지 발간 9. 기타 본 회 목적 달성에 필요한 사업

간행물

  • 간행물명
    International Journal of Database Theory and Application
  • 간기
    격월간
  • pISSN
    2005-4270
  • 수록기간
    2008~2016
  • 십진분류
    KDC 505 DDC 605

이 권호 내 다른 논문 / International Journal of Database Theory and Application Vol.9 No.10

    피인용수 : 0(자료제공 : 네이버학술정보)

    함께 이용한 논문 이 논문을 다운로드한 분들이 이용한 다른 논문입니다.

      페이지 저장