Earticle

대규모 언어 모델(Large Language Model, LLM)의 활용이 확산되면서 개인정보 보호 문제가 중요한 기술적 도전 과제로 부상했다. 특히 한국어 데이터셋은 초성, 중성, 종성 결합 구조와 비정형적 표현으로 인해 개인정보 탐지와 마스킹이 더욱 어렵다. 본 연구는 한국어 데이터셋의 특성을 반영하여 KcBERT에 조건부 랜덤 필드(Conditional Random Field)를 결합한 모델과 Chain-of-Thought(CoT) 프롬프팅을 통합한 딥러닝 기반 탐지 모델을 설계하고, 여기에 정규 표현식 및 키워드 기반 탐지를 결합한 하이브리드 모델을 제안한다. 이를 통해 개인정보 탐지 정확도와 효율성을 동시에 개선했다. 하이브리드 모델은 평균 정확도 0.99, 매크로 평균 정확도 0.96, 재현율 0.91, F-1 점수 0.94를 기록하여 그 효과성을 증명하였다. 본 연구는 한국어 특화 개인정보 보호 기술의 새로운 표준을 제시하며, 글로벌 개인정보 보호 규제 준수의 기술적 토대를 마련할 것으로 기대된다.

The widespread adoption of Large Language Models (LLMs) has elevated privacy protection as a critical technical challenge. Particularly, Korean datasets pose additional difficulties for privacy detection and masking due to their combination of initial, medial, and final consonants, as well as unstructured expressions. This study a hybrid model that reflects the characteristics of Korean datasets by integrating a deep learning-based detection approach, combining KcBERT with Conditional Random Fields (CRF) and Chain-of-Thought (CoT) prompting. In addition, it incorporates regular expression-based and keyword- based detection to enhance accuracy and efficiency. The hybrid model demonstrated strong performance, achieving an average accuracy of 0.99, macro-average precision of 0.96, recall of 0.91, and an F1-score of 0.94, confirming its effectiveness. This research establishes a new benchmark for Korean-specific privacy protection technologies and provides a solid technical foundation for complying with global privacy regulations.

본 논문에서는 패턴을 효과적으로 분류하기 위하여 화상자료의 특성인 이웃 화소 간의 종속성을 잘 표현해 주는 깁스확률장의 크리크를 바탕으로 2차원 조건부 모멘트 를 제안하였다. 이 알고리즘 구축은 공간정보를 갖는 조건부 모멘트를 이용하여 특정 벡터를 추출하는 과정과 패턴을 분류하는 과정으로 분리하여 생각한다. 특정벡터를 추출하는 과정은 하나의 패턴에 대해 깁스분포의 크리크로 표현된 파라미터를 추정한 다음, 2차원 조건부 모멘트들을 계산하여 특정벡터로부터 제안된 판별거리함수를 계 산하여 여러 원형 패턴 가운데 최소거리를 산출한 미지의 패턴을 원형패턴으로 분류 한다. 제안된 방법의 성능을 검증하기 위하여 대문자와 소문자 52자로 된 훈련 데이 타를 만들어 486 PC 66Mhz에서 실험을 한 결과 97.5% 이상의 분류성능이 있음을 밝혔 다.

In this paper we proposed a new scheme for conditional two dimensional (2-D)moment-based classification of patterns on the basis of Gibbs random fields which are will suited for representing spatial continuity that is the characteristic of the most images. This implementation contains two parts: feature extraction and pattern classification. First of all, we extract feature vector which consists of conditional 2-D moments on the basis of estimated Gibbs parameter. Note that the extracted feature vectors are invariant under translation, rotation, size of patterns the corresponding template pattern. In order to evaluate the performance of the proposed scheme, classification experiments with training document sets of characters have been carried out on 486 66Mhz PC. Experiments reveal that the proposed scheme has high classification rate over 94%.

Opinion Target Extraction is one of the important tasks for text sentiment analysis, which has attracted much attention from many researchers. For this task, we proposed an M-Score algorithm utilized in the model which realized the domain-independent opinion target extraction function. This algorithm is derived from the Pointwise Mutual Information algorithm, but the difference is that it doesn’t need any manual seeds collection or any web searching engines, which reduces the manual participation and easy to be transplanted. This model starts with document preprocessing, effective opinion sentences extraction and candidate opinion target extraction by employing Conditional Random Fields Model with feature templates. Next, the M-Score algorithm is employed to extract seed set, and the bootstrapping approach is invoked to process the candidate opinion targets. Finally, the model uses word frequency and the Noun pruning algorithm to filter the opinion targets, and then obtains the final opinion targets for output. The experimental results show that the M-score method performs better than Pointwise Mutual Information algorithm in precision and recall.

Currently, most sentiment analysis of microblog has been focused on coarse-grained sentiment analysis, but fine-grained sentiment is better for reflecting the opinion of the public when they are facing the social focus. Therefore, a hybrid strategy which is a combination of Naïve Bayesian and two-layer CRFs is put forward, which has been applied to the fine-grained sentiment analysis of Chinese microblog. First, microblog is classified into two types: sentiment and non-sentiment by using Naïve Bayesian classification algorithm. And then the first-layer CRFs model is built for the topic emotional sentence. Finally CRFs algorithm is used again to do multi-classification to assign a specific sentiment category. Experimental results show that a good result in sentiment identification based on the combination of Naïve Bayesian and CRFs, and also show the advantage of the combination of Naïve Bayesian and CRFs interrelated with emotional sentence extraction based on CRFs.

Stemming is a natural language processing task that to remove all derivational affixes from a word. This task proved to be harder for languages with complex morphology such as the Uyghur language. This paper presents a new stemming method for Uyghur words based on CRFs (Conditional Random Fields). In the proposed method all words in the training corpus are segmented into syllables and each syllable are tagged as a part of stem or as a part of affix. We experimentally evaluated this method with five test files each includes 100 sentences , results have shown that our method gets good performance, average stemming precision, recall and F-score in open test reached 98.42%, 98.34% and 98.38% respectively.

Crowd motion analysis in public places is an important research subject in the monitoring field. This paper proposes an approach for detecting abnormal crowd motion using Hidden Conditional Random Fields Model (HCRF). This approach derives variations of motion patterns from direction distribution of the crowd motion obtained by the optical flow and these variations are encoded with HCRF to allow for the detection of abnormal crowd motion. Modeling the temporal neighborhood relations in a video sequence based on HCRF can incorporate hidden states and label the video depending on long range observations. The experimental results show that this proposed algorithm can achieve better results than HMM and CRF.

Intrusion detection is an important way to ensure the security of computers and networks. In this paper, a new intrusion detection system (IDS) is proposed based on Hidden Conditional Random Fields (HCRFs). In order to optimize the performance of HCRFs, we bring forward the Two-stage Feature Selection method, which contains Manual Feature Selection method and Backward Feature Elimination Wrapper (BFEW) method. The BFEW is a feature selection method which is introduced based on wrapper approach. Experimental results on KDD99 dataset show that the proposed IDS not only has a great advantage in detection efficiency but also has a higher accuracy when compared with other well-known methods.

Image holistic scene understanding based on image intrinsic characteristics and conditional random fields is proposed. The model integrates image scene classification, image semantic segmentation and object detection. 1) For the scene classification, we use method of PHOW feature extraction plus KPCA dimensional reduction to obtain feature information for each image. 2) For object detection section, saliency detection and segmentation characteristics of the image object detection is useful. We propose the method by integrating image segmentation information got by the method proposed in literature [1]. 3) For the semantic segmentation: (1) For the unary potentials, we incorporating HOG, RGB color histogram and LBP features by the methods proposed in literature [2]; (2) The image manifold structural features can better reflect the importance between hyper-pixel regions and eventually boost accuracy. Therefore, we add the higher-order potential item to reflect inherent manifold image feature of each super pixel region. The experiments testify that model performance has raised on all three sub-tasks.

목적 지향 대화에서 사용자의 의도는 화행과 개념열의 쌍으로 구성된 영역 행위로 표현될 수 있다. 그러므로 지능적인 대화 시스템을 구성하기 위해서는 영역 행위를 정확히 파악하는 것이 매우 중요하다. 본 논문에서는 CRFs (Conditional Random Fields)를 이용하여 화행과 개념열을 동시에 결정하는 통계 모델을 제안한다. 편향 학습 문제를 피하기 위하여 제안한 모델은 어휘와 품사 같은 낮은 수준의 언어 자질을 입력 자질로 사용하며, 카이 제곱 통계량을 이용하여 불필요한 자질들을 제거한다. 일정 관리 영역에서 실험을 수행한 결과, 제안한 모델은 화행 분류 정착률에서 93.0%, 개념열 분류 정확률에서 90.2%의 좋은 성능을 보였다.

In a goal-oriented dialogue, speakers' intentions can be represented by domain actions that consist of pairs of a speech act and a concept sequence. Therefore, if we plan to implement an intelligent dialogue system, it is very important to correctly infer the domain actions from surface utterances. In this paper, we propose a statistical model to determine speech acts and concept sequences using conditional random fields at the same time. To avoid biased learning problems, the proposed model uses low-level linguistic features such as lexicals and parts-of-speech. Then, it filters out uninformative features using the chi-square statistic. In the experiments in a schedule arrangement domain, the proposed system showed good performances (the precision of 93.0% on speech act classification and the precision of 90.2% on concept sequence classification).

질의응답 시스템은 사용자 질의에 해당하는 정답을 찾기 위해서 세부 분류된 개체명을 사용한다. 이러한 세부 분류 개체명 인식을 위해서 대부분의 시스템이 일반 대분류 개체명인식 후에 사전 등을 이용하여 세부 분류로 나누는 방법을 이용하고 있다. 본 논문에서는 질의응답 시스템을 위한 세부 분류 개체명 인식을 위해서 Conditional Random Fields를 이용한다. 개체명 인식의 과정을 개체명 경계 인식과 경계가 인식된 개체명의 클래스 분류의 두 단계로 나누어, 개체명 경계 인식에 Conditional Random Fields를 이용하고, 경계 인식된 개체명의 클래스 분류에는 Maximum Entropy를 이용한다. 실험결과 147개의 세부분류 개체명 인식에 대해서 정확도 85.8%, 재현률 81.1%. F1=83.4의 성능을 얻었고. baseline model 보다 학습 시간이 27%로 줄고 성능은 증가하였다. 또한 제안된 세부 분류개체명 인식기를 이용하여 질의응답 시스템에 적용한 결과 26%의 성능향상을 보였다.

본 논문은 궤적을 군집화하여 혼잡한 영상에서 이동 객체를 검출하는 방법을 제안한다. 제안하는 방법은 객체의 외형 정보에 기반한 기존의 방법들과는 달리 객체의 움직임 정보만을 이용해 이동 객체를 검출한다. 이를 위하여 입력 영상의 매 프레임에서 특징점을 추출하며, 인접한 프레임간의 추적 과정을 통하여 특징점들의 궤적을 생성한다. 동일 객체에서 얻어진 궤적들은 유사한 움직임을 보일 것이라는 가정 하에 군집화 과정을 통하여 이동 객체를 검출한다. 궤적들의 군집화를 위하여 특징점 간의 위치, 움직임, 연속성에 기반한 에너지 함수로 궤적 간 유사도를 측정하였으며, conditional random fields (CRFs)를 이용하여 최적의 군집을 결정하였다. 기존의 궤적 군집화를 통한 이동 객체 검출 방법이 군집화 과정에서 한번 잘못 분류된 궤적은 잘못된 결과를 생성하는 것과는 달리, 제안한 방법에서는 군집화가 CRFs 상에서 에너지 최소화에 의해 수행되기 때문에 잘못 분류된 궤적이 반복 과정에서 다시 올바른 군집으로 재배열되는 것이 가능하다. 제안한 방법의 성능 측정을 위하여 서로 다른 혼잡도를 가지는 세 개의 영상을 이용하였으며, 약 94%의 검출률과 7%의 허위 경보율을 나타내었다.

This paper proposes a method of moving object detection in crowded scene using clustered trajectory. Unlike previous appearance based approaches, the proposed method employes motion information only to isolate moving objects. In the proposed method, feature points are extracted from input frames first and then feature tracking is followed to create feature trajectories. Based on an assumption that feature points originated from the same objects shows similar motion as the object moves, the proposed method detects moving objects by clustering trajectories of similar motions. For this purpose an energy function based on spatial proximity, motion coherence, and temporal continuity is defined to measure the similarity between two trajectories and the clustering is achieved by minimizing the energy function in CRFs (conditional random fields). Compared to previous methods, which are unable to separate falsely merged trajectories during the clustering process, the proposed method is able to rearrange the falsely merged trajectories during iteration because the clustering is solved my energy minimization in CRFs. Experiment results with three different crowded scenes show about 94% detection rate with 7% false alarm rate.

본 논문은 한국어 TTS(Text-To-Speech)에서 운율 경계를 추정하는 문제를 클래스 분류문제로 보고 CRF(Conditional Random Fields)를 적용하여 운율 경계를 추정하였다. 우리는 품사와 운율 경계로 구성된 말뭉치를 사용하여 품사, 어휘, 단어의 길이, 문장에서의 단어 위치와 같은 다양한 속성의 언어적 자질을 추출하여 CRF를 훈련시켰으며, 자질들을 서로 조합하여 최고의 성능을 보이는 자질 집합을 골랐다 또한 가우스 평활 (Gaussian Smoothing)을 적용하여 데이터의 희소성 문제를 줄였다. 실험 결과에서 본 방법이 기존의 방법보다 성능이 좋을 뿐만 아니라 운율 경계를 추정하기 위한 자질을 독립시켰기 때문에 다른 시스템과의 호환성도 높다는 것을 알 수 있었다.

본 논문에서는 띄어쓰기가 전혀 되어 있지 않은 한국어 문장을 입력받아 자동으로 띄어쓰기를 해 주는 시스템을 제안한다. 띄어쓰기 문제는 주어진 문장의 각 음절에 대하여 띄어쓰기 여부를 나타내는 레이블을 부착하는 일종의 레이블링 문제이므로, 본 논문에서는 레이블링 문제 해결에 띄어난 성능을 보이는 것으로 알려진 CRF를 이용하여 자동 띄어쓰기를 시도하였다. 약 112만 음절 규모의 학습용 데이터로 학습을 하고, 2,114 문장(약 9.3만 음절)의 평가용 데이터로 띄어쓰기 정확도에 대한 평가를 하였다. 평가 결과 음절 단위의 정확도는 98.84%, 어절 단위의 정확도는 95.99%인 것으로 나타났다.

In this paper, an automatic word spacing system is proposed, which assumes sentences with no spaces between the words and segments them into proper words. Segmentation is regarded as a labeling problem in that segmentation can be done by attaching appropriate labels to each syllables of the given sentences. The system is based on Conditional Random Fields, which were reported to show excellent performance in labeling problems. The system is trained with a corpus of 1.12 million syllables, and evaluated with 2,114 sentences, 93 thousand syllables. The best results obtained are 98.84% of syllable-based accuracy and 95.99% of word-based accuracy.

본 연구에서는 글의 구성요소를 추측하는 가장 높은 성능을 나타내는 알고리즘을 제시한다. 실험 방법은 글의 각 문장에 대한 자질을 추출, 자질 선택, 그리고 데이터에 대해 여러 기계학습 알고리즘을 학습시킨 후 성능을 비교하여 진행하였다. 또한 이 중 가장 높은 성능을 보이는 CRF를 기존에 연구되어 있는 성능과도 비교하였다. 마지막으로 CRF가 구성요소를 추측하는 데 있어서 가장 높은 성능을 보이는 이유에 대해 분석하였다. 국내의 유명 어학원 및 토플 웹사이트를 통해 1969개의 토플 에세이를 수집했으며 2명의 전문 평가자를 통해 각 문장을 8개의 분류로 나누었다. 이를 CRF를 적용한 결과 87.2%의 F score가 나왔으며 기존 연구결과, 그리고 다른 알고리즘보다 높은 성능을 보였다.

본 논문은 백과사전 도메인의 지식베이스 설계 및 통계기반 정보추출 방법을 이용한 속성정보 인식에 대하여 기술한다. 층 13개 카테고리로 구성된 백과사전에 대해 99개의 템플릿과 285개의 속성을 정의하였으며, 각 표제어의 추출 대상인 속성정보는 표제어를 설명하는 본문에서 통계기반 기계학습모델인 CRF(Conditional Random Fields)를 적용하여 추출하였다. 백과사전 카테고리 별로 균일하게 선정된 4천 5백 문서를 학습에 사용하였고 테스트 문서셋 500문서에 대해 속성인식률을 측정하였다. 성능 평가한 결과, $F1\;55.76\%\;(P\;74.89\%,\;R\;44.42\%)$의 성능을 나타내었다.

본 논문은 백과사전 도메인의 지식베이스 설계 및 통계기반 정보추출 방법을 이용한 속성정보 인식에 대하여 기술한다. 층 13개 카테고리로 구성된 백과사전에 대해 99개의 템플릿과 285개의 속성을 정의하였으며, 각 표제어의 추출 대상인 속성정보는 표제어를 설명하는 본문에서 통계기반 기계학습모델인 CRF(Conditional Random Fields)를 적용하여 추출하였다. 백과사전 카테고리 별로 균일하게 선정된 4천 5백 문서를 학습에 사용하였고 테스트 문서셋 500문서에 대해 속성인식률을 측정하였다. 성능 평가한 결과, $F1\;55.76\%\;(P\;74.89\%,\;R\;44.42\%)$의 성능을 나타내었다.

특허 정보검색에서는 검색 정확도를 높이거나 유사 특허들을 검색하기 위한 목적으로 청구항 등 특허 기술 문서의 내용을 대표하는 개체명 인식이 필요하다. 본 연구에서는 특허 개체명을 자동으로 인식하기 위하여 기계 학습 기법에서 태깅 문제 해결에 매우 우수한 성능을 보이는 조건부 랜덤 필드 기법을 이용하는 특허 개체명 인식 방법을 제안하였다. 개체명 태깅이 되어 있는 특허 문서 말뭉치에서 66만 어절을 학습용 데이터로 사용하여 특허 개체명 시스템을 구축하고, 7만 어절을 평가용 데이터로 사용하여 성능 평가를 하였다. 실험 결과에 의하면 개체명 인식 정확도는 93.6%이고, 개체명 인식 성능을 수작업 태깅 결과와 비교하여 일치도를 평가했을 때 카파 계수는 0.67로 나타났다. 이 카파 계수값은 두 사람의 수작업 태깅 결과에 대한 카파 계수 0.6 보다 높은 것으로 특허 개체명 인식 시스템이 수작업 태깅을 대신하여 실용적으로 활용될 수 있음을 확인하였다.

Named entity recognition is required to improve the retrieval accuracy of patent documents or similar patents in the claims and patent descriptions. In this paper, we proposed an automatic named entity recognition for patents by using a conditional random field that is one of the best methods in machine learning research. Named entity recognition system has been constructed from the training set of tagged corpus with 660,000 words and 70,000 words are used as a test set for evaluation. The experiment shows that the accuracy is 93.6% and the Kappa coefficient is 0.67 between manual tagging and automatic tagging system. This figure is better than the Kappa coefficient 0.6 for manually tagged results and it shows that automatic named entity tagging system can be used as a practical tagging for patent documents in replacement of a manual tagging.

본 논문에서는 키넥트 센서 데이터에 은닉 조건부 랜덤 필드 모델을 적용하여 인간의 일상 행위를 인식하는 시스템을 제안한다. 많은 고수준의 일상 행위들은 다수의 부속 행위들이 순차적 혹은 반복적으로 수행되어 나타나는 하나의 계층구조로 볼 수 있다. 따라서 제안하는 시스템에서는 이러한 고수준의 일상 행위들을 순차성과 계층성을 잘 표현할 수 있는 확률 그래프 모델의 하나인 은닉 조건부 랜덤 필드 모델로 모델링함으로써, 행위 인식률을 높이려고 시도하였다. 또한 제안하는 시스템에서는 효과적인 행위 모델의 학습과 적용을 위해, 모션 특징, 구조 특징, 손 위치 특징과 같은 다양한 종류의 특징들을 키넥트 센서 데이터로부터 추출하여 이들을 이용하였다. 그리고 12 가지 일상 행위들에 관한 코넬 대학의 CAD-60 데이터 집합을 이용한 다양한 실험을 통해, 제안하는 시스템의 우수한 인식 성능을 확인할 수 있었다.

뇌의 신호는 관측 대상의 상태 및 관측 위치에 따라 신호가 다양하게 변화하기 때문에 연구하기 쉽지 않다. 본 연구에서는 사람이 수면 전에 수행한 일이 수면 중에 미치는 영향을 분석하는 실험을 수행한다. 이를 위해서, EEG와 fMRI 장비로 피실험자의 뇌의 신호를 획득하고 분석한다. 시간에 따라 변화하는 뇌 신호를 분석하기 위해서 conditional random fields를 이용한다. 피실험자는 수면 전에 미로 찾기 게임과 얼굴 찾기 게임을 수행하며, 이 중 하나의 게임만 성공할 수 있다. 주어진 게임에 성공하면 이에 대한 보상을 받는다. 그리고 피실험자는 EEG와 fMRI 장비에서 수면을 취한다. 수면 중 깊은 잠으로 분류되는 N3상태에 도달하면, 얼굴 찾기를 성공한 그룹에서는 수면 전에 얼굴 찾기를 수행하는 동안 활성화 됐던 뇌의 영역이 미로 찾기를 성공한 그룹보다 상대적으로 유의미하게 활성화되는 것을 알 수가 있었다. 반대로 미로 찾기 성공 그룹에서도 같은 현상이 발생하였다.

In this research, we design and perform experiment to investigate whether neuronal activity patterns elicited while solving game tasks are spontaneously reactivated in during sleep. In order to recognize human activity EEG-fMRI signals are used at the same time. Experimental results shows that reward for the success of tasks performed before sleeping have an effect on sleep brain activity. The study uncovers a neural mechanism whereby rewarded life experiences are preferentially replayed and consolidated while we sleep.