Earticle

AI 기술의 급속한 발전과 함께 생성형 AI의 활용이 증가함에 따라 AI 할루시네이션 문제를 해결하는 것이 중요한 과제로 부상하고 있다. 잘못된 정보나 비현실적인 결과물을 생성하는 AI 할루시네이션은 AI의 신뢰성과 투명성을 저해하며, 사회적 혼란을 초래할 수 있기 때문에 이에 대 한 체계적인 연구가 필요하다. 기존 선행연구는 대부분 기술적 측면에서 진행되었으나, 본 연구 에서는 빅데이터 분석 기법을 통해 AI 할루시네이션 관련 사회문제에 대한 새로운 시각을 제시 하고자 한다. 본 연구는 AI 할루시네이션 문제를 분석하기 위해 키워드 빈도분석, LDA 토픽 모델링과 감성 분석을 활용하였다. 연구 데이터는 ChatGPT 출시 이후의 기간인 2023년 1월 1일부 터 2024년 5월 31일까지 수집된 자료를 기반으로 분석하였으며, LDA 토픽 모델링을 통해 11개 의 토픽을 도출하였고, 감성 분석을 통해 대중의 인식을 긍정, 중립, 부정으로 구분하여 제시하 였다. 이와 같이 도출된 연구결과를 바탕으로 AI 할루시네이션 관련 이슈를 파악하고, 생성형 AI 관련 최대 이슈인 AI 할루시네이션에 대한 대중의 인식 및 반응을 파악하였다. 이러한 접근은 기 존 선행연구와 달리, 연구방법에 있어 큰 차별성을 가지며, AI 할루시네이션 관련 연구 분야에 새로운 시각을 제시하고, AI 기술의 발전 방향과 정책 수립에 학문적 및 정책적 시사점을 제공할 수 있을 것이다.

With the rapid development of AI technology and the increasing use of generative AI, solving the problem of AI hallucination has become an important issue. AI hallucination, which produces misleading information or unrealistic results, hinders the reliability and transparency of AI and can cause social disruption, so systematic research is needed. While most of the previous studies have been conducted from a technical perspective, this study aims to provide a new perspective on the social issues related to AI hallucination through big data analysis techniques. This study utilized keyword frequency analysis, LDA topic modeling, and sentiment analysis to analyze the AI hallucination problem. The research data was analyzed based on data collected from January 1, 2023 to May 31, 2024, the period after the launch of ChatGPT. 11 topics were derived through LDA topic modeling and public perceptions were classified into positive, neutral, and negative by sentiment analysis. Based on the research results derived in this way, we identified issues related to AI hallucination and identified public perceptions and reactions to AI hallucination, the biggest issue related to generative AI. Unlike existing prior research, this approach has a significant difference in research methods, presents new perspectives on AI hallucination-related research, and can provide academic and policy implications for the development direction and policy establishment of AI technology.

이 연구에서는 아동·청소년들이 ‘디지털 네이티브’(Digital Native) 세대로서 AI 디지털교과서 및 개인정보의 안전한 활용을 위해 우리 사회의 불안전함을 인지하고 적절한 개인정보보호를 위한 지식을 확보할 수 있도록, 실제 개인정보 침해 사례를 기반으로 한 개인정보보호 교육콘텐츠의 개선 방향을 제시하고자 하였다. 아동·청소년의 개인정보보호 교육의 공공성은 지역, 학교 규모, 인원에 차별받지 않고 개인정보보호 대면 교육을 받을 수 있음을 의미하며, 또 보이스피싱과 딥페이크 등 사회적 현안에 대해 실효성 있는 교육을 통해 인식을 제고할 수 있음도 의미한다. 이 연구에서는 현재 활동하고 있는 개인정보보호 분야 전문 강사를 대상으로 한 설문조사 결과, 보이스피싱(스미싱, 큐싱 등) 및 딥페이크 관련 내용이 개인정보 교육에 포함 개선되어야 함을 확인하였다. 그리고 문헌연구에서는 개인정보보호 교육 시 한국인터넷진흥원(KISA) 등 외부 공식 교육을 받은 집단과 내부 자체 교육을 받은 집단으로 나누어 비교한 결과, 교육 효과에 대해 유의미한 차이가 있음을 입증하였다. 이에 이 연구에서는 초·중·고 학생들의 개인정보보호교육의 공공성을 위해서 개인정보위 전문 강사의 방문 교육이 필요하며 몰입도 있는 강의를 위한 콘텐츠를 개인정보 정책에 반영되도록 개선해야 한다는 정책적 시사점을 제시하였다.

In this study, we aimed to improve the privacy education content based on real cases of privacy breaches so that children and adolescents, as a generation of “digital natives,” can recognize the insecurity of our society and acquire the knowledge to properly protect their personal information for the safe use of AI digital textbooks and personal information. The openness of privacy education for children and adolescents means that they can receive face-to-face privacy education without being discriminated against by region, school size, or number of people, and it also means that they can raise awareness of social issues such as voice phishing and deep fakes through effective and immersive education. In this study, a survey of active privacy instructors confirmed that the content related to voice phishing (Smishing, Qshing, etc.) and deep fakes should be improved in privacy education. In addition, a literature study showed that there is a significant difference in the effectiveness of personal information protection education between those who received external formal education such as KISA and those who received internal self-education. Therefore, the study suggested policy implications that visiting lecturers specialized in personal information protection are necessary for public education of elementary, middle, and high school students, and that the content for immersive lectures should be improved to reflect personal information policies.

제4차 산업혁명의 진전과 디지털 전환의 가속화는 정보기술(IT)과 운영기술(OT)의 융합을 촉 진하며, 국가핵심기술 및 민감한 산업 데이터 보호의 중요성을 부각시키고 있다. 본 연구는 산업 보안 분야의 연구 동향을 체계적으로 분석하기 위해 계량서지학 방법론을 적용하여 2017년부터 2023년까지 한국산업보안연구학회 학술지 󰡔한국산업보안연구󰡕에 게재된 논문을 대상으로 정량 분석 및 내용 분석을 수행하였다. 연구 결과, 산업보안 연구는 초기 법·정책 중심에서 경영관리 및 기술 분야로 연구범위가 확대되었으며, 연구방법론 또한 정성적 접근에서 정량적 및 혼합 연 구로 발전하는 경향을 보였다. 특히, 법·정책 연구는 질적 연구 중심으로 이루어진 반면, 경영 관리와 기술 분야에서는 양적 분석과 실험 연구가 증가하는 추세를 보였다. 이러한 연구 동향은 산업보안 분야가 개념적 논의를 넘어 실증적이고 실용적인 연구로 확장되고 있음을 시사한다. 향후 연구에서는 다양한 학술 자료와 실무 데이터를 포함하는 분석의 범위 확장, 산업보안의 다 면적 특성을 반영한 종합적 연구모형 개발, 그리고 정량·정성 연구방법론의 융합을 통한 심층 적 탐구가 필요할 것이다. 본 연구는 산업보안 연구의 학문적 기초를 공고히 하고, 국가 및 기업 의 보안 역량 강화를 위한 전략적 방향성을 제시하는 데 기여할 것으로 기대된다.

The advancement of the Fourth Industrial Revolution and the acceleration of digital transformation have fostered the convergence of information technology (IT) and operational technology (OT), emphasizing the importance of protecting national core technologies and sensitive industrial data. This study systematically analyzes research trends in the field of industrial security by applying bibliometric methodologies to perform quantitative and content analyses on papers published in the Korean Industrial Security Research journal of the Korea Industrial Security Research Society from 2017 to 2023. The results indicate that industrial security research has expanded its scope from an initial focus on law and policy to encompass management and technology fields, with research methodologies evolving from qualitative approaches to quantitative and mixed methods research. In particular, while law and policy studies have predominantly employed qualitative methods, the management and technology domains have shown an increasing trend in quantitative analyses and experimental research. These trends suggest that the field of industrial security is moving beyond conceptual discussions toward more empirical and practical research. Future studies should broaden the scope of analysis to include diverse academic materials and practical data, develop comprehensive research models that reflect the multifaceted nature of industrial security, and pursue in-depth investigations by integrating quantitative and qualitative research methodologies. This study is expected to strengthen the academic foundation of industrial security research and contribute to strategic directions for enhancing the security capabilities of both nations and enterprises.

부정경쟁방지및영업비밀보호에관한법률 및 산업기술의유출방지및보호에관한법률에서 공통적 으로 보호하는 것은 넓은 의미로 국가와 국민의 경제적 이익을 보호하는 ‘산업기술’이고 좁은 의미로 ‘영업비밀’을 포함한다. 특히 최근 산업기술유출관련 재판의 주요 쟁점은 영업비밀의 성립 여부이다. 부정경쟁방지법에서 보호하는 영업비밀의 성립요건은 범죄성립의 구성요건이자 처벌을 위한 전제 조건인데 우리나라는 증거재판주의에 따라 그 입증의 책임을 검사에게 부여하 고 있다. 따라서 검사라는 수사기관이 기소 전 수사과정에서 영업비밀의 성립 유무를 입증할 증 거자료를 확보하는 것이 매우 중요하고 이를 통해 유죄를 입증하여 처벌하는 것이 산업기술보호 를 위한 궁극적인 목적이라고 본다. 이에 본 연구는 부정경쟁방지법 위반사건의 최근 판례에서 영업비밀의 성립요건별 인정된 증거자료가 어떤 사유로 인정되었는지 분석하고 각 사유에 따라 처벌의 요건에 필요한 내용을 도출하여 수사기관과 피해회사가 확보할 증거자료는 어떤 내용이 포함되어야 하는지 정립하였다. 더 나아가 주요 산업별 보안담당자와의 인터뷰 분석을 통해 실 무적으로 어떤 증거를 어떻게 입수해야 하는지 최종적으로 분석하였다. 연구 결과 판례에서 분 석한 내용을 기준으로 기업이 생산하여 보유한 다양한 자료에서 재판에 필요한 명확한 증거자료 를 확보할 수 있다는 결론에 도달했고 이를 영업비밀 성립요건별로 구분하여 정리 할 수 있었다. 특히 본 연구과정에서는 각 판례에서 인정한 증거를 수사기관의 수사사례와 산업별 보안담당자 의 인터뷰를 통해 본 연구결과의 추출과정이 객관적이고 논리적이라는 근거를 제시하고 데이터 를 정리한 점에서 의의가 있다고 본다.

The Unfair Competition Prevention and Trade Secret Protection Act and the Act on the Prevention and Protection of Industrial Technology Leakage commonly aim to protect "industrial technology," which broadly safeguards the economic interests of the state and its citizens, and narrowly includes "trade secrets." In particular, a key issue in recent trials related to the leakage of industrial technology is the establishment of trade secrets. The requirements for the establishment of trade secrets protected under the Unfair Competition Prevention Act are both the constituent elements for the formation of a crime and prerequisites for punishment. According to the principle of evidence-based trials in Korea, the responsibility for proof lies with the prosecutor. Therefore, it is crucial for investigative agencies, such as prosecutors, to secure evidence during the pre-indictment investigation process to prove the establishment of trade secrets. By proving guilt and imposing punishment, the ultimate goal of protecting industrial technology can be achieved. This study analyzed the recognized reasons for evidence in judicial precedents of cases involving violations of the Unfair Competition Prevention Act. It also derived the necessary elements for punishment based on these reasons and suggested what evidence investigative agencies and victimized companies should secure.

이 연구는 퀴싱(Quishing)이라는 새로운 피싱 형태의 개념, 현황, 범죄 발생 과정, 그리고 사회 공학적 기법의 적용 메커니즘을 고찰하였다. 퀴싱은 COVID-19 팬데믹 이후 QR코드 사용이 보 편화되면서 급증한 사이버범죄로, 공격자가 사용자의 신뢰를 악용하여 민감한 정보를 탈취하거 나 악성 코드를 전파하는 방식으로 이루어진다. 이 연구는 일상활동이론 및 생활양식/노출이론 과 사회공학적 기법의 메커니즘을 통해 퀴싱 범죄피해의 발생 메커니즘을 분석하였다. 거시적 관점에서 일상활동이론에 따르면, 동기화된 가해자, 적합한 대상, 그리고 유능한 보호자의 부재 라는 세 가지 요소가 범죄 발생의 주요 조건으로 작용한다. 또, 중범위적 관점에서는 생활양식/ 노출이론의 핵심 개념인 노출, 접근성, 유인성, 보호 부재가 퀴싱의 핵심 조건으로 작동할 수 있 다고 보았다. 한편, 이 연구는 미시적 관점에서 사회공학적 기법의 다양한 메커니즘인 신뢰 구 축, 긴급성 조성, 사회적 증거 활용을 통해 공격자가 피해자를 심리적으로 조작하고, 피해자의 인지적 한계를 활용하여 범죄를 유발하는 과정을 상세히 다루었다. 그 결과, 퀴싱 범죄는 사용자 의 심리적 취약성과 기술적 특성을 동시에 악용하는 복합적 기법임을 확인하였다. 이러한 문제 를 해결하기 위해서는 기술전략 측면에서 QR코드 스캐너 및 리디렉션 과정에 대한 보안 기술 보급, 사용자 교육 측면으로, 안전한 QR코드 이용 습관을 위한 교육과 실습, 정책개선 측면에서 QR코드 생성, 사용 및 배치에 대한 표준화와 의심스러운 QR코드 신고 플랫폼 신설 등을 제안하였다.

This study explores the concept, current state, crime mechanisms, and applications of quishing, a rising cybercrime exploiting QR codes, which has grown with their widespread use post-COVID-19. Quishing manipulates user trust to steal data or spread malware. Using routine activity theory, lifestyle/exposure theory, and social engineering techniques, the study examines factors enabling such crimes. At the macro level, routine activity theory highlights a motivated offender, a suitable target, and the absence of a capable guardian. Mid-level insights from lifestyle/exposure theory emphasize exposure, accessibility, attractiveness, and lack of protection. Micro-level analysis reveals attackers’ use of psychological manipulation, such as trust-building, urgency creation, and social proof, to exploit victims’ cognitive vulnerabilities. Findings confirm that quishing combines technical and psychological exploitation. Solutions proposed include enhancing QR security technologies, educating users on safe QR practices, and standardizing QR code creation and reporting mechanisms. These strategies aim to reduce quishing threats and strengthen cybersecurity.

최근 생성형 AI(Artificial Intelligence)는 인간의 지식수준을 넘어서 발전하고 있으며, 산업 전 반에 걸쳐 활용되고 있다. 기술 안보의 관점에서, 생성형 AI를 활성화하기 위한 정책들은 활발하 게 논의되고 있지만 생성형 AI를 악용한 산업기술 유출 문제와 법적 대응 방안은 부재한 상황이 다. 본 논문은 국내외 AI 규제 동향과 종래 수동적 도구를 이용한 기술 유출 대응에만 초점을 맞 춘 기존 산업기술보호법의 한계를 분석한다. 이를 바탕으로 생성형 AI의 사용자에 따른 차등적 접근 통제 정책 및 최고정보보안임원(CISO, Chief Information Security Officer) 중심의 산업기술 유출 위협에 대한 법적·정책적 대응 방안을 제시한다. 제안하는 방법론은 새로운 기술 안보 위 협 요소에 대한 선제적인 대응 조치로 기능할 것이며, 국가경쟁력을 제고하는 효과적인 수단으 로 자리매김할 것이다.

Recently, generative artificial intelligence (AI) has advanced beyond the limits of human knowledge and is being utilized across various industries. From a cybersecurity perspective, while policies to activate generative AI are actively being discussed, there is a lack of legal responses to the misuse of this technology for industrial technology leaks. This paper analyzes the limitations of existing industrial technology protection laws that focus solely on passive tools like emails and the trends in AI regulations both domestically and internationally. Based on this analysis, it proposes Differentiated Access Control policies for users of generative AI and legal measures centered around the Chief Information Security Officer (CISO) to address the threats of industrial technology leakage. The proposed methodology will function as a proactive measure against new cybersecurity threats and establish itself as an effective means to enhance national competitiveness.

산업기술의 유출은 기업 및 소속 국가에 막대한 피해를 불러올 뿐만 아니라 국가경쟁력 하락 까지 이어질 수 있다. 우리나라는 중요 산업 기술유출을 예방·방지 및 대응하고자 노력하고 있 으나, 국내·외로 산업기술을 유출하는 범죄는 매년 줄어들지 않고 있다. 이 연구는 우리나라의 산업보안 관련 법·제도의 개선방안을 제시함으로써 산업 기술유출 범죄에 대한 억제수단으로 작용하도록 하는 것에 목적이 있다. 연구의 목적 달성을 위해 해외에서 시행하고 있는 산업보안 관련 법·제도와 국내 산업보안 관련 법·제도를 비교하여 문제점을 도출하고 개선방안을 제시 하였다. 국내 산업보안 관련 법·제도적 문제점으로는 법적 틈새로 인한 약한 처벌, 산업보안 관 련 컨트롤타워 및 협조체계 미비, 효율적 제도 부재로 분석되었다. 개선방안으로는 산업보안 관 련 법률 검토 및 처벌 강화, 원활한 협조체계구축, 중재와 내부고발자 등의 제도 도입을 제시하 였다. 산업보안 분야는 기술이 발전함에 따라 그 분야가 점차 확장되고 수없이 다양한 문제점이 발생할 수 있다. 따라서 다양한 법·제도적 개선 및 관련 분야에 속한 종사자들의 지속적인 연구 와 노력이 요구된다.

The leakage of industrial technology can cause significant damage not only to companies and their respective countries but also potentially lead to a decline in national competitiveness. Despite efforts in South Korea to prevent, deter, and respond to critical industrial technology leaks, incidents of such crimes, both domestically and abroad, continue unabated. Many cases result in minimal punishment due to significant legal and regulatory gaps, despite the astronomical losses incurred. This study aims to propose improvements in South Korea's laws and regulations related to industrial security to act as deterrents against crimes involving industrial technology leaks. To achieve this objective, a literature review was conducted comparing the laws and regulations on industrial security implemented abroad with those in South Korea, identifying shortcomings and suggesting improvements. Analyzed problems within domestic industrial security laws and regulations include weak punishments due to legal loopholes, inadequacies in industrial security control towers and cooperation systems, and inefficiencies in institutional frameworks. Proposed solutions include revising industrial security laws, strengthening penalties, establishing effective cooperation systems, and introducing mechanisms for mediation and whistleblowing. As technology advances, the field of industrial security expands and presents various challenges, necessitating ongoing research and efforts from professionals in related fields to address these issues comprehensively.

첨단전략산업 및 공급망을 안정적으로 확보하고 글로벌 전략경쟁의 우위를 점하기 위해 주요 국들은 전례없는 강도의 경제적 강압·제재 및 경제·산업의 전략 무기화를 활용하고 있다. 특 히, 우리는 산업·무역 구조상 주요국의 경제안보화 조치에 따른 리스크 노출 강도가 높아 시 점·수단·강도 등 경제안보 대응 체계 구축이 쉽지 않은 상황이다. 본 연구는 그간 우리가 겪었 던 경제안보 이슈를 토대로 산업 공급망 관점에서 경제안보 리스크를 유발하는 요인을 유형화하 고, 미·중 전략경쟁이 초래하는 경제안보 리스크의 수준을 측정해보았다. 분석 결과 우리 경제 안보 리스크 유형은 크게 미·중 전략경쟁, 지정학 리스크, 자원 무기화, 가치 진영화 네 가지로 분류되었으며, 미·중 전략경쟁 토픽에 대해 우리 산업과의 연관성을 반영한 지수는 대중국 반 도체 장비 수출 제한 합의, 반도체와 과학법 가드레일 초안 발표, 중국의 마이크론 제재 등의 시 점에 상승하여 경제안보 리스크를 유의미하게 측정하는 것으로 나타났다. 향후 지수가 정교화되 고 견고성을 갖출 경우 정책 도구로서의 활용성이 높을 것으로 기대된다. 연구는 2020년부터 2023년 5월까지의 언론 기사를 활용해 BERTopic 방법론을 적용하였으며, 분석에는 Python 프 로그램을 사용하였다.

To secure advanced strategic industries and supply chains stably in the global strategic competition, most of countries are utilizing unprecedented levels of economic coercion (sanctions). Due to the high risk exposure inherent in our industrial and trade structure to economic security measures, it is challenging to establish an economic security response system in terms of timing, means, and intensity. This study categorizes the factors inducing economic security risks from the perspective of industrial supply chains and measures the level of economic security risks caused by the U.S.-China strategic competition. The analysis results classify our economic security risk types into four major categories: U.S.-China strategic competition, geopolitical risk, resource weaponization, and value bloc formation. The index reflecting the relevance to our industries within the U.S.-China strategic competition topic showed significant measurement of economic security risks. As the index becomes more refined and robust, its utility as a policy tool is expected to increase. The study utilized news articles from 2020 to May 2023 and applied the BERTopic methodology for analysis, using Python for the computations.

창업 분야는 다른 그 어떠한 분야보다 견제와 균형(Check and Balance)이 엄격하게 지켜져 야 한다. 그래서 자유로운 창업과 기업활동 그리고 이에 대한 보상은 철저하게 이루어져야 하겠 지만, 원 소속기관의 지식재산을 기초로 창업한 딥사이언스 창업기업의 운영상 발생할 수 있는 연구보안의 위험성과 기술유출에 대한 예방책이 필요하다. 이에 이 논문에서는 국내에서 최초로 이러한 딥사이언스 창업과 관련하여, 발생 가능한 연구보안 위험성과 관련한 실무사례를 중심으 로 직무발명, 중국의 만인계획 및 조인트 벤처설립, 창업기업의 해외진출을 위한 플립, 인수·합 병(M&A)과 관련된 사례와 대응책을 제시하고자 한다.

In the realm of entrepreneurship, more so than in any other field, it is necessary to strictly observe a system of checks and balances. While fostering an independent startup culture and business activities as well as apprporiate compensation for them is critical, measures must be taken to mitigate research security risks and technology leaks that could potentially arise while running a deep tech start-up that is using intellectual property originally obtained from an affiliated institution. Accordingly, in this study, the first to do so both domestically and internationally, we present practical cases and countermeasures related to potential research security risks for deep tech startups, such as employee inventions, China's Thousand Talents Plan and joint venture establishment, the practice of “flipping” start-up companies for overseas expansion, and mergers & acquisitions (M&As).

최근 은행, 공공기관 등에서 사용되는 고전적인 소프트웨어에서 PC 해킹 및 악성코드 유포가 이루어지는 등 보안위협이 제기되고 있다. C 스타일로 제작되어 프로그램에 자체적으로 내장된 취약점의 특성상 이로 인한 해킹의 연쇄효과는 막대하며 특정 서비스 이용을 위해 반드시 설치 해야하는 프로그램인 경우 그 파급효과가 매우 크다는 점에서 개인정보 유출과 금융 보안에 매 우 중요한 영향을 미친다. 이에 본 논문에서는 이러한 프로그램 자체에 내장되어있는 보안 취약 점으로 인한 시스템 해킹 공격기법들의 특성과 feature를 도출하여 AI의 학습에 활용될 수 있는 기반기술을 제안하고자한다. 이에 더 나아가 취약점에 따른 공격(Exploitation) 템플릿들을 자동 생성 할 수 있는 시스템을 제안하고자 한다.

Recently, security threats such as PC hacking and malicious code distribution are being raised in classic software used in banks and public institutions. Due to the characteristics of vulnerabilities built in the C style and built into the program itself, the chain effect of hacking caused by this is enormous, and in the case of programs that must be installed to use a specific service, the ripple effect is very large, which is very important for personal information leakage and cyber security. have a significant impact In this paper, we propose a basic technology that can be used for AI learning by deriving the characteristics and features of system hacking attack techniques due to security vulnerabilities built into the program itself. Furthermore, we propose a system that can automatically generate exploit templates according to vulnerabilities.