Earticle

디지털 플랫폼은 여론 형성과 문화 창출의 핵심 주체로 부상했으 며, 이들의 콘텐츠 추천 알고리즘이 사용자의 정보 접근과 소비에 미치는 영향력이 확대되면서 알고리즘의 편향성과 차별성이 사회적 문제로 대두되고 있다. 그러나 알고리즘의 불투명성, 책임 소재의 모호성, 국경을 초월하는 서비스의 특성으로 인해 이에 대한 규율은 쉽지 않은 상황이다. 유럽연합을 위시하여 독일, 영국, 미국 및 일본 등 각국에서는 플 랫폼의 책임성 강화와 알고리즘 투명성 제고를 위한 다양한 법제도 적 노력을 기울이고 있다. 그러나 이러한 규제들은 글로벌 기업의 영업비밀 보호 요구와의 충돌, 국경을 초월하는 서비스 특성으로 인 한 집행의 한계, 알고리즘 불투명성으로 인한 위법행위 입증의 어려 움 등의 문제에 직면해 있다. 이러한 문제를 해결하기 위해 일정 규모 이상의 디지털 플랫폼으 로 하여금 알고리즘의 영업비밀 인정 기준, 검색⋅배열 원칙, 알고 리즘 공개 기준⋅범위⋅방법 등을 보고하도록 하는 투명성 보고 제 도를 도입하는 방안을 고려해 볼 수 있다. 또한 알고리즘의 의사결 정이 사용자의 권리를 부당하게 제한하거나 차별적 효과를 야기한다 는 합리적 의심이 있는 경우에 한하여 알고리즘 설명요구권을 인정 하되, 집단적 구제수단을 통해 해결하도록 하는 방안도 고려해 볼 수 있다. 그리고 알고리즘의 공개에 있어서는 완전한 공개가 아닌 의미 있는 투명성을 목표로 하여, 의사결정의 주요 기준과 그 영향 을 이해할 수 있는 수준의 정보 공개를 단계적으로 도입하여야 할 것이다. 나아가 규제의 실효성 확보를 위해서는 전문적이고 독립적인 감독 체계를 구축할 필요가 있다. 이러한 감독기구에는 알고리즘의 기술 적 특성과 그 영향을 실질적으로 평가할 수 있는 전문가의 참여가 필수적이며, 유관기관들과의 협력 체계도 마련되어야 한다. 그리고 플랫폼 사업자의 법위반에 대한 실효성 있는 억지력 확보를 위해 제 한적 범위 내에서 징벌적 과징금 제도의 도입을 고려해 볼 수 있다. 또한 국제적 차원의 표준화와 협력을 통해 각국 규제기관이 인증된 알고리즘을 상호 인정하고 정보를 공유하는 체계를 마련해야 한다. 궁극적으로 알고리즘 규제는 플랫폼의 혁신과 사용자 보호라는 두 가지 가치의 조화를 도모해야 한다. 과도한 규제는 플랫폼의 혁신을 저해할 수 있으며, 이는 결과적으로 사용자의 편익을 감소시킬 수 있기 때문이다. 따라서 향후 알고리즘 규제는 기술 발전의 특성을 고려하면서도 실효성 있는 사용자 보호 장치를 마련하는 방향으로 발전되어야 할 것이다.

As content recommendation algorithms on digital platforms become increasingly influential in determining how users access and consume information, concerns regarding algorithmic bias and discrimination have emerged as significant societal issues. However, the opaqueness of algorithms, the ambiguity of accountability, and the cross-border nature of these services present substantial challenges in regulating these systems. In response to these challenges, various legislative efforts have been initiated by the European Union, Germany, the United Kingdom, the United States, and Japan to enhance platform accountability and increase algorithmic transparency. However, these regulatory endeavors encounter significant challenges, including conflicts with the need to protect the trade secrets of global companies, enforcement limitations due to the cross-border nature of services, and difficulties in proving misconduct due to algorithmic opacity. It is recommended that a transparency reporting system be introduced to address these issues. This system would require digital platforms of a certain size to report on the criteria for recognizing trade secrets in their algorithms, the principles of search and arrangement, and the basis, scope, and method of algorithmic disclosure. It is also advisable to recognize a right to an algorithmic explanation only where there is reasonable suspicion that the algorithm's decision-making unduly restricts users' rights or has a discriminatory effect but to provide for collective remedies. Regarding algorithmic disclosure, the goal should be meaningful transparency, not full disclosure, with a phased approach to disclosing information at a level that allows users to understand the key criteria for decision-making and its impact. Furthermore, establishing a specialized and autonomous oversight mechanism is imperative to ensure the efficacy of regulatory measures. This supervisory body should comprise experts capable of evaluating algorithms' technical characteristics and ramifications, and it should establish a collaborative network with pertinent organizations. Additionally, implementing punitive fines within a circumscribed scope could serve as an effective deterrent for platform operators. Moreover, promoting standardization and collaboration at the international level is crucial for regulators to acknowledge certified algorithms and exchange information mutually. The optimal approach to algorithmic regulation would strike a balance between fostering platform innovation and ensuring user protection. It is crucial to recognize that excessive regulation can impede platform innovation, which, in turn, can diminish user benefits. Consequently, the evolution of future algorithmic regulation must account for the evolving nature of technology while providing effective user protections.

최근 정의당에서 이른바 '알고리즘 투명화법'이라 불리는 법안의 입법을 추진하고 있다. 이 법안은 류호정 의원이 2021년 6월 25일 대표발의한 「정보통신망법」 개정안으로서 방송통신위원회 산하에 별도 위원회를 구성하여 누구든 영리 목적으로 운영되는 조직에 알고리즘 검색과 배열 원리의 설명을 요구할 권리를 갖도록 하는 것이 골자이며, 해당 법안은 알고리즘에 관한 최소주의적 규제를 통해 공정경쟁과 노동자의 안전을 도모하고자 한다. 현재 우리나라는 알고리즘을 기업비밀로 취급하여 공개하지 않으나 반면, 유럽연합(EU)에서는 알고리즘 규제와 관련하여 개인정보보호규정(GDPR)을 시행하고 있다. 이에 본 연구에서는 현재 국회에 발의되어 있는 '알고리즘 투명화법안'의 주요 내용을 정리하고, 유럽연합(EU)의 알고리즘 관련 법·제도 현황과 알고리즘 투명성 제고에 대한 내용을 검토해 보고자 한다.

Recently, the Justice Party is pushing for legislation of a bill called the Algorithm Transparency Act. The bill is a revision to the Information and Communication Network Act proposed by Rep. Ryu Ho-jung on June 25, 2021, and aims to form a separate committee under the Korea Communications Commission to ask organizations operated for profit to search algorithms and explain the principles of arrangement. Currently, Korea treats algorithms as corporate secrets and does not disclose them, while the European Union (EU) implements the Personal Information Protection Regulations (GDPR) in relation to algorithm regulations. Therefore, this study summarizes the main contents of the Algorithm Transparency Act currently proposed to the National Assembly and reviews the current status of algorithm-related laws and systems in the European Union (EU) and the improvement of algorithm transparency.

Given the controversies over the efficacy of algorithm transparency within political conflicts among agencies, this study examined whether there are discrepancies between a user’s perceived and received transparency and trust in Google’s algorithm-based search engine. Drawing on the concepts of perceived transparency, actual transparency, and trust, this study conducted a moderation mediation analysis along with the bootstrapping method to investigate 1) whether there are gaps between perceived transparency in Google Search and the actual understanding of the system, i.e., received transparency; and 2) how gaps in transparency affect the extent of user trust in search engines. The main findings suggested that received and perceived transparency are important for improving user trust in the search system. In particular, our results supported a knowledge-based trust model that achieves greater trust through a process linking transparency perception with actual understanding of the system. This result challenges the industrial sector’s aggressive logic of algorithm secrecy by implying the benefits of greater openness, thereby shedding light on a reciprocal relationship between industrial actors and end users.

본 연구는 유튜브 추천 알고리즘에 대한 이용자의 긍정적·부정적 인식이 유튜브 지속 이용 의도에 미치는 영향을 조사하고, 이들 변수 간의 관계에서 알고리즘 투명성과 책무성 원칙에 대한 이용자의 규제 태도의 매개효과를 검증하였다. 이러한 분석을 통해 유튜브 추천 알고리즘의 부정적 효과와 잠재적 역기능을 검토하고 이에 따른 학술적 시사점과 정책적 대응 방향을 제시하고자 하였다. 연구는 방송통신위원회와 정보통신정책연구원에서 수행 및 공개한 <2022년 지능정보사회 이용자 패널조사> 데이터(n=5,378)를 활용하여 분석을 수행하였다. 연구 결과는 다음과 같다. 첫째, 유튜브 추천 알고리즘에 대한 긍정적 인식은 유튜브 지속 이용의도에 직접적으로 정적 영향을 미칠 뿐 아니라, 알고리즘 투명성과 책무성 원칙에 대한 규제 태도를 통해 간접적으로도 긍정적 영향을 미치는 것으로 나타났다. 이는 유튜브 추천 알고리즘에 대한 긍정적 인식과 유튜브 지속 이용의도 간의 관계에서 알고리즘 투명성과 책무성 원칙에 대한 규제 태도의 매개효과가 유의미함을 시사한다. 둘째, 유튜브 추천 알고리즘에 대한 부정적 인식은 유튜브 지속 이용의도에 통계적으로 유의미한 영향을 미치지 않는 것으로 나타났다. 그러나 부정적 인식은 알고리즘 투명성과 책무성 원칙에 대한 규제 태도를 매개로 유튜브 지속 이용의도에 부정적인 영향을 미치는 것으로 확인되었다. 이와 같은 연구 결과를 토대로 본 연구는 유튜브 추천 알고리즘의 투명성과 책무성 원칙 강화를 통해 이용자의 긍정적 인식을 증진시키고, 부정적 인식을 완화하는 방향의 정책적 대응을 제언하였다. 나아가 유튜브 추천 알고리즘의 잠재적 역기능에 대한 지속적인 탐구와 검토의 필요성을 강조하였다.

This study investigated the impact of users’ positive and negative perceptions of YouTube’s recommendation algorithm on their intention to continue using the platform. It also examined the mediating effects of regulatory attitudes towards the principles of algorithm transparency and accountability between these perceptions and intention. The research aimed to explore both the positive and negative implications of YouTube’s recommendation system, offering academic and policy recommendations to improve user experience while mitigating potential risks. The study utilized data from the 2022 Intelligent Information Society User Panel Survey, conducted by the Korea Communications Commission and the Korea Information Society Development Institute, with a sample size of 5,378 respondents. This survey enabled a comprehensive assessment of users’ perceptions of YouTube’s recommendation system and their regulatory attitudes toward transparency and accountability. The key findings are as follows: First, positive perceptions of YouTube’s recommendation algorithm had a direct positive effect on users’ intention to continue using the platform, as well as an indirect effect mediated by regulatory attitudes toward transparency and accountability principles. This suggests that positive perceptions of the algorithm not only improve user satisfaction but also build trust in the platform when transparency and accountability principles are appropriately applied. Second, negative perceptions of YouTube’s recommendation algorithm did not show a significant direct impact on the usage intention. However, when regulatory attitudes regarding transparency and accountability were included as mediators, a negative effect on usage intention emerged. This implies that negative user perceptions of the algorithm may deter continued use if transparency and accountability are not adequately addressed. These findings highlight the dual role of transparency and accountability principles as both protective measures and trust-building factors. Enhancing transparency would ensure that users are informed about how recommendations are generated, increasing trust and satisfaction. Accountability, on the other hand, emphasizes corporate responsibility for the outcomes produced by the algorithm, which can help mitigate negative perceptions and maintain user engagement. The study stresses the importance of ongoing exploration and evaluation of potential dysfunctions of YouTube’s recommendation system, particularly the spread of misinformation, privacy issues, and the reinforcement of confirmation biases through filter bubbles. To address these challenges, the study recommends improving transparency and accountability within recommendation algorithms to boost users’ positive perceptions and reduce negative ones. Moreover, policymakers should consider user-centric regulatory frameworks that account for the complex dynamics between user perception, regulatory intervention, and technological affordances. This research provides insights into how algorithmic governance can be designed to enhance user trust and satisfaction, ensuring the sustainable and ethical deployment of AI-based recommendation systems on digital platforms.

알고리즘이 우리의 일상생활에 대하여 중요한 결정을 내리는 것이 증가하고 있으나, 이에 의하여 영향을 받는 사람들이 이러한 의사결정 과정에 관여하는 것은 미미하고, 이러한 의사결정이 어떻게 이루어지는지 거의 설명할 수 없다. 알고리즘은 문제점으로는, ① 알고리즘이 거의 투명하지 않은 비밀․불명료한 블랙박스이고, ② 알고리즘이 인과관계가 아니라 상관관계에 기초하여 작동하고 ‘설명’보다는 ‘예측’을 생성하고, ③ 알고리즘의 행태는 이해가능성․예측가능성이 결여될 수 있고, ④ 인지나 인식에 대한 지금까지의 방법을 무력화시킬 수 있는 등의 문제점을 야기하고, 따라서 알고리즘에 의한 자동 의사결정 시스템을 통제할 필요성이 있게 된다. 개인정보 규범에 의한 자동 의사결정의 규율에 대한 논의는 GDPR이 DPD의 규정을 최신화․확대 규정하고, 최근 인공지능의 급격한 발전․활용에 기초하고 있다. 알고리즘 투명성․책임성은 개인정보에 관한 일반법이 존재하지 않는 미국에서는 적법절차 등과 관련되어 최근 논의가 시작되었고, 유럽에서는 GDPR과 관련하여 논의되고 있으나 설명권과 관련하여 많은 쟁점들이 여전히 논의되고 있다. 곧 해외에서도 알고리즘에 의한 자동 의사결정에 대하여 설명권 등 정보주체의 권리에 관한 논의는 이제 그 논의가 시작된 새로운 쟁점이다. 국내적으로는 데이터 3법 개정에 의하여 자동화평가 결과에 대한 설명요구권 및 이의제기권을 부여(§36조의2)한 신용정보법이 개정되었다. 신용정보법의 내용은 GDPR과 사실상 동일한 측면도 있지만, 개인신용평가를 중심으로 하는 금융분야에 한정되는 것이고, 일반 개인정보에 대해서는 입법이 이루어지지 않았다. 그러나 2023년 3월 개인정보보호법 개정에 의하여 ‘자동화된 결정에 대한 정보주체의 권리’에 관한 규정(§37조의2)이 입법됨으로써, 한국도 GDPR과 거의 동일한 내용이 규정되었다. 이 글은 인공지능 알고리즘을 고려하여 정보주체를 보호하기 위하여 개인정보 규범에 알고리즘에 의한 자동 의사결정과 관련된 정보주체를 보호하기 위한 권리를 인정하여 정보주체를 보호하기 위한 개인정보 규범을 논의하고, 한국의 입법 및 이에 대한 개선안을 제안하고자 한다.

Algorithms are increasingly making important decisions about our daily lives, but the people who are affected by them are rarely involved in the decision-making process and can rarely explain how these decisions are made. Algorithms are problematic because they are secretive and opaque black boxes with little transparency; they operate on the basis of correlation rather than causation, and generate "predictions" rather than "explanations"; their behavior can lack comprehensibility and predictability; and they can override traditional methods of cognition and perception, thus creating the need to control algorithmic decision-making systems. The discussion on the regulation of automated decision-making by privacy norms is based on the fact that the GDPR updates and extends the provisions of the DPD and the recent rapid development and use of artificial intelligence. Algorithmic transparency and accountability have recently been discussed in the U.S., where there is no general law on personal information, in connection with due process, and in Europe in connection with the GDPR, but many issues related to the right to explanation are still being discussed. Domestically, the Credit Information Act was amended by the amendment of the Data 3 Act to grant the right of explanation and objection to automated evaluation results (§36(2)). Although the contents of the Credit Information Act are virtually identical to those of the GDPR, it is limited to the financial sector centered on personal credit evaluation. In March 2023, the Personal Information Protection Act was amended to include a regulation on the rights of information subjects regarding automated decisions (§37(2)), which is almost identical to the GDPR. This article discusses the privacy norms to protect data subjects in light of artificial intelligence algorithms by recognizing the right to protect data subjects related to automated decision-making by algorithms in the privacy norms, and suggests improvements to the Korean legislation.