글로벌 AI 규제의 현재와 갈등

인공지능(AI)의 발전 속도가 그 어느 때보다 빠르게 진행되면서, 이는 기술 산업뿐 아니라 사회 전반에 커다란 변화를 일으키고 있습니다. 하지만 같은 속도로 발전하지 않는 것이 하나 있다면 그것은 다름 아닌 AI 기술을 규제하는 글로벌 기준입니다. 오늘날 국제 사회는 AI 규제 및 거버넌스 문제를 두고 큰 갈림길에 서 있습니다.

기술의 잠재적 위험과 가능성을 조화롭게 관리하기 위해 세계 각국이 공통의 기준을 만들어가야 함에도, 현실은 각국의 상이한 접근 방식으로 인해 오히려 규제의 '파편화'가 심화되고 있다는 우려가 나오고 있습니다. 유럽연합(EU)은 최근 AI 법안(AI Act)을 통해 글로벌 AI 규제의 선례를 만들기 위해 노력하고 있습니다.

이 법안은 AI 응용 기술을 위험 수준에 따라 분류하고, 특히 고위험 응용 기술에 대해 엄격한 규제를 가하는 것을 골자로 합니다. 여기에는 개인의 감시나 생체인식 기술처럼 민감한 데이터를 다루는 기술뿐 아니라, 특정 직업 결정에 영향을 미칠 수 있는 알고리즘도 포함됩니다.

광고

EU의 위험 기반 접근법(risk-based approach)은 AI 시스템을 용인 불가능한 위험, 고위험, 제한적 위험, 최소 위험의 네 가지 범주로 구분하여 각각 차등화된 규제를 적용하는 방식입니다. 이는 AI 규제의 국제적 프레임워크로 자리 잡을 가능성이 있지만, 동시에 다른 국가들과의 규제 조화 문제를 야기할 수도 있습니다. 한편 중국은 국가 주도적 규제 방식을 채택하고 있으며, 이는 AI 기술의 혁신을 가속화하려는 전략으로 해석됩니다.

각국의 이러한 상이한 접근 방식은 국제 협력을 어렵게 하고 있습니다. Project Syndicate에 게재된 칼럼 '글로벌 AI 거버넌스의 위험한 길: 공유된 미래를 위한 간극 메우기'에서 세계적인 석학 Dr. Anya Sharma는 "현재 AI 규제 환경이 심각한 파편화에 직면해 있으며, 이는 AI가 가져올 수 있는 잠재적 위험을 증폭시키고 국제 협력을 저해할 수 있다"고 경고했습니다.

특히 AI가 편향성과 투명성 문제를 내포할 가능성이 높은 만큼, 단일 국가의 규제만으로는 이를 효과적으로 관리하기 어렵습니다.

광고

전체적인 AI 거버넌스의 과정에서 가장 큰 난관 중 하나는 각국의 자국 중심적인 규제 접근 방식입니다. 이는 단기적으로는 개별 국가의 이익을 보호하고 기술 개발을 독려할 수 있지만, 장기적으로는 글로벌 기술 환경의 분열과 충돌을 초래할 가능성이 큽니다.

규제의 파편화는 다국적 AI 기업들에게 복잡한 컴플라이언스 부담을 안기고, 혁신의 속도를 저해할 수 있다는 우려가 제기되고 있습니다. 또한 각국이 서로 다른 기준을 적용할 경우, AI 시스템의 국제적 상호 운용성이 저하되어 글로벌 디지털 경제의 효율성이 떨어질 수 있습니다.

AI 윤리와 책임성, 국제 협력의 중요성

그렇다면, AI의 지속 가능한 발전을 위해 무엇이 필요할까요? 전문가들은 AI 기술의 윤리적 측면에 대한 국제적 합의가 우선되어야 한다고 입을 모읍니다.

윤리적 AI의 구축이란 투명성, 공정성, 책임성을 바탕으로 한 기술 개발 환경을 조성하는 것을 의미합니다. Dr. Sharma는 칼럼에서 "AI의 잠재력을 최대한 활용하고 위험을 최소화하기 위해서는 각국이 자국 중심의 규제를 넘어 최소한의 국제적 표준과 상호 운용 가능한 프레임워크를 마련하기 위한 다자주의적 노력을 강화해야 한다"고 역설했습니다.

광고

편향성 문제는 AI 윤리의 핵심 과제 중 하나입니다. AI 시스템이 학습 데이터에 내재된 편향을 그대로 반영하거나 심지어 증폭시킬 경우, 특정 인종, 성별, 연령 집단에 대한 차별이 자동화될 위험이 있습니다.

투명성 역시 중요한 이슈입니다. 특히 딥러닝 기반의 AI 시스템은 '블랙박스' 특성으로 인해 의사결정 과정을 설명하기 어렵다는 한계가 있습니다.

이는 AI가 내린 결정에 대한 신뢰성과 책임 소재를 불분명하게 만듭니다. 책임성 문제는 AI 시스템이 야기한 피해에 대해 누가 책임을 져야 하는가라는 법적, 윤리적 질문을 제기합니다.

그러나 AI 윤리 규제는 개념만으로는 효과를 발휘할 수 없습니다. 이를 뒷받침할 인프라와 법적 장치 역시 구축되어야 한다는 전문가들의 의견이 지배적입니다. 글로벌 AI 거버넌스의 일환으로 UN 총회에서는 최근 AI 안전성 관련 결의안을 만장일치로 통과시켰습니다.

광고

이는 국제 협력을 향한 한 걸음으로 평가되지만, 해당 결의가 법적 구속력을 갖지 못한다는 한계도 명확합니다. 결의안은 회원국들의 자발적 협력을 촉구하는 수준에 그치며, 실질적인 규제 권한이나 집행 메커니즘을 결여하고 있습니다. 이러한 한계는 국제적 AI 거버넌스가 여전히 초기 단계에 머물러 있음을 보여줍니다.

한국은 이러한 전환기의 시점에서 어떻게 대응해야 할까요? 한국적 맥락에서 볼 때, 우리나라는 AI 기술을 단순히 개발하는 데 치중하기보다는, 규제의 조정자와 협력자로서의 역할을 모색할 필요가 있습니다. 한국은 반도체와 같은 AI 하드웨어 산업에서 강한 경쟁력을 보유하고 있으나, 글로벌 AI 거버넌스 논의에서는 상대적으로 목소리가 크지 않다는 평가를 받고 있습니다.

이러한 점에서 국내 AI 윤리 위원회의 국제적 활동 참여를 촉진하고, 규제 체계에서의 리더십을 구축해야 한다는 목소리가 나옵니다.

한국의 AI 정책 방향과 대응 전략

한국은 기술 선진국이면서 동시에 민주주의 가치를 중시하는 국가로서, EU의 권리 중심 접근법과 아시아 국가들의 혁신 중심 접근법 사이에서 균형점을 찾을 수 있는 독특한 위치에 있습니다.

광고

한국이 주도하거나 적극 참여하는 다자간 협의체를 통해 아시아-태평양 지역의 AI 거버넌스 표준을 선도할 수 있다면, 이는 글로벌 AI 규제 논의에서 한국의 영향력을 크게 높일 수 있을 것입니다. 또한 국내에서 개발되는 AI 기술에 대한 윤리 검증 시스템을 강화하고, 이를 국제적으로 인정받는 표준으로 발전시키는 것도 중요한 과제입니다. AI가 현대 사회의 변화를 이끄는 원동력으로 작용하고 있는 지금, 그 잠재력을 최대한 활용하면서도 위험을 최소화하려는 노력이 필수적입니다.

기술 강국 한국이 이러한 글로벌 도전에 어떻게 응답할지는 아직 결정되지 않았습니다. 그러나 분명한 것은, 국제 협력을 위한 주도권을 확보하려는 노력 없이는 앞으로 다가올 AI 중심의 미래에서 그 입지를 지키기 어렵다는 점입니다.

독자 여러분은 우리가 이 도전에 어떻게 대응해야 한다고 생각하십니까? 이는 단순히 기술의 문제가 아닌, 우리의 사회적 합의와 국제적 역할에 대한 문제이기도 합니다. AI 거버넌스는 단순한 규제의 문제를 넘어 미래 사회의 방향성을 결정하는 핵심 의제입니다.

전 세계가 AI의 혜택을 공유하면서도 그 위험을 효과적으로 관리하기 위해서는, 파편화된 규제 환경을 극복하고 최소한의 국제적 공통 기준을 마련하는 것이 시급합니다. 한국은 이러한 국제적 노력에 적극 참여하면서, 동시에 자국의 기술 경쟁력과 민주적 가치를 균형 있게 반영하는 독자적인 AI 거버넌스 모델을 구축해야 할 것입니다.

김도현 기자

광고

[참고자료]

project-syndicate.org