[목차]

Ⅰ. 서 론

Ⅱ. UN AI 결의안(A/78/L.49) 검토

Ⅲ. UN AI 자문기구의 최종 보고서 검토

Ⅳ. 우리의 역할 및 대응에 관한 시사점

[국문요지]

AI 기술은 전례 없는 발전을 계속하고 있다. 이 신기술이 가져오는 긍정적인 잠재력과 기회 이면의 심각한 위험성을 인식하고, 이에 대한 국제사회의 대응 방안 논의를 파악하며, 우리나라도 필요한 대응을 하여야 한다. AI는 지속 가능한 발전 목표(SDGs) 달성을 가속화하고, 경제 효율성을 증대시킬 수 있지만, 동시에 인권 침해, 디지털 격차 심화, 편견에 따른 정보 제공, 심지어 인류 대체 또는 전멸의 우려까지 내포하고 있다. 이러한 배경에서 국제사회는 경제협력개발기구(OECD), G20, 유엔 교육과학문화기구(UNESCO), G7 등이 정책 제안을 통해 AI 거버넌스 논의를 지속해왔다.

2024년 3월, UN 총회는 미국이 주도한 AI 결의안을 표결 없이 채택하며 AI 거버넌스 논의에 있어 중요한 이정표를 세웠다. 이 결의안은 안전하고, 보안성이 확보되며, 신뢰할 수 있는 AI 시스템 구축을 통해 SDGs 달성에 기여하고 AI의 위험성을 관리해야 함을 핵심 내용으로 한다. 또한, AI의 잠재력을 공평하게 누리기 위한 국가 간 및 지역 간 격차 해소를 최우선 과제로 제시하며, 이를 위한 글로벌 협력 및 국제 거버넌스 확립의 필요성을 강조했다. 결의안은 AI를 비군사 분야의 인간 중심적이고, 신뢰할 수 있으며, 윤리적인 특성을 지닌 기술로 정의하고, AI의 잠재력과 오용에 따른 위험성을 명확히 인식하며, 개발도상국에 대한 기술 및 재정 지원과 거버넌스 참여 확대를 촉구했다. 하지만 결의안은 AI 정의의 모호성, SDGs 연계 방안의 구체성 부족, 개발도상국 지원 실천 방안 미흡, 초지능 AI의 위험성 경고 부족 등으로 비판받기도 했다.

뒤이어 2024년 9월, UN 사무총장 산하 AI 고위급 자문기구는 "인류를 위한 AI 관리”라는 최종 보고서를 발간했다. 이 보고서 역시 결의안과 같이 AI의 긍정적인 잠재력을 인정하면서도 동시에 그 위험성을 경고하고, 포괄적이고 공평한 글로벌 AI 거버넌스 정립의 필요성을 강조했다. 특히, 현재 AI 거버넌스 논의가 특정 국가나 기관에 한정되어 있다는 문제점을 지적하며, 격차 해소와 대표성 있는 거버넌스 마련을 위한 7가지 구체적인 권고안을 제시했다. 주요 권고안은 다음과 같다:

1. AI 역량, 기회, 위험 및 불확실성에 대한 공통된 이해를 위한 독립적인 과학적 지식과 정보 제공을 위한 국제 과학 패널 창설

2. 국제적 협력을 증진하기 위한 AI 거버넌스 정책 대화 실시

3. 국제적 상호운용성을 높이고 정보를 교환하기 위한 표준 교환 마련

4, 5, 6. 개발도상국의 AI 격차를 해소하기 위한 역량 개발 네트워크, 글로벌 AI 기금, 글로벌 AI 데이터 프레임워크 창설

7. UN의 역량을 활용하여 AI를 전반적으로 관리하기 위한 UN 사무국 내 AI 사무소 설립

결론적으로, 이 두 문서는 AI의 잠재력과 위험을 동시에 인식하며, 선진국과 개발도상국 간의 AI 역량 격차 해소와 공평한 혜택 공유가 SDGs 달성의 핵심 원동력임을 강조한다. 따라서 우리나라는 AI 격차 해소를 위한 역량 개발 네트워크 지원, 국내 AI 역량 점검 및 강화, ITU 등 국제 AI 표준 제정 절차에 주도적으로 참여하고, GPAI와 같은 국제기구에서 적극적인 역할을 모색하여야 한다.