메인으로

인간중심AI(Human Centered AI)란?

인간 중심 AI란? ― 인간 중심 AI란? 유엔과 UNESCO가 AI 시대에 ‘인간 존엄’을 말하기 시작한 이유 ― 몇 년 전까지만 해도 AI는 꽤 단순한 이미지였습니다. 번역을 해주고, 그림을 그려주고, 업무를 자동화해주는 “편리한 기술” 정도였죠. 그런데 생성형 AI가 급속도로 발전하면서 분위기가 완전히 달라졌습니다. 이제 AI는 단순한 IT 산업의 문제가 아니라 민주주의, 국제안보, 인간의 존엄, 심지어 세계 평화까지 영향을 줄 수 있는 존재로 인식되기 시작했습니다. 생각해보면 영화 속 이야기들이 현실로 조금씩 들어오고 있는 셈입니다. 영화 Her에서는 AI가 인간의 감정과 관계에 깊이 개입하고, 미션 임파서블: 데드 레코닝에서는 초거대 AI가 정보 시스템 전체를 조작하며 국제질서를 흔드는 존재로 등장합니다. 예전에는 SF처럼 보였지만, 지금 국제사회는 이런 문제를 꽤 현실적으로 논의하고 있습니다. 실제로 유엔과 국제기구들은 AI를 더 이상 단순한 기술 혁신으로 보지 않습니다. 핵무기, 기후위기, 인터넷처럼 국제질서를 바꿀 수 있는 “문명적 전환”으로 보기 시작했습니다. 최근 유엔이 AI 윤리와 국제규범 논의에 적극적으로 뛰어드는 이유도 여기에 있습니다. 특히 중요한 변화는 AI 논의의 중심이 “얼마나 똑똑한가”에서 “누구를 위해 존재하는가”로 이동하고 있다는 점입니다. ― “Human-Centered AI” 요즘 국제사회가 가장 많이 하는 말 ― 현재 AI 국제규범 논의에서 가장 자주 등장하는 표현은 “Human-Centered AI”, 즉 인간 중심 AI입니다. 겉으로 들으면 굉장히 당연한 말처럼 보입니다. 하지만 실제 의미는 꽤 강력합니다. 핵심은 이것입니다. 기술보다 인간의 가치가 우선되어야 합니다. AI가 아무리 효율적이고 똑똑해도 인간의 자유와 책임, 판단을 완전히 대체해서는 안 된다는 뜻입니다. 인간은 단순한 데이터나 알고리즘 점수로 환원될 수 없다는 이야기이기도 합니다. 이 철학을 가장 체계적으로 정리한 문서 가운데 하나가 바로 UNESCO Recommendation on the Ethics of Artificial Intelligence입니다. 2021년 UNESCO 회원국 193개국이 채택한 세계 최초의 포괄적 AI 윤리 국제규범입니다. 흥미로운 점은 UNESCO 문서가 기술 성능보다 인간 존엄(human dignity), 윤리(ethics), 포용(inclusion), 문화 다양성(cultural diversity) 같은 단어를 훨씬 더 강조한다는 점입니다. 왜 그럴까요? 국제사회는 지금 AI가 단순히 “편리한 기술”을 넘어 인간 사회의 구조 자체를 바꾸기 시작했다고 보기 때문입니다. AI가 초래하는 3대 핵심 문제점 1. 자율적 선택권의 약화유튜브나 SNS 알고리즘이 사용자의 시선과 소비를 설계함으로써, 시민이 스스로 선택한다는 감각을 왜곡하고 정보 환경을 통제할 위험이 있습니다. 2. 사회적 편견의 학습과 재생산MIT의 「Gender Shades Project」에 따르면, AI는 인간 사회의 편견이 담긴 데이터를 학습하여 인종·성별에 따른 차별적 결과를 도출할 수 있습니다. 3. 디지털 감시 및 조작 위험실시간 생체인식 감시나 딥페이크를 활용한 허위정보 확산은 민주주의의 근간인 ‘시민의 믿음’을 위협합니다. 디지털 프라이버시에 대해 더 알고 싶다면? 디지털 프라이버시란? What is Digital Privacy? ― AI는 생각보다 훨씬 정치적입니다 추천 알고리즘 하나가 바꿔 놓은 사회 분위기? ― 많은 사람들은 AI를 중립적인 기술이라고 생각합니다. 하지만 실제 AI는 무엇을 학습하고 무엇을 우선시하느냐에 따라 사람들의 행동과 사회 분위기까지 바꿀 수 있습니다. 대표적인 사례가 SNS 추천 알고리즘입니다. 유튜브나 틱톡, 인스타그램 알고리즘은 사람들의 관심을 오래 붙잡아두기 위해 점점 더 자극적인 콘텐츠를 추천하는 경향이 있다는 분석이 많습니다. MIT 교수 조이 부올람위니(Joy Buolamwini)는 이렇게 말했습니다. “AI systems are not neutral.”“AI 시스템은 결코 중립적이지 않습니다.” 이 말은 매우 중요합니다. 기술은 저절로 공정해지지 않습니다. 어떤 가치 위에서 설계되는가에 따라 달라집니다. 문제는 이것이 사회적 분열과 극단화를 키울 수 있다는 점입니다. 실제로 여러 연구에서는 분노와 혐오를 유발하는 콘텐츠가 더 빠르게 확산되는 경향이 있다고 분석합니다. AI는 단순히 “사용자 취향을 분석하는 기술”이 아니라, 사람들이 무엇에 분노하고 무엇을 믿게 될지까지 영향을 미치는 구조가 된 것입니다. 국제사회가 AI를 “평화의 문제”로 보기 시작한 이유도 여기에 있습니다. 알고리즘의 정보 편향성에 대해 더 알고 싶다면 필터버블이란? What is a Filter Bubble? ― 딥페이크는 왜 위험할까요? 전쟁은 총보다 정보로 먼저 시작될 수도 있습니다 ― (UN_Global Digital Compact)과거에는 허위정보를 만들더라도 어느 정도 한계가 있었습니다. 하지만 생성형 AI는 이제 정치인의 목소리와 얼굴까지 거의 완벽하게 모방할 수 있습니다. 실제로 최근 여러 국가에서는 선거 기간 중 AI로 생성된 가짜 정치 영상과 음성이 확산되며 큰 논란이 있었습니다. 일반 시민이 진짜와 가짜를 구별하기 점점 어려워지고 있는 것입니다. 조금 극단적으로 들릴 수도 있지만, 만약 어느 날 한 국가 지도자의 “전쟁 선언 영상”이 SNS를 통해 순식간에 퍼진다면 어떨까요? 나중에 가짜로 밝혀진다 해도 이미 시장과 사회는 큰 혼란에 빠질 수 있습니다. 그래서 유엔은 최근 Global Digital Compact를 통해 “안전하고 포용적이며 인간 중심적인 디지털 미래”를 국제사회 공동 목표로 제시했습니다. ― 왜 갑자기 ‘인간 존엄’이 중요해졌을까요? 인간은 알고리즘 점수가 아니기 때문입니다 ― AI 시대에 국제사회가 가장 우려하는 것 중 하나는 “인간의 데이터화”입니다. 예를 들어 AI 채용 시스템이 특정 성별이나 인종을 자동으로 불리하게 평가한다면 어떨까요? 실제로 해외에서는 AI 채용 알고리즘이 여성 지원자를 낮게 평가했다는 논란도 있었습니다. AI는 과거 데이터를 학습하기 때문에, 기존 사회의 편견까지 그대로 학습할 수 있기 때문입니다. 또 다른 사례도 있습니다. 일부 국가에서는 시민들의 소비 습관, 이동 경로, 온라인 행동 등을 분석해 “사회 신용 점수”처럼 관리하려는 시도가 논란이 되기도 했습니다. 사람을 고유한 존재로 보기보다 관리 대상 데이터로 바라보게 될 위험이 있는 것입니다. UNESCO는 이런 흐름을 매우 경계합니다. 공식 문서에서도 “어떤 인간이나 공동체도 AI 시스템에 의해 사회적·경제적·문화적으로 종속되어서는 안 된다”고 강조합니다. (unesco.org) 결국 인간 중심 AI란 인간이 AI에 맞춰 살아가는 사회가 아니라, 인간의 가치를 지키기 위해 AI를 통제하는 사회를 의미합니다. ― 왜 UNESCO는 ‘문화 다양성’까지 이야기할까요? AI는 인간의 세계관까지 학습합니다 ―현재 대부분의 AI 모델은 영어권 데이터를 기반으로 학습되고 있고, 글로벌 AI 산업도 미국 빅테크 기업 중심으로 움직이고 있습니다. 문제는 이것이 단순한 산업 구조의 문제가 아니라는 점입니다. 결국 어떤 언어와 문화, 가치관이 AI 안에 더 많이 반영되는가의 문제로 이어지기 때문입니다. 예를 들어 AI에게 역사나 종교, 사회 문제를 질문했을 때 특정 문화권의 시각만 반복적으로 학습되어 있다면, 전 세계의 다양한 관점은 점점 디지털 공간에서 사라질 수 있습니다. 그래서 UNESCO는 “문화 다양성(cultural diversity)”을 AI 윤리의 핵심 가치 가운데 하나로 강조합니다. 이는 단순히 문화를 보호하자는 차원을 넘어섭니다. 서로 다른 문화와 관점이 공존할 수 있어야 장기적으로 갈등과 충돌도 줄일 수 있다고 보기 때문입니다. ― AI 시대의 핵심 질문은 이것입니다 우리는 AI와 함께 어떤 인간 사회를 만들고 싶은가? ― 효율과 자동화만을 추구하는 사회로 갈 수도 있고, 기술 발전 속에서도 인간의 존엄과 자유를 지키는 방향으로 갈 수도 있습니다. UNESCO와 유엔이 반복해서 강조하는 인간 존엄, 윤리, 포용, 문화 다양성이라는 가치들은 단순히 이상적인 구호가 아닙니다. 그것은 AI 시대에도 인간 중심의 평화 질서를 유지하기 위한 최소한의 안전장치에 가깝습니다. 어쩌면 AI 시대의 가장 중요한 경쟁은 기술 경쟁이 아니라, “인간을 어떻게 바라볼 것인가”에 대한 철학의 경쟁일지도 모릅니다. 글 최연제 국장 같이 읽으면 좋은 글 디지털 프라이버시란? 필터버블이란? 참고문헌 및 출처 UN AI 국제규범 United Nations. Global Digital Compact — 유엔이 제시한 인간 중심 디지털 미래와 글로벌 AI 거버넌스 원칙 (United Nations) UNESCO AI 윤리 UNESCO. Recommendation on the Ethics of Artificial Intelligence (2021) — 세계 최초의 포괄적 AI 윤리 국제규범 문서. 인간 존엄, 인권, 포용, 문화 다양성 원칙 제시 (UNESCO) UNESCO AI 개요 UNESCO. Recommendation on the Ethics of Artificial Intelligence Overview — UNESCO AI 윤리 프레임워크 핵심 개념 설명 (UNESCO) 문화 다양성과 AI UNESCO. Artificial Intelligence and Cultural Diversity — AI 시대 문화 다양성과 언어 보호 필요성 논의 (UNESCO) 디지털 거버넌스 United Nations. Global Digital Cooperation and Emerging Technologies — 국제 디지털 협력과 AI 국제 거버넌스 논의 (United Nations) AI 인권 OHCHR. The Right to Privacy in the Digital Age, 2021 — AI 감시와 인권 문제 분석 (OHCHR) AI 편향성 MIT Media Lab. Gender Shades Project, 2018 — 얼굴인식 AI의 인종·성별 오류율 연구 (MIT Media Lab) AI 허위정보 World Economic Forum. Global Risks Report 2024, 2024 — AI 기반 허위정보와 글로벌 리스크 분석 (WEF)