#INTRO

AI는 흔히 객관적이고 중립적인 기술처럼 여겨집니다. 사람이 판단하면 편견이 개입될 수 있지만, AI가 판단하면 더 공정할 것이라는 기대가 있습니다. 그러나 AI의 답변 역시 이미 존재하는 이미지와 데이터를 바탕으로 만들어집니다. 만약 그 데이터 안에 사회가 오래 반복해 온 고정관념이 남아 있다면, AI는 그 편견까지 객관적인 결과처럼 재현할 수 있습니다. 문제는 그 결과가 너무 자연스럽고 그럴듯해 보인다는 점입니다. 그래서 우리는 AI가 보여주는 ‘보통’을 다시 점검해볼 필요가 있습니다. 그 평균은 정말 모두의 평균일까요?

오늘은 AI가 만들어 내는 이미지와 기술 경험을 통해, DEI(다양성·형평성·포용성) 관점에서 우리가 무엇을 살펴봐야 하는지 이야기해 보려 합니다.

AI가 만든 다양성은 충분할까

AI가 만든 인물은 광고와 콘텐츠에서도 활용되고 있습니다. 촬영 없이 다양한 인물 이미지를 만들 수 있고, 브랜드가 원하는 분위기를 빠르게 구현할 수 있다는 점에서 매력적인 도구입니다. 특히 다양한 체형과 피부톤의 모델을 보여주기 어려웠던 한계를 보완하고, 고객이 자신과 비슷한 모습의 모델을 통해 제품을 선택하는 데 도움을 줄 수 있습니다.

그렇다면 AI로 구현한 다양한 모델을 보여주는 것만으로 다양성과 포용성도 함께 넓어질 수 있을까요? 2023년 리바이스는 소비자가 다양한 체형의 모델을 통해 제품을 확인할 수 있도록 AI로 생성한 모델을 활용하겠다는 계획을 발표했습니다.¹ 그러자 다양한 모델을 실제로 고용하는 대신 AI로 다양성을 구현하려는 것이 아니냐는 비판이 이어졌습니다. 이에 리바이스는 발표 6일 뒤 추가 설명을 통해 실제 모델의 비중을 축소할 계획은 없으며, 이 시범 사업이 DEI 활동을 대신하는 것도 아니라고 밝혔습니다.

이 사례는 ‘다양하게 보이는 결과’와 ‘다양성을 만드는 과정’이 같지 않다는 점을 보여줍니다. AI 모델은 화면에 다양한 인물을 보여줄 수 있지만, 다양한 사람이 모델이나 창작자로 참여할 기회까지 보장하지는 않습니다. 화면 속 다양성을 넓히는 것도 중요하지만, 그것만으로 DEI가 실현되는 것은 아닙니다.

AI가 만들어 낸 결과 역시 비판적으로 살펴봐야 합니다. 프롬프트에 “다양한 모델을 만들어줘”라고 입력하면 피부톤만 달라지고 얼굴형이나 체형은 비슷한 결과가 나올 수 있습니다. 서로 다른 나이와 체형을 요청했는데도 피부 질감은 모두 매끄럽게 표현되거나, 나이가 든 사람의 모습이 익숙한 고정관념 안에서 그려질 수도 있습니다. 따라서 AI 모델을 활용할 때는 과정에서 어떤 프롬프트를 활용했는지, 그 안에 편견이 숨어 있지는 않은지 세심하게 점검해야 합니다.

AI도 차별을 한다?

마이크로소프트의 ‘Seeing AI’는 시각 장애인과 저시력 사용자를 위해 주변 글자와 사물을 음성으로 설명하는 서비스입니다. 인쇄된 문서를 읽어주거나 제품의 바코드를 인식하고 이미지에 담긴 내용을 알려줌으로써 시각 정보에 대한 접근을 높입니다. 주목할 점은 이 서비스가 장애인을 이용자로만 바라보지 않고 개발과 설계 과정을 함께 진행했다는 겁니다.²

음성을 문자로 변환하는 기능은 청각 장애인의 콘텐츠 접근성을 넓혀줍니다. 복잡한 문장을 쉽게 풀어주는 AI는 인지적 어려움이 있거나 익숙하지 않은 언어로 정보를 접하는 이들에게 도움이 될 수 있습니다. 번역과 음성 안내, 이미지 설명과 같은 기능도 정보와 서비스에 참여할 수 있는 범위를 넓혀줍니다.

AI는 접근성을 넓혀 주기도 하지만, 이러한 기술이 모두에게 같은 수준으로 작동하는 것은 아닙니다. 음성인식 시스템은 특정 억양이나 사투리를 더 자주 못 알아듣고, 얼굴 인식 기술은 성별·연령·인종에 따라 정확도가 달라질 수 있다는 연구가 이어져 왔습니다. 미국 국립표준기술연구소(NIST)도 다수의 얼굴인식 알고리즘에서 인구 집단에 따른 성능 차이를 확인했습니다.³

결국 누군가에게는 편리한 기술이 다른 누군가에게는 자신을 증명해야 하는 장벽이 될 수도 있습니다. 음성 명령을 여러 번 되풀이하거나, 얼굴을 인식시키기 위해 조명과 각도를 계속 바꿔야 한다면, 기술의 편리함이 모두에게 동일하게 제공되고 있다고 보기는 어렵지 않을까요?

이러한 편향을 줄이고 기술의 성능을 더 공정하게 평가하려는 시도도 이어지고 있습니다. 구글은 하버드대학교 사회학자 엘리스 몽크 박사와 함께 피부톤을 10단계로 구분한 ‘몽크 피부톤 척도(Monk Skin Tone Scale, MST)’를 개발했습니다. 기존 척도가 어두운 피부톤을 충분히 반영하지 못한다는 문제의식에서 출발했는데요, 구글은 이 척도를 활용해 얼굴 감지 기술이 피부톤에 따라 다르게 작동하지 않는지 점검하고, 이미지 검색과 사진 필터, 스마트폰 카메라가 다양한 피부톤을 더욱 정확하게 표현하도록 개선해 왔습니다.⁴

물론 하나의 척도만으로 모든 편향을 해결할 수는 없습니다. 같은 피부도 조명과 촬영 환경에 따라 다르게 보일 수 있고, 피부톤을 분류하고 설명하는 방식에도 사회·문화적 맥락이 작용하기 때문입니다. 그럼에도 구글의 시도는 다양성과 포용성을 선언에 그치지 않고, 측정하고 개선해야 할 기술 성능의 기준으로 다뤘다는 점에서 의미가 있습니다.

AI 기본법이 던지는 새로운 질문

기업의 기술적 시도와 함께, AI를 안전하고 포용적으로 활용하기 위한 제도적 기준도 구체화되고 있습니다. 우리나라에서는 2026년 1월 22일부터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」이 시행되었습니다.⁵ 이 법은 AI 산업의 발전뿐 아니라 투명성과 안전성, 이용자 보호를 함께 다루고 있습니다. 생성형 AI나 고영향 AI를 이용한 제품과 서비스를 제공하는 사업자는 이용자에게 해당 기술이 활용된다는 사실을 알리고, 생성형 AI가 만든 결과물에는 AI로 생성되었다는 사실을 표시해야 합니다. 실제와 구분하기 어려운 가상의 이미지나 영상·음향도 이용자가 명확히 알 수 있도록 고지하거나 적절한 표시를 해야 합니다.

2026년 7월 21일부터 시행된 개정 조항에는 ‘인공지능 취약 계층’에 관한 관점도 추가됐습니다. 국가와 지방자치단체가 장애인과 고령자 등 AI 제품과 서비스를 이용하는 데 어려움을 겪는 사람의 참여와 의견을 정책에 반영하고, 고영향 AI의 영향 평가에도 이들의 특성이 반영될 수 있도록 한 것입니다. 법이 제시하는 방향은 분명합니다. AI의 발전 과정에서 기술을 이용하기 어려운 사람의 경험까지 정책의 영역에서 함께 살펴보는 것입니다.

과학기술정보통신부가 공개한 「인공지능 윤리 원칙(안)」도 인간의 존엄성, 사회의 공공선, 기술의 신뢰성을 3대 가치로 제시합니다.⁶ 이를 위한 여섯 가지 원칙에는 공정성, 포용성과 투명성이 포함되어 있습니다. AI에 대한 신뢰가 정확도만으로 만들어지는 것이 아니라, 누구도 배제되지 않고 이용할 수 있는 포용적인 경험과도 연결되어 있다는 의미입니다. 기업은 법적 의무를 지키는 데서 한 걸음 더 나아갈 수 있습니다. AI가 만든 이미지와 문장이 누구를 기본값으로 삼고 있는지, 그 과정에서 빠진 관점은 없는지 살펴보는 것입니다. 오류나 편향을 바로잡을 절차가 있는지, 영향을 받은 이용자가 문제를 제기하고 답변 받을 통로가 마련되어 있는지도 중요합니다.

AI는 질문에 대한 답을 제시할 수 있지만, 선택의 결과에 대한 책임까지 대신 져주지는 않습니다. 결과물을 그대로 사용할지 다른 관점을 더할지는 사람의 몫입니다. 그래서 AI 시대에는 기술을 도입하는 속도만큼이나 이를 기획하고 사용하는 조직의 판단과 책임이 더 중요해질 거라고 생각합니다.

#OUTRO

AI가 일상에 가까워질수록 DEI가 살펴야 할 범위도 넓어지고 있습니다. 이제 다양성과 포용성은 광고 속 다양한 인물이 등장하는지를 살피는 것을 넘어, 기술이 누구에게나 공정하게 작동하는지까지 살펴보는 일이 되었습니다. 이제는 AI가 열어주는 가능성에 주목하는 동시에, 그 기술이 제시하는 ‘보통’을 당연한 기준으로 받아들이지 않는 것. 이것이 AI 시대에 우리에게 필요한 태도가 아닐까요? 오늘만큼은 우리가 익숙하게 받아들여 온 ‘보통’에 작은 질문 하나를 더해 보시길 바랍니다.