AI와 젠더 감수성 – 인공지능이 성차별을 학습한다면?

1. 인공지능, 성별을 이해하지 못하는 기술

AI는 사람보다 똑똑할까?
정답은 “어떤 데이터를, 어떤 맥락에서, 누구의 관점으로 학습하느냐에 따라 다르다.”
2025년을 살아가는 우리는 AI가 이제 단순한 도구를 넘어,
채용, 추천, 진단, 교육, 광고 등 수많은 의사결정에
직간접적으로 개입하고 있음을 알고 있다.
그러나 이 강력한 도구가 젠더 감수성을 갖추지 못한 채 작동할 경우,
그 영향력은 ‘기계의 판단’을 넘어
‘사회적 차별의 확산’으로 이어질 수 있다.

AI가 작동하는 핵심은 데이터다.
그런데 이 데이터는 그 자체로 **중립적인 기록이 아니라,
이미 인간 사회의 편견과 불균형을 담고 있는 ‘사회적 유산’**이다.
예를 들어, ‘엔지니어’라는 직업에 대한 데이터를 학습하면
대부분 남성 위주의 기록이 누적되어 있다.
‘간호사’라는 직업은 여성 중심의 언어로 묘사되어 있고,
‘리더십’이라는 키워드에는 남성의 얼굴이 주로 떠오른다.
이러한 맥락은 AI가 어떤 성별을 ‘표준’으로 보고,
어떤 성별을 ‘예외’로 판단하는 데 영향을 준다.

그 결과, AI는 채용 필터링 시스템에서
남성적인 문장을 쓰는 지원자에게 가산점을 주거나,
자동 번역기에서 의사를 남성, 간호사를 여성으로 자동 번역하거나,
심지어 여성의 외모에 대한 과도한 평가를 강화하는
추천 알고리즘을 만들어내기도 한다.
이것은 AI가 의도적으로 차별하려고 한 것이 아니라,
차별을 배운 대로 충실하게 실행하고 있다는 사실을 보여준다.

 

2. AI의 성차별, 어디에서 어떻게 드러나는가?

AI가 내리는 결정이 언제 어떻게 성차별을 재현하는지는
점점 더 많은 실험과 연구로 구체화되고 있다.
대표적인 사례가 바로 구글 번역의 젠더 편향 논란이다.
예를 들어 “She is a doctor”라는 문장을 터키어나 핀란드어 등
성별 구분이 없는 언어로 바꾼 뒤 다시 영어로 번역하면
AI는 종종 “He is a doctor”라고 번역한다.
이러한 현상은 AI가 직업과 성별 사이에 내재된 사회적 편견을
그대로 반영하고 있음을 보여준다.

또한 채용 과정에서의 AI 활용도 많은 문제를 야기하고 있다.
미국의 한 기업은 이력서 자동 평가 시스템에 AI를 도입했지만,
해당 알고리즘은 과거 10년 간의 채용 데이터를 학습하면서
여성 이력서를 낮은 점수로 분류하는 패턴을 학습했다.
결국 여성 지원자들은 동등한 역량에도 불구하고
면접 기회를 제대로 받지 못했다.
이는 AI가 ‘공정한 판단자’가 아니라
과거의 불공정을 증폭시키는 복제자가 될 수 있다는 현실을 보여준다.

더 나아가, 뷰티 관련 추천 시스템에서도
젠더 편향은 끊임없이 발생한다.
예를 들어, 같은 나이대의 남성과 여성에게
AI 기반 플랫폼이 제안하는 화장품 종류나 광고 콘텐츠를 보면
남성에게는 ‘기능성 중심 제품’, 여성에게는 ‘미모 강조형 제품’이 추천된다.
심지어 여성을 대상으로 한 상품 리뷰에서는
외모 평가나 성적 코드가 훨씬 더 자주 등장한다.
이런 방식은 결국 AI가 여성 소비자에게 특정한 역할과 이미지를 기대하며
소비 결정에까지 영향을 미치고 있음을 뜻한다.

3. 기술이 감각을 이해하지 못할 때 발생하는 문제들

AI는 매우 똑똑하지만,
그 똑똑함은 아직 ‘감정’이나 ‘차별의 맥락’을 이해하지 못한다.
특히 젠더 감수성이라는 것은 단순히 성별 분류가 아니라,
성별과 권력, 사회 구조의 맥락까지 고려해야만 가능한 영역이다.
하지만 현재의 AI는 그러한 ‘사이’의 정서를 읽을 능력이 부족하다.

예를 들어, 어떤 직장에서 여성들이 더 적은 승진 기회를 가진다는 사실은
단순 통계로는 “남성의 성과가 더 좋다”는 판단으로 이어질 수 있다.
그러나 그 안에는 보이지 않는 수많은 구조적 차별 –
업무 배분의 불균형, 평가자의 편견, 육아로 인한 업무 공백 등이 작용하고 있다.
AI가 이를 무시하고 숫자만을 기준으로 판단하면
그 결과는 **‘성차별 없는 것처럼 보이는 차별’**이 되어버린다.

더불어 여성의 감정 표현, 목소리 톤, 옷차림에 대한 AI 해석도 문제다.
음성 AI는 여성의 높은 톤을 불안정하게 인식하거나,
남성의 목소리를 더 ‘권위 있게’ 판단한다는 연구도 존재한다.
AI 채팅 로봇은 여성으로 설정될 경우
성적 대화로 전환되는 빈도가 현저히 높으며,
이는 기계조차 여성 캐릭터에게 특정한 ‘역할’을 부여하고 있음을 드러낸다.

이처럼 AI는 단지 편향된 데이터를 반영하는 것 이상으로
성별에 따른 사회적 역할 고정, 감정에 대한 오해,
정체성에 대한 축소된 해석을 반복하고 있다.
그리고 이 반복은 점차 사람들에게
“이게 자연스러운 것 아니야?“라는 왜곡된 인식을 심어준다.
즉, AI가 차별을 학습할 뿐만 아니라,
그 차별을 ‘정상’처럼 보이게 만든다는 것이 핵심적인 위험이다.

4. 젠더 감수성을 담은 AI를 만들기 위한 첫걸음

그렇다면 우리는 어떻게 해야 할까?
가장 먼저 필요한 것은
AI 개발과정에 젠더 감수성을 제도적으로 통합하는 것이다.
AI 알고리즘을 설계할 때부터
성별의 다양성, 교차성(인종·계급·성적지향 등),
문화적 맥락을 함께 고려해야 한다.
단지 성별을 ‘남성/여성’으로 나누는 것이 아니라
사회적 위치와 경험의 다양성을 반영한
복합적인 정체성을 담는 방식으로 알고리즘이 구성되어야 한다.

둘째, 데이터셋 자체의 다양성과 질을 확보해야 한다.
젠더 편향이 심한 과거 데이터에만 의존하지 않고,
적극적으로 공정한 대표성을 가진 데이터셋을 구축해야 한다.
특히 성별 간 차이가 존재하는 영역에서는
단순히 통계를 반영하는 것이 아니라,
왜 그런 차이가 발생했는지를 맥락화하고 조정하는 프로세스가 필요하다.

셋째, AI 개발자, 디자이너, 윤리 감수자 간의 협업이 필수적이다.
젠더 문제를 다룰 수 있는 감수성과 훈련을 받은 전문가들이
AI 설계 초기부터 개입하고,
모델이 출시되기 전에 성별 편향 테스트를 거치는 ‘젠더 감수성 점검 절차’를 공식화해야 한다.
이는 더 이상 ‘선택사항’이 아니라
기술이 사회적 책임을 다하기 위한 기본적인 윤리 기준이 되어야 한다.