기술은 언제나 중립적이라는 믿음이 존재합니다. 기계는 감정이 없고 수학적 논리에 따라 작동하기 때문에 인간처럼 편견을 가지지 않는다고 여겨지기도 합니다. 그러나 기술은 인간이 만들고 인간의 데이터를 기반으로 작동합니다. 그렇기 때문에 기술은 인간 사회의 구조적 문제를 그대로 학습하고 재생산할 수 있습니다. 디지털 시대의 차별은 이러한 방식으로 조용히 자동화되고 있습니다.
오늘날 우리가 마주하는 편향은 더 이상 노골적으로 드러나지 않습니다. 오히려 객관성과 효율이라는 얼굴을 한 채 우리 일상의 결정 속에 스며들고 있습니다.
우리는 점점 더 정교해지는 기술 속에서 살아가고 있습니다. 하지만 그 정교함이 반드시 공정함을 의미하는 것은 아닙니다. 기술은 인간의 손으로 만들어지며 인간의 가치관을 반영합니다. 그렇기에 디지털 시스템 속 차별은 더 조용하게 더 깊이 스며들 수 있습니다.
이 글에서는 디지털 사회에서 차별이 자동화되는 과정을 네 가지 관점에서 살펴보고자 합니다.
1. 접근할 수 없는 사람들
인터넷은 모두에게 열려 있는 공간처럼 보입니다. 누구나 원하는 정보를 검색하고 상품을 구매하며 콘텐츠를 소비할 수 있는 세상처럼 느껴집니다. 그러나 이 디지털 공간에 들어서기 위한 전제 조건은 결코 평등하지 않습니다. 인터넷 속 평등은 접속할 수 있는 사람들에게만 허락된 권리일 수 있습니다.
예를 들어 고령층은 스마트폰 사용이 익숙하지 않아 온라인 서비스에 접근하기 어려운 경우가 많습니다. 장애를 가진 분들에게는 일반적인 웹사이트가 물리적 장벽이 되기도 합니다. 또 외국인이거나 저소득층인 경우에는 정보 이용 기기 자체를 갖추지 못하는 일도 있습니다.
디지털 접근성이 보편적인 권리로 전환되지 않는 이상 이러한 분들은 점점 더 사회 시스템에서 소외될 수밖에 없습니다. 차별은 누군가의 악의 때문이 아니라 시스템 설계에서부터 배제되는 방식으로 일어납니다. 그리고 이러한 배제는 데이터와 알고리즘에 반영되어 결국 더 큰 격차를 만들어냅니다.
이러한 현실을 인식하지 못하면 기술은 더욱 공고한 장벽이 되어버릴 것입니다. 그 벽 앞에서 누군가는 다시 사회의 주변으로 밀려납니다.
그리고 그 주변에 오래 머무른 분들일수록 디지털 세계는 점점 더 낯설고 어렵게 느껴지게 됩니다.
결국 기술의 발전은 모두를 위한 진보가 아니라 일부만을 위한 속도가 됩니다. 이러한 배제는 단지 지금의 불편으로 끝나지 않습니다.
시간이 지날수록 정보 접근의 격차는 교육의 격차로 이어지며 교육은 다시 소득과 기회의 차이로 연결됩니다.
접근의 권리를 확보하지 못한 분들은 점점 더 사회의 중심에서 멀어지게 되는 것입니다.
2. 설계된 일상 안의 편향
우리는 일상을 디지털 시스템에 의존하며 살아가고 있습니다. 내비게이션이 안내하는 길로 걷고 알고리즘이 추천하는 뉴스를 읽습니다. 일정 관리부터 여가 활동까지 대부분의 선택이 디지털 플랫폼을 통해 이루어집니다.
그러나 이러한 시스템은 인간이 설계한 만큼 인간의 판단과 한계를 그대로 담고 있습니다. 검색 결과에서 먼저 노출되는 정보가 반드시 더 정확하거나 더 적합한 것은 아닙니다. 추천 알고리즘이 보여주는 콘텐츠가 나에게 더 의미 있는 정보일 거라는 보장도 없습니다.
그럼에도 우리는 이러한 시스템을 신뢰하며 편리함 속에 익숙해져 갑니다. 그 결과 의식하지 못한 채 편향된 정보와 시선을 받아들이게 됩니다. 문제는 이 편향이 개인의 선택을 넘어 사회 전체의 판단으로 이어질 수 있다는 점입니다. 디지털 시스템이 설계한 일상은 점점 더 효율을 추구하며 예외를 제거하려 합니다. 그렇게 되면 다양성은 불필요한 것으로 간주되고 차이는 점점 지워집니다.
편향은 그렇게 시스템 안에 숨어 일상을 자동화합니다.
우리는 자신이 직접 선택하고 판단하고 있다고 믿지만 그 대부분은 이미 정해진 흐름 속에서 이루어지고 있습니다.
검색 결과의 순서 뉴스 피드의 구성 쇼핑몰의 추천 상품까지 모든 것이 특정한 방향으로 저희를 이끕니다. 이 방향은 객관적인 것처럼 보이지만 사실은 누군가의 기준에 따라 설계된 결과입니다. 그리고 그 기준은 종종 평균값 다수결 혹은 과거 데이터에 기반하기 때문에 기존의 편견을 그대로 답습하게 됩니다. 결국 알고리즘은 과거를 복제하면서 현재를 규정하고 미래를 제한하는 셈입니다. 그 안에서 우리는 선택하고 있다고 느끼지만 실제로는 제한된 선택지 안에서 움직이고 있을 뿐입니다.
3. 차별은 디지털에서 더 조용해집니다
과거의 차별은 비교적 명확하게 드러났습니다. 입학 불허나 고용 거절 같은 형태로 실체가 있었고 이를 증명하기 위한 싸움이 가능했습니다. 하지만 디지털 사회에서의 차별은 더욱 조용하고 추적이 어렵습니다.
예를 들어 인공지능 면접 도구가 특정 억양이나 표정을 불이익으로 판단하는 경우가 있습니다. 온라인 쇼핑몰에서 특정 지역의 소비자에게만 특정 가격이 제공되는 사례도 존재합니다.
이러한 차별은 수치와 데이터로 작동하기 때문에 누구를 향한 불공정인지 쉽게 드러나지 않습니다. 개인은 자신이 불이익을 받았다는 사실조차 인지하지 못할 수도 있습니다. 그리고 이러한 현상이 반복되면 사람들은 점점 더 시스템을 불신하거나 반대로 체념하게 됩니다. 나는 원래 이런 기회를 얻지 못하는 사람인가 보다라고 스스로를 납득하게 됩니다.
차별이 드러나지 않는다는 것은 더 이상 차별이 사라졌다는 뜻이 아닙니다. 오히려 그 차별이 더 정교하게 은폐되었음을 의미할 수 있습니다.
기술은 통제될 수 있을까요? 기술은 결국 인간이 만든 도구입니다. 따라서 우리는 그것을 설계하고 통제할 책임도 가지고 있습니다. 문제는 기술의 발전 속도가 그 통제의 속도보다 빠르다는 점입니다.
AI와 빅데이터는 이미 여러 영역에 깊숙이 들어와 있습니다. 금융부터 교육까지 정책 결정에도 사용되고 있습니다. 그만큼 우리는 기술이 내린 판단에 무비판적으로 기대기 쉬운 환경에 놓여 있습니다.
이럴 때일수록 더욱 중요한 것은 감시와 검토입니다. 시스템이 내리는 결정이 어떤 기준에 기반했는지 누가 데이터를 제공했고 어떤 전제가 설계에 들어갔는지를 계속해서 점검해야 합니다.
기술을 통한 공정성은 감시와 수정의 과정 없이는 실현되기 어렵습니다. 자동화된 시스템일수록 더 투명하게 공개되어야 하고 시민사회와 전문가들의 참여를 보장받아야 합니다.
차별을 없애기 위해 기술을 사용하는 것이 아니라 차별을 감추는 방식으로 기술이 사용된다면 우리는 그것을 반드시 바로잡아야 합니다.
보이지 않게 작동하는 차별을 멈추기 위하여 디지털 시대의 차별은 더 이상 외면할 수 없는 현실입니다. 그것은 누군가의 의도적인 배제가 아니라 기술과 시스템을 통해 무의식적으로 반복되고 확대되는 구조적 문제입니다.
이 문제를 해결하기 위해서는 기술을 맹신하는 태도에서 벗어나야 합니다. 기계가 판단한 것이기 때문에 옳다는 생각은 더 이상 유효하지 않습니다. 우리에게 필요한 것은 기술이 작동하는 방식에 대한 비판적 시선입니다. 그리고 그 안에서 인간의 존엄과 권리를 지키기 위한 지속적인 질문과 감시입니다.
기술은 공정함을 담보하지 않습니다. 오히려 공정함은 끊임없이 지켜야 할 가치이며 그 과정은 언제나 사람의 몫입니다.