노인 차별하는 AI, 고령화시대 ‘新연령주의’의 도래

시사위크=박설민 기자  ‘인공지능(AI) 거품론’도 문제지만 ‘AI 만능론’ 역시 사회적 문제다. AI가 경제·사회 전 분야에서 활용도가 매우 높은 것은 사실이다. 하지만 모든 분야에 AI를 적용하면서 생기는 부작용도 적잖다. 특히 최근 ‘고령화 사회’와 맞물려 발생하는 ‘AI 연령 차별’ 문제도 새롭게 떠오르고 있다.

◇ 고령화 시대의 AI, 그 명과 암

일반적으로 잘 알려진 고령화 사회에서의 AI차별은 ‘기술 접근’에 대한 차별이다. 고령층이 AI기술 사용에 어려움을 느껴 접근성이 저하되는 것이다. 이 경우 고령층과 젊은 세대의 AI기술 활용에 대한 격차가 발생, ‘디지털 정보 격차’로 이어지게 된다.

하지만 최근 떠오르는 문제는 이것이 아니다. 바로 AI자체가 노인을 직접 차별하는 경우다. AI가 자체적 학습 알고리즘을 통해 고령층을 은 생산성·낮은 적응력·높은 위험군으로 일반화하는 것이다. 이 경우 AI기반 채용 및 보험 심사, 문화 생활 등에서 직·간접적 차별을 고령층은 경험하게 된다.

실제로 26일 한국과학기술원(KAIST) 과학기술정책대학원 연구팀은 ‘오픈AI(OpenAI)’의 생성형 AI모델 ‘챗GPT-4o’가 고령층에 대한 은밀한 편향성을 보유했음을 확인했다고 밝혔다. 생성하는 문장 속에 노인에 대해 고정관념이 내재돼 있었다는 것이다.

연구팀은 10세부터 90세까지 10세 단위 연령대의 특성을 묘사하는 GPT-4o가 생성한 텍스트 900개를 수집했다. 실험 결과 정확성을 높이기 위해 중립적 프롬프트를 활용했다. 그 다음 분석에는 ‘정관념 내용 모델’을 활용했다.

분석 결과, 고령자 집단(60세 이상)은 ‘따뜻함(Warmth·친절함과 신뢰성, 배려심 등 사회적 호감도를 나타내는 특성)’ 점수는 높게 나타났다. 반면 ‘역량(Competence·능력과 전문성, 효율성 등을 의미하는 특성)’점수는 젊은 연령층에 비해 상대적으로 낮게 나타났다. 또한 자신감과 주도성을 나타내는  ‘자기주장성(Assertiveness)’에서 연령이 높아질수록 감소했다.

KAIST 연구진은 “챗GPT-4o가 노인을 지혜롭고 자애로운 인물로 묘사하는 동시에 주체성이나 능동성은 상대적으로 낮게 표현하는 경향이 있다”며 “이러한 표현이 AI를 통해 반복적으로 노출될 경우 고령자에 대한 사회적 편견을 강화할 수 있다”고 우려했다.

◇ AI의 고령층 차별, ‘기술’과 ‘사회’ 모두의 문제

그렇다면 AI는 어떤 방식으로 고령층을 차별하게 될까. 이를 유형별로 나눈 연구가 단국대학교 공공정책학과 연구팀이 지난해 발표한 것이다. 단국대 연구진 핵심 원인으로 ‘AI모델 자체의 내부 원인’을 꼽았다. 말 그대로 AI모델 개발 및 학습 과정에서 발생한 것이다. 

이는 개발자, 데이터, 사용자의 세 가지 내부요인에서 비롯된다. 개발자 요인은 말 그대로 AI개발자가 노인에 대한 고정관념, 편견을 알고리즘 설계에 반영했을 때다. 데이터는 AI가 몇몇 미디어에서 묘사한 ‘대중적 노인’의 모습을 학습할 때 발생한다. 마지막으로 사용자 측면은 생성형 AI처럼 사용자와 상호작용해 학습하는 AI의 경우 이용자들의 편향된 인식을 학습, 연령 차별을 재생산하거나 강화하는 것이다.

두 번째 원인은 ‘사회적 원인’이다. 사회적 원인을 고정관념과 편견, 제도, 기술, 문화·담론이라는 4가지 측면의 데이터를 AI가 학습, 사회에 뿌리 깊게 자리 잡은 연령주의(ageism)를 AI가 드러내게 되는 것이다. 여기서 연령주의는 나이를 기준으로 특정 사람이나 집단에 대해 편견을 갖거나 차별하는 태도 및 행동을 뜻한다.

사회적 편향 데이터를 학습한 AI의 경우 노인은 능력이 떨어지고 변화에 적응하지 못한다는 고정관념, 연령을 기준으로 기회를 제한하는 제도를 표현할 수 있다. 또한 노인을 충분히 고려하지 않은 기술 설계, 그리고 노인을 주변화하거나 부정적으로 묘사하는 사회문화가 데이터와 알고리즘에 반영되면서 AI의 판단에도 영향을 미친다.

단국대 연구진은 “실제 노인의 관점에서 노인의 경험에 근거한 AI의 연령차별 문제를 분석하고 노인 관점의 개선 방안을 도출하는 연구도 필요하다”며 “기술적 차원의 연구뿐만 아니라 책적·법적·제도적 관점에서 AI의 연령차별을 예방하거나 줄이기 위한 방안에 관한 연구가 있어야 할 것”이라고 조언했다.

◇ 가장 큰 위협은 ‘의료 분야’… 연간 100조원 규모 피해로 이어질 수 있어

이 같은 AI의 고령층 차별은 사회적 피해로 이어질 수 있다. 특히 위험한 것은 ‘의료 분야’다. 65세 이상으로 노인 데이터를 통합할 경우, AI가 노인의 질병 양상·복합질환·약물 반응을 제대로 분석하기 어려워지면서다.

실제로 세계보건기구(WHO)는 이미 2022년 발표한 보고서에서 “하지만 AI의 설계·개발·사용 과정에서 연령주의가 제거되지 않으면 AI는 기존 의료체계의 노인차별을 더 크게 확대할 수 있다”고 경고하기도 했다.

연령주의 기반의 AI 고령층 차별 심화는 경제적 피해로도 연결된다. WHO는 2020년 미국 내 부정적인 연령 고정관념과 자기 인식으로 나타나는 연령차별 문제를 분석했다. 그 결과, 부정적 연령주의는 8가지 질병에 대해 연간 630억달러(약 97조원)의 추가 비용을 발생시키는 것으로 확인됐다.

전문가들은 AI의 고령층 편향 및 차별 문제 해결을 위한 대책 마련이 시급하다고 지적한다. 이를 위해 WHO에서 제안한 전략은 △노인과 함께 AI를 설계 △연령 포괄적 데이터 수집 △규제와 거버넌스 마련 △AI 편향 연구 확대 등이다.

WHO는 “연령차별주의는 사람들의 삶 전체와 보건 및 사회복지 분야를 포함한 사회의 여러 기관과 부문에 만연해 있다”며 “특히 노인의 경우 수명 단축, 신체적·정신적 건강 악화, 삶의 질 저하와 관련이 있다”고 설명했다.

이어 “이 같은 사회의 암묵적 및 명시적 편견은 형사 사법 제도, 은행, 인적 자원 관리, 공공 서비스 제공 등에서 사용되는 AI에 그대로 반영된다”며 “특히 의료용 AI가 기존의 연령차별 형태를 악화시킬 수 있는 조건과 의료용 AI 사용이 새로운 형태의 연령 차별을 야기한다”고 지적했다.

그러면서 “AI기술이 더욱 보편화됨에 따라 연령차별의 위험을 최소화하고 노인들을 위한 AI 활용을 극대화하기 위해 사용할 수 있는 법적, 비법적, 기술적 조치가 필요하다”고 조언했다.