AI를 포용하는 다양성, AI가 포용하는 다양성

불완전한 우리들이 만들어갈 더 나은 AI

체인지메이커 컨퍼런스 후기

우리의 편견은 AI에 어떻게 반영될까요? AI는 우리 사회의 다양성을 얼마나 포용하고 있을까요? 10월 12일 열린 체인지메이커 컨퍼런스 ‘ AI를 포용하는 다양성, AI가 포용하는 다양성’에서는 AI가 가져온 변화, AI의 젠더 문제, 그리고 AI 시대의 일 환경을 깊이 있게 다루었습니다. AI를 만들어낸 인간의 한계를 인정하면서도, 이를 극복하고 더 나은 AI를 만들어갈 방법을 모색한 현장에서는 어떤 이야기가 오갔을까요?

*‘2024 체인지메이커 컨퍼런스’는 ‘AI와 함께 만드는 지속가능한 내일’이라는 주제로 10월 8일부터 13일까지 6일간 진행되었습니다. 체인지메이커 컨퍼런스는 성동구 문화창조축제 2024 크리에이티브x성수와 함께합니다.

[정경선 현대해상 최고지속가능책임자 축사]

정경선 AI는 현재까지 인류가 누적해왔던 다양한 사상과 관념과 정보를 기반으로 작동하고 있습니다. 여태까지 우리가 쌓아온 정보에는 인류가 해결해야 했었던 많은 이슈들, 타인에 대한 차별이나 선입견, 혐오 이런 것들이 반영되어 있는 것 같습니다. 결국 AI 시대에 포용성과 다양성을 어떻게 더 강화할 수 있을 것인가에 대한 다양한 이야기가 나올 것 같습니다. 오늘 컨퍼런스 역시 AI가 어떻게 포용성과 다양성에 기여할 수 있을지 얘기하고 배우는 계기가 되기를 바랍니다. 

[키노트 스피치] AI가 포용하는 미래 

• 연사 윤슬기 언어언어발전소 대표

“우리는 장애로 인해 의사소통을 포기하지 않는 미래, 아프고 난 후에도 사회와 직장으로 일터로 안전하게 돌아갈 수 있는 미래를 꿈꾸고 있습니다.” 

비대면으로 접근성을 낮추는 성인 언어 치료

언어발전소는 성공적인 의사 소통 경험을 통해 개인과 가족, 사회의 건강성을 회복한다는 미션으로 시작한 소셜벤처입니다. 언어 치료는 발달 과정에서 의사소통에 도움이 필요한 아동이 대상이라고 알려져 있는데요. 성인에게도 언어 치료가 필요한 경우가 있습니다. 바로 뇌졸중, 사고로 인한 뇌손상, 퇴행성 뇌 질환 등으로 인해 후천적으로 의사소통 장애를 갖게 된 사람들입니다. 

뇌졸중 환자는 발병 후에 물리 치료, 작업 치료, 언어 치료 재활 3종 세트를 최소 1년 이상 매일 반복해야 하는데요. 현재 의료 시스템에서는 인프라가 부족하고 치료비가 높으며, 특히 언어 재활 접근성이 떨어지는 상황입니다. 부족한 치료사로 적기에 언어 치료를 제공하려면 어떻게 해야 할까요? 해결책은 비대면이었습니다. 전국에 있는 치료사, 언어재활사와 환자를 온라인으로 연결하는 것이었죠. 저희는 언어 스크리닝, 검사, 실시간 온라인 세션, 피드백까지 언어 치료의 일반적인 전 과정을 온라인으로 진행할 수 있도록 플랫폼에 녹였습니다.

언어 재활 분야에서 AI의 활약과 가능성

그러나 팬데믹이 끝난 후 환자들은 오프라인 병원으로 회귀하게 되었습니다. 비대면 재활서비스가 오프라인보다 더 나은 경쟁력을 가질 수 있도록 해야했고, 그러면서 AI 기술에 관심을 갖게 되었어요.

언어 재활 분야에 AI가 어떻게 접목되고 있는지 몇 가지 사례를 소개해 드리고자 합니다. 이화여대와 포스텍 연구팀의 사례는 언어 진단과 중재에 있어서 다양성과 개인화의 중요성을 보여줍니다. 아동의 가정 내 언어 환경을 분석해 목표 어휘를 설정하고, 고빈도 어휘 중심의 맞춤형 동화책을 생성합니다.

또 하나는 북미 기반 온라인 언어 치료 서비스를 제공하는 Expressable의 사례인데요. 다양한 활동으로 구성된 홈 프로그램을 제공하고 AI로 환자의 언어를 분석해 몇 회의 세션이 필요한지 등의 정보를 보호자에게 제공해요. 또한 보험사와 협업해 환자의 비용 부담을 낮출 수 있도록 지원합니다.

결국 우리가 그리는 미래의 언어 치료는 이런 모습일 것 같습니다. 환자가 언어 상태를 객관적으로 진단받고, 개인 맞춤형 치료를 받고, 재활의 진전 상황과 진행 상황을 모니터링해 최단 경로를 따라 재활하는 거죠.

우리는 장애로 인해 의사소통을 포기하지 않는 미래, 아프고 난 후에도 사회와 직장으로 일터로 안전하게 돌아갈 수 있는 미래를 꿈꾸고 있습니다. AI가 의사소통 약자와 가족들 그리고 치료 현장에 있는 치료사들을 도울 수 있도록 정책적인 관심을 가져주시길 부탁드리고 싶습니다.

[세션 1] AI에 숨겨진 젠더 코드: 기술과 문화의 상호작용

• 모더레이터 송예리 연세대학교 박사과정, 연세대학교 젠더연구센터 소속
• 패널 신혜린 고려대학교 미디어학부 교수

“사용자 측면에서도 지속적으로, 누적적으로, 포괄적으로 영위해나가는 게 중요해요. 여러분이 하는 모든 액션과 모든 말씀 하나하나가 사회를 바꿔 나갈 토양이라고도 볼 수 있을 것 같습니다. 특히 젠더 문제의 경우에요.”

신혜린 인공지능의 윤리성에 관한 우려는 인공적인 창조물에 대한문화적인 상상력이 있었던 옛날부터  있었어요. 하지만 최근에는 문화적인 재현뿐 아니라 공공 담론에서도 아마존의 채용 사태^*같은 얘기가 나오고 있어요. 데이터 클리닝도, 데이터 수집도  윤리적인 측면이 굉장히 중요해졌어요.

* 아마존이 2014년부터 개발한 인공지능 채용 프로그램이 여성을 차별하고 성 중립적으로 평가되지 않은 문제가 드러났던 사태를 말한다. 아마존은 이후 해당 인공 지능 채용 프로그램을 폐기했다.

송예리 저는 챗GPT 같은 AI가 차별적 발언을 하면 정정하고 싸우기도 하는데요. 그런 시도도 도움이 되는지 궁금했어요.

신혜린 당연히 도움이 됩니다. 당장은 아니라도 차후에 반영될 거고, 파장을 만듭니다. 여러분들이 데이터를 제공하고 계신 거잖아요. 그래서 사용자 측면에서도 지속적으로, 누적적으로, 포괄적으로 영위해나가는 게 중요해요. 여러분이 하는 모든 액션과 모든 말씀 하나하나가 사회를 바꿔 나갈 토양이라고도 볼 수 있을 것 같습니다. 특히 젠더 문제의 경우에요.

다양성이라는 건 외부에서 개입해서 욱여 넣는 게 아니라, 결국 여러분이 매일 쓰는 다양한 알고리즘 모델의 기반이기도 합니다. 다양한 데이터에 노출될수록 틀린 데이터인지, 문법이 맞는지 안 맞는지는 중요하지 않아요. 심지어 틀리고 정형에서 벗어나는 하나하나도 인공지능의 파라미터(parameter)를 넓히는 계기가 됩니다. 그런 측면에서 같이 생각하고 논의하면 좋을 것 같습니다.

송예리 현장 질문도 해보려고 합니다. AI 윤리와 관련된 담론에서  AI를 인격체로 보는 담론도 이야기되고 있는지 궁금하다고 하셨어요.

신혜린  인공지능의 인격 관련 담론은 많이 나오고 있습니다. 사실 중요한 건 비인간 행위자들이 실제로 뭘 느끼고 어떤 의도를 가질 수 있느냐를 떠나서, 우리가 그들에게서 어떤 거울상을 보느냐인 것 같아요. 인공지능은 우리 일상을 바탕으로 한 데이터를 배우고, 우리와 함께 행위하고, 우리의 일상에 직접적인 영향을 미치는 판단을 하고 시정합니다. 그렇기 때문에 우리가 먼저 어떤 거울상이 될지가 굉장히 중요해요. 

송예리 데이터 편향을 막기 위해서 데이터를 조작해야 한다면, 누가 어떤 기준으로 하는 것이 옳을까에 대한 질문도 있습니다.

신혜린 예를 들어 우리가 성별 이야기를 할 때, 다른 정체성 지표를 배제하고 생각할 수 없어요. 예를 들어서 아시아계 여성에 대한 스테레오 타입과 아시아계 남성에 대한 스테레오 타입은 매우 다릅니다. 흑인 여성과 흑인 남성의 스테레오 타입도 다르고요. 그래서 지표 자체도 다양하게 반영해서 데이터를 정렬하고, 문제가 생겼을 때 반응하는 게 중요할 것 같습니다. 사실 데이터의 다양성으로만 해결되는 문제는 아니고요. 다양한 측면과 기제와 아키텍처 등을 같이 고려할 필요가 있다고 봐요.

송예리 AI의 발달 속도가 시민 의식보다 더 빠르면, 사회 분열을 가져오는 게 아닐까 우려하는 분도 계셨어요.

신혜린 앞서 있다는 것도 보기 나름인 것 같아요. 괴리의 속도와 갭보다는 인식의 문제이고요. 예를 들어 요즘 젊은 사람들이 드라마를 안 보고 요약본만 본다든지, 글을 읽고 쓰지 않고 쇼츠만 본다고 개탄할 수도 있을 텐데요. 생각해보면 인류가 가만히 앉아서 긴 소설을 본 역사가 길지 않았습니다. 뒤집어 말하면 엘리트주의적인 사고 방식이잖아요. 그런 식으로 인식이 변하기 때문에 괴리의 속도, 격차의 정도도 문제지만 존재 여부와 인식이 얼마나 포괄적인 사회에 자리잡고 있는지, 이를 얼마나 공유하고 있는지가 더 중요할 것 같습니다.

[세션 2] 다양한 코드: AI가 돕는 우리의 포용성

• 모더레이터 장인혜 루트임팩트 필란트로피 프로젝트 리드
• 패널 윤근식 제네시스랩 HR사업총괄 이사
• 패널 권오성 한국마크로로소프트 상무

“DEI에 진심이고, 접근성에 진심이라는 걸 직원들이 몸소 느낄 수 있게끔 회사 차원에서 집중하고 있습니다.” 권오성 한국마이크로소프트 상무

“말과 인간과 달리면 인간이 이길 수 있나요? 그러면 AI라는 말 위에 올라가서 조종을 해야죠. 물론 AI는 위험도 있지만, 그럴수록 리스크를 잘 알아야 하고, 그래야 잘 활용할 수 있다고 생각합니다.” 윤근식 제네시스랩 HR사업총괄 이사

육근식 안녕하세요? 제네시스랩의 육근식입니다. 제네시스랩의 뷰인터HR은  기업용 AI 영상 면접 솔루션입니다. 채용할 때 사람을 평가하는 채용형 솔루션이 있고, 구직자들의 연습용 솔루션이 있어요. 대입 수시 면접, 모의 면접 이런 쪽으로도 활용이 확대되고 있고요.

권오성 한국마이크로소프트에서 대기업 대상으로 AI 트랜스포메이션을 이끌고 있는 팀에서 근무하는 권오성이라고 합니다. 마이크로소프트에서 스타트업에 투자 지원을 하는 마이크로소프트 스타트업의 멘토 역할도 하고 있습니다.

장인혜 제네시스랩에서는 뷰인터HR이라는 면접 솔루션이 어떻게 다양성이나 포용력에 영향을 주고 있는지 말씀 부탁드리겠습니다.

육근식 크게 두 가지 관점으로 공유드리고 싶습니다. 첫 번째로 면접관 사이드에서 보자면, 면접관도 사람이기 때문에 아침저녁에 따라 컨디션 차이가 있습니다. 주관성, 편향성도 있고요. 이런 것을 AI가 보조적으로 도와주는 솔루션이라고 이해해주시면 좋을 것 같습니다. 두 번째로 더 많은 지원자에게 기회를 제공하는 게 가능해집니다. 보통 기업이 서류전형과 1, 2차 면접을 본다고 했을 때, 10명을 뽑는데 서류가 1천 명씩 들어옵니다. 면접을 많이 볼 수는 없으니 서류에서 900명은 탈락하죠. 그런데 AI 면접을 활용하면 500명은 볼 수 있습니다. 그러면 서류로 탈락할 수도 있던 이들에게 기회가 한 번 더 생기는 거예요. 

권오성 마이크로소프트의 경우 다양성(Diversity), 형평성(Equity), 포용성(Inclusion)을 의미하는 DEI를 회사 차원에서 접근하고 많이 고민하고 있습니다. 전 세계에 마이크로소프트의 직원이 23명 만 명인데, 모든 직원들이 DEI 관점에서 일하고 사고하지 않나 싶어요. DEI와 관련한 내부 컨퍼런스을 열어 우리의 서비스와 제품의 접근성도 살펴봅니다. 매년 리포트도 발행하는데요. 이를 통해 젠더별로 월급이 얼마나 차이나는지, 매니저는 얼마만큼 있는지, 디렉터는 얼마만큼 있는지 등을 트래킹을 하는 걸 볼 수 있어요. DEI에 진심이고, 접근성에 진심이라는 걸 직원들이 몸소 느낄 수 있게끔 회사 차원에서 집중하고 있습니다. 

장인혜 더 포용적인 AI를 개발하기 위해서 어떤 계획을 갖고 계신지도 궁금합니다.

권오성 생성형 AI가 촉발되면서 AI가 대중화가 됐습니다. 대중화를 더 가속화시키기 위해서 마이크로소프트가 만든 AI 에이전트가 코파일럿이에요.

사람이 파일럿이 되고, AI는 나의 부조종사가 되어 일의 생산성과 효율성을 만들어주자는 플랜입니다. 이를 어떻게 더 빨리 가속화시킬지가 과제입니다. 

육근식 저희는 생성형 AI의 솔루션을 만드는 회사입니다. 그래서 AI를 활용해 사람들의 일과 삶에 직접적으로 도움을 주고, 효율적으로 에이전트하는 회사로 나아가려고 하고 있습니다. 

저는 AI를 말과 비교합니다. 말과 인간과 달리면 인간이 이길 수 있나요? 그러면 AI라는 말 위에 올라가서 조종을 해야죠. 물론 AI는 위험도 있지만, 그럴수록 리스크를 잘 알아야 하고, 그래야 잘 활용할 수 있다고 생각합니다. 

장인혜  AI 개발 과정에서 어떤 DEI가 일어날 수 있는지, 포용적인 사례가 왜 중요한지를 두 기업의 사례를 통해서 살펴봤습니다. AI의 발전이 가져오는 다양성을 확보하는 긍정적인 측면과 동시에 우려해야 할 점에 대해서도 함께 생각해보는 시간이 되셨기를 바랍니다. 

인간의 불완전한 모습을 거울처럼 담을 AI가 포용력을 갖추기 위해서는, 결국 우리 사회가 더 포용적으로 나아가고 무의식적으로 지닌 편견을 개선해야 한다는 사실을 깨닫는 의미있는 자리였습니다. 일터에서, 삶에서 더 포용적인 태도를 고민하는 만큼 더 포용적인 AI의 미래도 빠르게 다가올 수 있을 것입니다.

다른 콘텐츠 이어보기
AI가 인구구조 변화에 대응하는 방법
AI 시대, 모두를 위한 교육