시민·기업·정부가 함께하는 'AI윤리 공론장' 에서 해답을 찾아
청년들의 작당, 김종민 의원실과 함께 공론장 개최
AI에 관심 있는 청년들이 AI 윤리의 중요성과 AI 규제의 주도권 논해
“AI발전에 윤리적 고민이 필요하지 않을까, 그렇다면 무엇을 고민해야 할까?”
Chat GPT가 나타난 이후로 AI에 대한 관심이 점점 높아지고 있다. AI 주도권을 갖기 위해 기업들은 기술 개발을 서두르고 있지만, 다른 한편으로는 AI 발전이 우리 삶에 어떤 영향을 미칠지에 대한 우려의 눈길도 많다. AI에 대해서 지금 우리는 얼마나 알고 있을까?
지난 19일 사회적협동조합 ‘청년들의 작당’은 김종민 의원실과 함께 ‘시민, 기업, 정부가 함께 만드는 AI 윤리의 도전과제와 해결을 위한 공론장’을 진행했다. 청년들의 작당은 다양한 목소리를 모아 사회의 변화를 만들기 위한 청년들의 모임이다.
AI 발전은 업무와 개인 생활의 편리함과 함께 딥페이크, 저작권, 데이터 라벨 링 노동 등 부정적인 영향을 가져올 수 있다. 하지만 전문가가 아닌 일반 시민들은 AI가 정확히 무엇인지 알지 못하고, AI 윤리 안에 포함될 수 있는 다양한 사례들에 대한 이해가 부족한 상태라는 문제의식에서 공론장은 시작됐다. 공론장은 김종민 국회의원, 사회적협동조합 스페이스 작당이 주최하고, 청년들의 작당 ‘디지털과 혁신’팀이 주관하고, 과학기술정보통신부가 후원했다.
공론장 1부에서는 ‘AI 윤리의 도전과제 이해’를 주제로 사람과디지털연구소 구본권 소장이 발제를 진행하고, 2부에서는 국회입법조사처 사회문화조사실 과학방송통신팀 박소영 입법조사관, 과학기술정보통신부 인공지능 기반정책과 남철기 과장, 네이버 어젠다 리서치(Agenda Research) 박우철 리더가 각 국회/정부/기업의 입장을 소개한 뒤에 ‘규제의 주도권은 누구에게 있어야 하는가?’를 주제로 토론을 펼쳤다.
행사에 참여한 양정숙 국회의원은 “사람을 해치는 AI가 있으면 안 된다” 며 “청년들이 마주하는 사회의 문제를 AI가 해결할 수 있었으면 좋겠다”고 말했다.
1부 발제를 맡은 구본권 소장은 미국의 컨설팅기업 가트너가 ‘생성 AI플랫폼에 대해 규제 당국이 유념해야 할 문제’로 지목한 여섯 가지 윤리적 과제(△GPT 모델의 설명 불가능성 △부정확한 허구 답변(환각 현상) △기밀데이터 침해 △편향성 △지적재산권·저작권 위험 △사이버·사기 위험”이라는)를 소개했다. 구 소장은 “권력과 주권이 국가로부터 기술기업으로 이동하고 있는 ‘기술극화 세계 (technopolar world)’ 현상이 나타나고 있다”는 문제점을 지적했다.
발제 이후에는 청년 참여자들이 직접 AI의 여섯 가지 윤리적 과제 중 가장 심각한 문제를 선택했다. 50여 명의 청년 참여자들은 ‘부정확한 허구 답변’을 가장 심각한 문제로 선정했고(32%) GPT 모델의 설명 불가능성을 두번째로(24%), 편향성(17%), 사이버·사기 위험(12%), 기밀데이터 침해(9%), 지적재산권·저작권 위험(6%) 등을 문제로 꼽았다.
사전에 진행된 계층화 분석(AHP)에서는 GPT 모델의 설명 불가능성이 6번째 중요도로 나왔지만, 생성형 AI에 대한 이야기를 듣고 난 다음 참여자들의 생각이 변한 것이다.(AHP에서는 부정확한 허구 답변, 기밀데이터 침해, 지적재산권·저작권 위험, 사이버·사기 위험, 편향성, GPT 모델의 설명 불가능성 등의 순서였음)
부정확한 허구 답변을 가장 심각한 문제로 선정한 전소영 참여자는 “Chat Gpt를 사용해서 점을 보는 사람들도 늘어나고 있는데, 부정확한 허구 답변을 점점 믿고 있다는 증거이지 않을까” 라며 허구 답변에 대한 우려를 표출했다.
AHP 분석을 진행한 김지우 엔지니어는“생성형 AI의 긍정적인 측면에 비해 부정적인 측면이 일반 시민들에게 충분히 설명되지 않았다”며 “AI가 전문가뿐만 아니라 더 많은 시민에게 다가가야 한다”고 말했다.
AI 윤리의 과제에 대해 논의한 이후에는 국회, 정부, 기업에서 각각 어떻게 AI 윤리 문제에 대해 대응하고 있는지 공유했다.
박소영 입법조사관은 미국과 EU의 인공지능법에 대해 소개하며 "AI 규제와 더불어 그 규제를 집행하고 AI 시대에 대응하기 위한 국가의 역량 제고가 필요하다"고 말했다.
남철기 과장은 "생성형 AI 기술이 전례없이 빠른 속도로 발전하면서, AI 비서·교육·작곡 등 경제·사회·문화 전반에 AI 적용이 확산되고 있다"는 현재의 상황을 정리했다. 이어 지난 9월에 국내 주요 AI기업이 소비자 기대를 충족하는 AI 윤리·신뢰성 확보를 위해 자발적인 안전조치를 마련할 것을 선언했다는 정책을 소개했다.
박우철 리더는 "네이버 AI 윤리 준칙에서 첨단의 AI 기술을 누구나 쉽고 편리하게 활용할 수 있는 일상의 도구로 만들겠다"는 관점을 소개하며 네이버가 AI에 대해 고민하고 경험한 것이 단순히 한 기업의 자산으로 남는 것이 아니라, 우리 사회 구성원 모두의 자산이 되는 것이 중요하다고 강조했다.
발제를 모두 들은 참여자들은 ‘규제의 주도권은 누구에게 있어야 하는가?’의 질문에 정부 주도의 규제가 필요하다는 답변(52%)과 기업의 자율 규제에 맡겨야 한다는 답변(48%)이 첨예하게 대립했다.
기업의 자율 규제를 선택한 한승범 참여자는 “인간 발전의 역사는 도구 발전의 역사와 함께했고, Chat GPT도 하나의 도구이다. GPT를 활용해 우리가 발전을 지속할 수 있다면 소비자와 가깝고, 삶에 밀접하게 영향을 미치는 기업이 주체가 되어야 한다” 며 기업에게 주도권이 있어야 한다고 주장했다.
행사를 주관한 청년들의 작당 ‘디지털과 혁신’팀 팀장 김치라 변호사는 “AI가 가져올 윤리적 과제를 미리 머리를 맞대고 하나씩 해결하다 보면, 다른 어떤 기술보다도 인간과 세상에 좋은 것만을 남겨줄 수 있지 않을까” 라며 빠르게 변화하는 사회 속에서 AI 윤리에 대한 이야기를 멈추지 말아야 한다는 이야기를 남겼다.
