보편교육뿐 아니라 핀란드 학교 현장에서의 인공지능(AI) 교육도 점차 활발해지고 있다. 공교육 커리큘럼이 아니라도 뜻이 맞는 교사들끼리 연계해 자발적으로 AI를 교육과정에 접목하는 등 다양한 활동이 진행되고 있다. 대표적인 예가 기술 교육 관련 풀뿌리 교사 네트워크인 ‘이노카스 네트워크’다. 크고 작은 교육 프로젝트를 진행 중인 이노카스 네트워크는 지난해 8월 핀란드 국가교육청의 지원을 받아 미취학 아동과 초등학생 대상 AI 교육 환경 조성 프로젝트 두 건을 시작했다. 두 프로젝트 중 공교육 현장에서 유아동을 상대로 AI 교육을 하고 싶어 하는 교사들을 다각도로 지원하는 ‘AI 나우(AI Now!)’ 프로젝트 관계자들을 지난 6월8일 헬싱키 대학교에서 만났다. 이들은 AI와 관련해 교수법적으로 의미 있는 결과물을 만들고자 프로젝트를 시작했다고 설명했다. 이노카스 네트워크의 프로젝트 매니저 로라 살로는 “핀란드 공교육에서는 2004년 ‘인간과 기술’이라는 커리큘럼이 생겼고, 2014년에는 ‘프로그래밍’이라는 과목이 생겼다. 문제는 교사들도 기술이나 프로그래밍에 대해 배우지 않아 교육 방법을 잘 몰랐다는 점”이라며 “최근에는 AI에 대한 관심도 커지며 ‘어떻게 하면 아이들에게 AI와 기술을 잘 가르칠 수 있는지’를 교사들과 함께 고민하기 위해 이 프로젝트가 탄생했다”고 설명했다. AI 나우는 지난 1년간 핀란드 내 5개 지역에서 활동 중인 교사들이 AI 교육법을 함께 논의하고 직접 시도해 볼 수 있게 지원했다. 이 같은 활동이 가능했던 배경에는 ‘높은 자율성’이라는 핀란드 공교육의 특징이 있다. 프로젝트 디자이너 에밀리아 마틸라는 “핀란드 교육계는 수직적 상하 관계가 아니라 수평적이다. 중앙 교육 기관이 지자체 교육 기관과 각 학교에 일방적으로 지시하기보다는 상당한 자율성을 주고 스스로 교육 환경을 조성할 수 있게 한다”며 “커리큘럼을 크게 벗어나지 않는 한 어떻게 교육할지 교사가 정할 수 있는 자율성이 존중되기 때문에 AI 나우에서처럼 다양한 교육법을 시도하는 게 가능하다”고 설명했다. AI 나우는 유아동 대상 AI 기초 교육은 특히 놀이를 통해 AI를 ‘인식’하게 하는 것이 핵심이라고 강조한다. 살로 매니저는 “아이들이 스스로 일상 속에서 AI와 연관된 일들이 어떤 게 있는지 알아차려야 AI의 원리와 개념을 깊이 이해하고 머신러닝적 사고도 할 수 있게 된다”며 “이 과정에서 놀이 기반의 학습 방식으로 아이들이 창의적이고 자연스럽게 AI 원리를 체득하게 하는 것도 중요한 부분”이라고 강조했다.

인공지능(AI)의 ‘운명(fate)’은 어떻게 될까. 챗GPT 등 생성형 AI가 보급되고, AI로 대량 생산된 거짓 정보가 만연해지면서 AI가 민주주의를 위협한다는 경보음이 울리고 있다. AI의 편향성과 불투명성이 선거에 영향을 미칠 뿐 아니라 기본권을 침해하는 등 민주주의 가치를 훼손한다는 것이다. 실제 AI가 널리 사용되면서 AI 오·남용이 민주주의에 악영향을 미치는 사례는 갈수록 늘고 있다. 5일 AI 관련 데이터를 전문으로 취급하는 ‘AI, 알고리즘, 자동화 사고 및 논쟁 공공 데이터베이스’(AIAAIC)에 따르면 AI 관련 사고·논란 수는 2012년 10건에서 2021년 260건으로 26배 증가했다. 딥페이크로 만들어진 볼로디미르 젤렌스키 우크라이나 대통령의 항복 영상이나, 런던 경찰청이 범죄조직의 잠재적 위험도를 평가하기 위해 사용한 AI 시스템에서 특정 소수 민족이나 인종을 차별하는 경향이 발견된 사건 등이 대표적이다. 전문가들은 인공지능의 운명이 공정성(Fairness), 책임성(Accountability), 투명성(Transparency), 윤리의식(Ethics)의 앞글자를 딴 ‘FATE’의 확보 여부에 달려 있다고 진단한다. 실제 유럽연합(EU)을 중심으로 세계 주요국은 윤리적 차원에서 논의됐던 FATE 원칙을 법제화하는 단계에 들어섰다. ◆‘FATE’ 법제화 나선 AI 선진국들 AI 규제 법제화에 가장 속도를 내는 곳은 EU다. EU는 2021년 AI 프로그램을 4등급으로 평가·분류해 관리하는 내용의 AI법 초안을 만든 후 논의를 진행해 왔다. 챗GPT 등 생성형 AI 등장 이후에는 금지 인공지능을 확대하고 고위험 인공지능의 투명성 의무를 확대하는 내용의 수정안을 만들었다. 지난 6월14일 본회의를 통과한 AI법은 현재 EU 의회·집행위원회·이사회가 3자 협상을 진행 중으로, 전 세계 최초로 AI를 규제하는 공식 법안이 탄생할 가능성이 높다. EU AI법은 인간 중심의 접근을 위해 △인간에 의한 감독 △기술적 견고성·안전성 △프라이버시·데이터 거버넌스 △투명성 △다양성·비차별성·공정성 △사회·환경복지를 AI가 준수해야 할 일반원칙으로 제시한다. 또 인공지능의 권리 침해를 예방하기 위한 기본권 영향평가 등을 도입했고, 생성형 AI에 대해서는 기본권·민주주의·안전 등에 위반되지 않는 콘텐츠를 만들 것을 요구한다. 빅테크 기업을 중심으로 AI 시장을 선점하고 있는 미국은 그동안 진흥에 초점을 둬왔지만, 최근 규제 필요성이 제기되고 있다. 2019년 발의됐지만 계류 상태였던 ‘알고리즘책임법’이 지난해 다시 발의됐다. 이 법은 AI 등 ‘자동화된 의사결정 시스템’과 그 시스템을 중요한 의사결정에 활용하는 과정이 소비자에게 미치는 영향을 평가하도록 하는 내용을 골자로 한다. 기업은 영향평가 요약보고서를 작성해 연방거래위원회(FTC)에 제출해야 한다. EU를 탈퇴한 영국은 친혁신적 방식을 전제로 AI를 규제하는 내용을 담은 AI 백서를 지난 3월 발간했다. 영국은 △안전·보안·견고성 △투명성·설명 가능성 △공정성 △책임·거버넌스 △경합성·보상 등 5가지 원칙을 바탕으로 규제 법안을 마련할 예정이다. ◆IAEA급 AI 감시기구 탄생할까 AI 업계에서도 AI의 위험성을 고려해 AI를 규제해야 한다는 주장이 나온다. 챗GPT 개발사인 오픈AI의 최고경영자(CEO)인 샘 올트먼은 지난 5월 AI 관련 청문회에서 국제원자력기구(IAEA)와 같은 AI 국제기구가 필요하다고 밝혔다. 3월에는 일론 머스크 테슬라 CEO와 애플 공동창업자인 스티브 워즈니악 등이 6개월간 첨단 AI 개발을 일시 중단해야 한다고 주장했다. 취재팀이 지난 6월 런던과 베를린에서 만난 전문가들은 대체로 AI 규제를 위해 국제 협력이 필요하다는 의견에 동의했다. 조안나 브라이슨 교수는 “AI를 위한 글로벌 파트너십은 ‘기후변화에 관한 정부 간 협의체’(IPCC)와 같은 역할을 해야 한다”면서 “AI는 원자력과 마찬가지로 자연스러운 발견이 아니라 인간이 만든 기술이다. IAEA와 비슷한 방식으로 AI를 어떻게 개발하고 사용할지 규제하는 것이 필요하다”고 말했다. 브라이슨 교수는 AI 윤리 분야의 권위자로, 독일 베를린의 헤르티 스쿨 디지털 거버넌스 센터에 재직 중이다. 노팅엄대 호라이즌 디지털 경제 연구소를 거쳐 글로벌 회계·컨설팅 기업 EY에서 AI 윤리·규제 책임자를 맡고 있는 안스가 코네는 “AI는 국경을 초월해서 활용되기 때문에 국제 거버넌스를 구축하는 데 문화적 차이가 있고, 국가마다 다른 기준이 문제가 될 수 있다”며 “국제기구에서 기술 개발을 주도하고 규제를 통합시키면서 나아가야 한다”고 했다. 그는 EU 의회를 위한 ‘알고리즘 책임과 투명성을 위한 거버넌스 프레임워크’에 관한 과학 기술 옵션 평가 보고서의 수석 저자다. 특히 영국은 AI 규제 논의의 주도권을 잡기 위해 공을 들이고 있다. 영국은 오는 11월1∼2일 AI 안전 정상회의를 개최한다. AI 규제를 주제로 정상회의가 열리는 것은 이번이 처음으로, 회의에서는 AI 기술의 위험성을 공유하고 이를 완화하는 공동 접근 방식을 도출하기 위한 협력 방안 등이 논의될 전망이다. 영국 정부는 AI 규제를 위한 국제기구를 유치하겠다는 목표를 세운 것으로 알려졌다. 적절한 규제와 안전망이 마련될 때까지 AI 개발을 일시 중단하거나 속도를 늦춰야 한다는 목소리도 나온다. 하지만 AI 규제에는 단순 윤리 문제뿐 아니라 글로벌 기술 패권 경쟁 문제 등이 얽혀 있다. AI 선도 기업이나 국가가 AI 규제 논의를 주도하는 것은 ‘사다리 걷어차기’라는 시각도 있다. 자신들의 기득권을 지키고 후발주자의 성장을 막기 위한 의도라는 것이다. 다니엘 아부 독일 AI 협회 이사는 “미국의 빅테크 기업들은 전혀 규제 없이 AI를 개발해 왔고 성과를 내왔다”면서 “지금 이 순간 규제를 하고 개발을 멈추자는 것은 미래에 대한 두려움이 아니라 후발주자인 독일이나 한국의 기업들이 따라오지 못하게끔 길을 막으려는 것으로밖에 보이지 않는다”고 강조했다.

사회 전반에서 인공지능(AI)에 대한 주목도가 높아지면서 AI 활용 및 규제에 관한 논의가 점차 관심을 받고 있다. 정부는 AI 윤리 기준을 제정하는 등 대응 움직임을 보이고 있지만 입법적 측면에서는 아직까지 관련 법이 하나도 제정되지 못한 걸음마 단계다. 국회에서 AI에 관한 특별위원회 구성이나 구체적인 입법 논의가 시급하다는 지적도 나온다. 5일 정부에 따르면 과학기술정보통신부는 ‘인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안’을 추진 중이다. 현재 국회 과학기술정보방송통신위원회 법안소위를 통과한 이 법은 고위험 영역에서 활용되는 인공지능을 정의하고, 인공지능 활용 시 사전 고지 의무를 부과한다. 또 신뢰성 확보 조치 등을 사업자 책무에 규정해 AI 사용에 따른 책임 소재도 명확히 하는 내용 등도 담았다. 앞서 과기부는 2020년 12월23일 ‘국가 AI 윤리기준‘을 발표한 바 있다. 여기에서 인간의 존엄성 원칙, 사회의 공공선 원칙, 기술의 합목적성 등 3개 기본원칙을 제시했다. 이를 바탕으로 AI 개발과 활용 과정에서 △인권 보장 △프라이버시 보호 △다양성 존중 △침해금지 △공공성 △연대성 △데이터 관리 △책임성 △안전성 △투명성 등 10대 요건이 충족되도록 했다. 그러나 AI와 관련한 국회 입법 차원으로 들어가면 아직까지 우리 국회의 관심도와 논의 수준이 해외와 비교해 낮다는 지적이 나온다. 영국, 독일 등 여러 선진국의 의회가 일찌감치 AI를 전담하는 위원회를 구성해 관련 논의를 진행하고 보고서를 내고 각종 입법 논의를 해온 것과 달리 우리 국회는 아직까지 AI를 전담하는 위원회가 없다. 자연스레 AI에 관한 입법 논의도 거의 이뤄지지 않아 왔다. 앞으로 AI가 우리 사회 전반에 끼칠 파급력을 생각하면 입법부인 국회가 앞장서서 AI 관련 법적 미비점을 점검하고 입법 논의를 주도해야 하지만 아직까지 국회에서는 AI 관련 입법 논의가 그다지 활발하지 않은 것이 현실이다. AI에 관한 논의가 거의 이뤄지지 않다 보니 관련 법안 발의도 미미한 수준이다. 국회 의안정보시스템에 따르면 21대 국회 들어 발의된 인공지능 관련 법안은 총 13건인데 이 중 단 한 건도 통과되지 못하고 계류 중이다. 올해 들어 직접적으로 인공지능에 관해 발의된 법안은 지난 2월 더불어민주당 황희 의원이 발의한 법안과 지난달 국민의힘 안철수 의원이 발의한 법안 2건뿐이다. 이외에 국민의힘 송석준 의원과 정희용 의원 등이 선거에서의 AI 활용을 제한하는 내용의 공직선거법 일부개정안을 발의하기도 했지만 이들 역시 한 번도 논의되지 못한 채 상임위 접수 단계에 머물러 있다.

“인공지능(AI)이 숙주를 잡아먹는 기생충이 돼선 안 된다. 더 늦기 전에 노동자의 권리를 보호할 더 강력한 법안이 필요하다.” 지난 6월20일(현지시간) 영국 런던 하원 의사당 제9회의실에서 열린 ‘AI 혁명의 노동자 경험’ 세미나에서 배우이자 성우인 로런스 부바르가 이렇게 말하자 장내에서 박수가 터져 나왔다. 부바르는 “학습 데이터가 없으면 AI는 존재할 수 없다”면서 “그런데도 인공지능 회사들은 허락 없이, 적절한 보상이나 보수도 제공하지 않고 우리의 목소리·연기·외모를 빼앗아 데이터로 알고리즘을 훈련시켜 우리를 대체할 수 있는 제품을 생산하고 있다”고 토로했다. 이 세미나는 영국노총(TUC)과 싱크탱크 커넥티드바이데이터가 주최하고, 영국 노동당 믹 휘틀리 하원의원 등이 참석했다. 휘틀리 의원은 지난 5월 노동자의 권리 보장을 위해 직장 내에서 AI 사용을 규제하는 법안을 발의했다. 해당 법안은 고용주가 직장에 AI를 도입하기 전에 직원·노동조합과 협의를 해야 하는 법적 의무를 도입하고, 알고리즘으로 인한 차별을 방지하기 위해 기존의 평등법을 강화하는 것을 골자로 한다. 휘틀리 의원은 “매장, 사무실, 공장, 서비스 분야에서 AI와 함께 일하는 사람들의 권리를 보호하고, 미래 세대를 위해 이러한 권리를 보존하고자 하는 것이 법안의 핵심 목적”이라면서 “근본적으로는 점점 더 기계에 의해 운영되는 세상에서 사람의 중요성을 인식하는 것”이라고 설명했다. 실제로 아마존 직원인 가필드 힐턴과 우체국 직원 루크 엘가는 AI가 일터에서 사용되면서 나타나는 노동권 침해에 대해 증언했다. AI를 활용한 업무 시스템이 책임이나 투명성 없이 노동자를 감시하고 통제하는 데 사용되고 있다는 것이다. 지나치게 생산성만을 추구하면서 부상이나 질병 등 개인의 특성을 고려하지 않는 점이 대표적이다. 힐턴은 “AI는 (건강 상태를) 불리하게 만드는 작업을 선호했다”고 말했다. 엘가는 “노사 간 합의를 통해 AI 기술이 채찍을 휘두르는 사람만을 위한 것이 아닌 모든 사람의 이익을 위해 사용될 수 있도록 보장해야 한다”고 주장했다.

빅테크 기업들이 인공지능(AI) 서비스를 앞다퉈 확장하면서 개인정보 수집량이 급격히 늘고 있다. AI는 스마트폰이나 컴퓨터 이용 기록을 분석해 사람들의 취향, 관심사, 구매 이력, 검색어는 물론 집 주소, 친구 관계 등에 이르기까지 다양한 사생활 정보를 깊숙이 파악해 향후 행동을 예측하는 수준에 이르렀다. 특히 온라인 활동정보인 ‘행태정보’를 바탕으로 추론하면 정치 성향 등 민감한 정보까지 얻을 수 있어 우려가 제기된다. 내년 미국 대선과 한국 총선을 앞두고 정치권에서는 AI를 활용한 선거가 일제히 예고됐다. 유권자들의 정보가 기업에 의해 분석되고 활용될 가능성이 커졌지만 정작 유권자들은 자신의 개인정보 활용 사실조차 제대로 인지하지 못하는 실정이다. 4일 세계일보가 국내에 서비스 중인 오픈AI의 챗GPT, 구글의 바드, 마이크로소프트(MS)의 빙 등 3대 생성형 AI와 개인 추천화 알고리즘이 포함된 사회관계망서비스(SNS) 유튜브와 메타(페이스북)를 대상으로 개인정보 수집 현황을 조사해 보니 민감한 프라이버시 정보가 대거 수집되고 있었다. 각 기업이 밝힌 개인정보보호 규정을 분석한 결과, 생성형 AI 3사는 모두 사용자와 AI의 대화 정보를 수집하고 있었다. 챗GPT는 사용자 콘텐츠라는 이름으로 대화 내용과 파일 업로드 또는 피드백에 포함된 개인정보를 저장했다. 바드 역시 대화 정보와 제품 사용 정보, 위치정보 등을 모으고 있었다. 빙은 보다 구체적이다. 사용자가 MS 채팅봇과 주고받은 음성 및 텍스트 외에도 관심사와 즐겨 찾는 정보, 연락처 및 다른 사람 또는 조직과의 소통이나 상호작용 등을 수집한다고 밝혔다. 이들 서비스는 이 밖에도 위치정보, 와이파이 식별데이터, 인구통계학적 데이터, 결제 시 결제정보 등도 수집했다. 수집한 정보는 대부분 자사의 AI를 학습시키는 데에도 활용하고 있었다. 바드는 정보 저장 기간에 대해 기본 18개월에서 3∼36개월로 변경이 가능하다고 설명했다. 품질 관리 및 제품 개선을 위해 검토자(회사)가 대화(사용자)를 읽고 주석을 달아 처리할 수 있다고도 했다. 개인 맞춤형 알고리즘을 포함한 SNS는 보다 다양한 정보를 수집했다. 유튜브는 검색어, 시청 영상, 콘텐츠와 광고 조회 및 상호작용, 음성 및 오디오 정보, 구매 활동, 사용자가 교류하거나 콘텐츠를 공유하는 사람들 외에도 타사 사이트와 애플리케이션(앱)에서의 활동, 사용자가 동기화한 크롬 브라우징 기록, 구글 서비스를 사용한 통화나 메시지 정보까지 수집한다고 밝혔다. 또 이용자의 집이나 직장 같은 장소에는 라벨을 지정한다고 했다. 시간대별 체류 시간을 바탕으로 추론을 통해 해당 위치정보를 활용하는 것으로 업계에선 추정한다. 메타의 경우 회원이 만든 콘텐츠, 메시지, 광고를 포함해 회원이 보거나 상호작용하는 유형, 앱 기능이나 앱에서 취하는 행동, 거래정보, 친구나 팔로어의 관계, 교류하는 이용자 등 다양한 행태정보를 수집했다. 특히 다른 사람의 활동을 바탕으로 개인정보가 수집되는 경우도 있었다. 이 밖에도 이용하는 게임, 학력 등도 수집한다고 명시했다. 문제는 빅테크 기업들이 추론 방식을 사용할 경우 단순 취향 분석에 그치는 것이 아니라 개인의 정치 성향 등 민감한 정보도 쉽게 파악이 가능하다는 것이다. 예를 들어 특정 정당의 정치인과 친구 관계를 많이 맺고 있거나, 그와 관련한 글에 댓글이나 좋아요 등을 누르는 행태정보가 쌓일 경우 해당 이용자의 정치 성향을 추론할 수 있는 식이다. 김명주 인공지능윤리정책포럼 위원장은 “기업들이 개인정보 데이터를 가져가 조립을 한다. 일종의 프로파일링”이라며 “이를 통해 누구와 친한지, 자주 가는 장소가 어디인지, 그 사람이 좋아하는 것 등을 모두 추론할 수 있다. 유럽에서는 이런 프로파일링은 당사자의 허가를 받지 않으면 할 수 없도록 규제한다”고 말했다. 미국 연구기관 AI 나우의 공동 창립자인 메러디스 휘터커 시그널 재단 대표도 “정보 비대칭성을 사용해 시민이 감시당할 때 권력을 가진 사람들은 이를 통제하거나 조작하는 방식으로 의사결정을 내릴 수 있다”며 “내 지출 습관이나 친구 관계 등에 대해 알고 있다면 내 행동을 예측하거나 통제할 수 있다”고 경고했다. ◆허술한 개인정보 보안, 선택권은 없어 문제는 일반 이용자들은 자신이 생성한 광범위한 데이터가 이처럼 수집되고 활용된다는 점을 잘 인지하지 못한다는 것이다. 개인정보보호위원회의 ‘2022 개인정보보호 활용조사’를 보면 맞춤형 서비스를 위해 검색 이력, 구매 이력 등 행태정보 수집 사실을 인지하고 있느냐는 질문에 응답자의 60.2%는 ‘인지하지 못하고 있다’고 답했다. 이는 빅테크 기업들이 이용자의 동의를 충분히 얻지 못하고 있다는 의미다. 특히 60대 이상은 82.2%가 개인정보 수집 사실을 인지하지 못했다. 반면 맞춤형 서비스를 위해 ‘본인의 행태정보를 제공하겠다’는 응답은 25%에 불과했다. 이 조사는 전국 만 9∼79세 내국인 4000명을 대상으로 이뤄졌다. 정부는 지난 7월 적법한 동의 없이 이용자의 타사 행태정보를 수집해 맞춤형 광고에 이용한 메타 아일랜드와 인스타그램에 대해 각각 65억1700만원과 8억8699만원의 과징금을 부과했다. 메타는 페이스북 로그인 기능에 행태정보 수집 도구를 결합해 사업자 및 이용자 모르게 타사 행태정보를 수집한 혐의다. 지난 3월에는 챗GPT의 개인정보 유출이 발생해 한국 이용자(IP기준) 687명의 성명, 이메일, 결제지, 신용카드 번호 4자리와 만료일 등의 정보가 유출됐다. 광범위하게 수집된 개인정보는 필연적으로 유출의 위험성을 지닌다. 취재팀의 한 기자가 10년 이상 사용한 복수의 이메일 계정 등에 대해 구글의 유료서비스인 ‘다크 웹 모니터링’을 통해 확인한 결과 비밀번호 5곳, 이메일 7곳, 이름 1곳에 각각 정보가 유출된 것으로 확인됐다. 일부는 과거 가입했던 쇼핑몰이 해킹된 사례였고, 개인정보를 모은 파일 형태에 아이디와 비밀번호가 포함된 경우도 있었다. 다크웹은 일반 검색엔진으로는 접근할 수 없는 인터넷의 한 영역으로 주로 비공개 정보나 불법적인 상품의 매매 등에 사용된다. 이처럼 기업은 개인정보를 허술하게 관리하고 있지만 이들에게 정보 제공을 거부하면 서비스를 이용할 수 없다는 점도 문제다. 해외에서는 개인에게 선택권을 줘야 한다는 주장이 제기된다. 오세욱 한국언론진흥재단 책임연구위원은 “기업이 이용자에게 추천받지 않을 권리를 알리고 이를 제대로 시행하지 않는 것이 문제”라며 “내비게이션은 길 안내를 받지 않기 위해 앱을 종료하고 조금 불편해지면 되지만 SNS는 개인정보를 제공하지 않으면 사용할 기회조차 주지 않는다”고 지적했다. 뉴욕대 ‘책임 있는 AI 센터’ 소장인 줄리아 스토야노비치 교수는 “유럽연합(EU)의 개인정보보호법(GDPR)은 개인에게 자신의 데이터가 어떻게 수집돼야 하고, 그 데이터가 어떻게 사용돼야 하는지, 또는 사용해서는 안 되는지 결정하는 권리를 부여한다”며 “모든 국가에서 개인이 자신의 개인정보를 통제할 수 있는 방법을 마련하는 것이 중요하다”고 강조했다.

‘국민의힘 안철수 대표는 대한민국의 정치인으로, 제19대, 20대 국회의원을 역임하였습니다. 2022년 4월18일 국민의당을 흡수하여 국민의힘과 합당하였으며, 이후 당대표 선거에 출마하여 이준석 전 대표와 경쟁하였으나 낙선하였습니다.’ 지난달 24일 출시된 ‘한국판 생성형 인공지능(AI)’ 네이버 하이퍼클로바X에 ‘국민의힘 안철수 대표에 대해 알려줘’라고 입력하면 생성되는 답이다. 하이퍼클로바X는 질문의 오류를 정정하지 않고(국민의힘 대표는 김기현 의원), 거짓 정보를 더 이어 붙여 그럴듯한 답을 만들었다. 미국 오픈AI의 챗GPT, 구글 바드에 이어 국내에서도 거대언어모델(LLM)을 기반으로 한 생성형 AI 서비스가 등장하면서 이들이 거짓 정보 유포에 활용될 수 있는 우려가 커지고 있다. 특히 내년 총선에서 AI의 허위 콘텐츠가 유권자의 판단을 왜곡할 가능성이 제기되면서 대책 마련에 속도가 붙고 있다. 중앙선거관리위원회는 지난달부터 ‘허위사실공표·비방 특별대응팀(AI 전담팀)’을 편성해 운영하고 있다. AI 전담팀은 최대 500여명 규모로 구성해 전국 시·도 선관위에 단계별로 확대 운영한다는 방침이다. 과학기술정보통신부도 이달 중 AI의 부작용을 막을 수 있는 기술적인 보완 대책을 내놓을 예정이다. 행정적인 조치뿐 아니라 AI를 이용한 거짓 정보를 처벌하는 입법적 조치가 있어야 효과적인 대응이 가능하다는 지적도 나온다. 현행 공직선거법의 허위사실공표죄로 AI가 생성한 거짓 정보를 처벌할 수 있는지 모호하기 때문이다. 지성우 성균관대 법학전문대학원 교수는 “현행 법규는 누군가 일부러 만들어낸 거짓말을 처벌하는 것인데, AI가 자체적으로 생성한 허위정보에도 적용할 수 있는지 불확실하다”며 국회가 관련 입법에 나서야 한다고 지적했다.

‘스탈린처럼 보이는 바이든, 죄수복 차림으로 머그샷을 찍는 바이든…’ ‘친구들과 마리화나를 피우는 트럼프, 법정에 불행하게 앉아 있는 트럼프…’ 미국의 이미지 생성형 인공지능(AI) 프로그램 ‘미드저니’에 조 바이든과 도널드 트럼프를 키워드로 검색하면 두 사람을 악랄하고 우스꽝스럽게 묘사한 이미지가 화면을 가득 채운다. 프로그램 이용자들이 간단한 두세 문장을 입력해 만든 가짜 사진들이다. 미드저니에 월 8달러(약 1만원)만 내면 누구든지 가짜 사진을 10초에 4개꼴로 무한정 생성할 수 있다. AI를 이용해 가짜 사진, 영상 등을 합성하는 ‘딥페이크(Deepfake)’가 민주주의를 뒤흔들 수 있다는 우려가 전 세계적으로 커지고 있다. 특히 내년 11월 대선을 치르는 미국은 선거 운동에서 딥페이크 사용을 규제하기 위한 방안 마련에 속도를 내는 중이다. ◆실제적 위험 된 딥페이크 딥페이크는 이미 전 세계 도처에서 시민들을 혼란에 빠뜨리고 있다. 최근 생성형 AI 프로그램이 상용화하면서 누구나 손쉽게 딥페이크를 만들 수 있게 된 게 주요인이다. 지난 3월 전 세계에 퍼진 트럼프 전 대통령이 연행되는 사진은 미드저니를 통한 간단한 조작으로 만들어진 딥페이크였다. 프란치스코 교황이 명품 패딩을 입은 가짜 사진 역시 이 프로그램으로 만들어졌다. 정치 영역에서의 딥페이크에 관해 연구한 매트 그로 미국 노스웨스턴대 조교수는 “지금과 100년 전의 가장 큰 차이점은 오늘날에는 거짓 정보를 훨씬 더 쉽고 빠르고 값싸게 생성할 수 있다는 것”이라며 “생성형 언어 모델로 제작한 가짜 콘텐츠를 문자-음성 변환 알고리즘에 입력해 공적인 인물의 목소리로 바꾸고, 딥페이크 영상도 활용하면 완벽하진 않지만 거짓 정보를 쉽게 만들 수 있다”고 설명했다. 딥페이크는 단순한 논란거리를 넘어 정치·경제에 실질적인 위협을 가하고 있다. 지난 5월 미국 펜타곤(국방부) 청사 근처에서 대형 폭발이 발생했다는 가짜 사진이 퍼지면서 미 증시와 국채, 금값이 출렁였다. 지난 5월 튀르키예 대선에선 분리주의 무장단체가 야당 후보를 지지하는 가짜 영상이 확산했고, 그 여파로 레제프 타이이프 에르도안 대통령이 연임에 성공했다. ◆불가능한 딥페이크 탐지 문제는 딥페이크는 매 순간 새롭게 생성되고 있는데 이를 구별할 수 있는 확실한 방법이 아직 없다는 것이다. 그로 조교수는 특정 영상이 딥페이크인지 아닌지 구별하는 실험에서 참여자의 70% 정도만이 구별에 성공했다고 설명했다. 딥페이크를 탐지하는 AI 기술을 개발하려는 시도도 많았지만, 전문가들은 이론상 불가능하다고 진단했다. 뉴욕대 ‘책임 있는 AI 센터’ 소장인 줄리아 스토야노비치 교수는 “우리가 가짜 콘텐츠를 구별하는 방법을 개발하는 즉시 가짜 콘텐츠는 군비 경쟁을 하는 것처럼 그 방법을 극복할 것”이라며 “가짜 콘텐츠를 구별하는 기술적인 방법은 통하지 않을 것”이라고 지적했다. 딥페이크를 구별할 수 있다고 해서 문제가 해소되는 것은 아니다. 거짓 정보는 특정 사건과 인물 등에 대한 편견을 강화하는 것만으로도 위력을 발휘하기 때문이다. 미국의 세 대학 기관이 합작해 설립한 ‘신뢰할 수 있는 AI 연구소’ 소속 데이비드 브로니아토프스키 조지워싱턴대 부교수는 “‘칩페이크’(Cheapfake: 쉽게 구분할 수 있는 가짜 콘텐츠)라고 불린 낸시 펠로시 전 하원의장이 술 취한 것처럼 보이는 4년 전 영상도 사람들의 지각에 영향을 끼치면 위협을 가한 것”이라며 “딥페이크는 상대 정치인에 대한 부정적인 이미지를 확산하는 데 사용될 수 있다”고 했다. ◆규제 방안 마련에 속도 딥페이크의 위험성을 완화하기 위한 법적인 틀을 만드는 게 급선무라는 지적이 많다. 짧은 선거 기간 내에 딥페이크를 탐지하고 책임을 묻는 게 쉽지 않은 만큼, 피해를 줄일 수 있는 선제적인 방책을 마련해야 한다는 것이다. 연방 차원의 딥페이크 규제 방안이 없는 미국은 최근 연방선거관리위원회(FEC)가 정치 광고에서 딥페이크 사용을 규제해야 한다는 시민단체의 청원을 검토하기로 결정하면서 논의에 속도가 붙고 있다. 지난 6월 유럽의회에서 통과된 ‘유럽연합(EU) AI법’에도 AI로 만들어진 창작물에 워터마크를 표기하도록 규정돼 있다. 시민들의 딥페이크에 대한 이해력을 높이는 게 근본적인 해결책이라는 지적도 나온다. 그로 조교수는 “사람들이 자신이 보는 콘텐츠가 만들어진 이유, 출처와 같은 맥락을 파악하고 혹시나 자신을 속이려고 하는 건 아닌지 비판적인 시각을 갖는 게 제일 중요하다”고 했다.

인공지능(AI) 기술을 탑재한 거짓 정보가 민주주의의 최대 위협 요소로 대두되고 있다. 거짓 정보는 더 이상 허위 사실이 포함된 가짜뉴스나 사회관계망서비스(SNS) 게시글, 유튜브 영상에 머무르지 않는다. 특정 인물이 하지 않은 행동과 발언을 사진과 영상으로 조작하는 데까지 이르렀다. 지난 1월 미국에선 조 바이든 대통령이 백악관에서 성소수자를 혐오하는 연설을 하는 가짜 영상이 급속도로 퍼졌다. 3월에는 도널드 트럼프 전 대통령이 수갑을 차고 연행되는 가짜 사진이 등장했다. 사람들은 글보다 사진, 사진보다 영상에 신뢰감을 느끼는 데다 이목을 집중시키는 자극적인 장면이 담겨 유포 속도가 빨랐다. <관련기사 2·3면> 거짓 정보가 더 그럴듯해지고, 더 빨라지게 된 배경에는 ‘딥페이크(Deepfake)’가 있다. 딥페이크는 다양한 형태의 콘텐츠를 반복 학습한 AI로 가짜 사진, 영상, 음성 등을 합성하는 기술이다. 예를 들어, 바이든 대통령의 혐오 영상은 백악관 연설 영상에 바이든 대통령의 목소리와 흡사한 가짜 음성, 입 모양을 AI로 합성해 만들어졌다. 딥페이크는 누구나 쉽게 제작할 수 있다는 점에서 위험성이 더 크다. 3일 기준 미국의 이미지 생성형 AI 프로그램 ‘미드저니(Midjourney)’에 바이든 대통령을 검색하면 나오는 이미지는 2만4952건, 트럼프 전 대통령을 검색하면 나오는 이미지는 5만5463건에 달한다. 모두 프로그램 이용자들이 간단한 몇 문장을 입력해 만들어낸 가짜·가상 사진들이다. 미국과 유럽은 딥페이크가 선거 기간 유권자의 판단을 왜곡할 것으로 보고 대안 마련에 속도를 내고 있다. 국내에선 아직 정치 영역에서 딥페이크 문제가 불거지지 않았지만 안심할 수 없다는 게 전문가들의 판단이다. 실제 외국의 한 생성형 AI 프로그램 모델을 공유하는 사이트에는 윤석열 대통령의 딥페이크 모델이 게시돼 있다. 이미지 생성형 AI 프로그램인 ‘스테이블 디퓨전(Stable Diffusion)’을 기반으로 수십장의 사진을 추가 학습시켜 별도로 만든 이 모델은 추가적인 명령어(프롬프트) 입력으로 다양한 형태의 가짜 이미지를 무한대로 생성할 수 있다. 여기에는 북한 김정은 국무위원장, 김여정 부부장 등 내년 총선을 앞두고 가짜뉴스에 활용될 경우 큰 파장을 미칠 수 있는 인물의 실사에 가까운 이미지 모델까지 올라와 있어 우려가 제기된다. 취재팀이 지난 7월 뉴욕에서 만난 줄리아 스토야노비치 뉴욕대 교수는 “AI는 나쁜 행위자들이 잘못된 정보를 퍼뜨려 여론을 움직이는 것을 돕는다는 점에서 큰 위기”라고 지적했다. 지성우 성균관대 법학전문대학원 교수는 “대선 2∼3일 전에 딥페이크 영상이 유포되면 큰 혼란이 있을 것”이라며 “국회가 딥페이크에 대한 책임 문제를 확실히 하고 처벌 조항을 강화한 법안을 마련해야 한다”고 했다.

“인공지능(AI)과 민주주의를 통합한다는 게 뭘 의미하는지, 또 AI와 정치를 결합해 어떻게 정책과 각종 사회 논의들을 만들어낼 수 있는지를 전 세계에 보여주고 싶었습니다.” 지난해 11월 덴마크 총선에 도전했던 소규모 정당 ‘신서틱 파티(Synthetic Party·인조정당)’의 창립자인 아스커 브릴드 스태우내스(Asker Bryld Staunæs)는 지난 6월12일 덴마크 오르후스(Aarhus) 대학교에서 진행한 세계일보와의 인터뷰에서 “‘마이크로(Micro·초소형)’ 사이즈의 정당이지만 머신러닝(machine learning) 모델을 통해 어떻게 사람들의 생각을 모으고 그걸 정치적인 비전으로 만들 수 있는지에 관한 가능성을 보여주는 게 우리 정당의 목표였다”며 창당 이유를 설명했다. 국제사회에서 큰 주목을 받은 신서틱 파티 창립자가 한국 언론과 대면 인터뷰를 한 것은 이번이 처음이다. AI를 핵심으로 하는 정당을 창립한 이유에 대해 스태우내스는 “AI가 정치분야와 사회에서 어떤 역할을 할 수 있는지에 대한 논쟁이 아직 제대로 이뤄지지 않은 상황에서 민주주의 사회의 정치성(governmentality)에 영향을 줄 수 있는 알고리즘을 반영하는 뭔가를 만들어보고 싶었다”며 “AI가 어떻게 정치적인 비전을 형성할 수 있는지, 머신러닝 모델로 어떻게 사람들의 생각을 모으고 그걸 정치적 비전으로 만들 수 있는지에 관한 가능성을 보여주고자 한 게 우리의 목표였다”고 설명했다. 예술 전공으로 박사 학위를 밟고 있는 그는 지난해 덴마크 총선을 앞두고 마인드퓨처라는 기술 벤처기업에 재직하면서 AI 챗봇 ‘컴퓨터 라스(Computer Lars)’를 당대표로 하는 정당을 창립했다. 기존에 AI가 정당에서 활용되는 방식이 단순히 AI 정치인이나 소통용 챗봇을 만드는 데 치중한 것과 달리 신서틱 파티는 아예 AI가 당대표가 돼 이끄는 정당을 표방한다. 정책 등 모든 측면을 실제로 AI가 주도하도록 한 점에서 기존의 AI정치와 차별점을 가진다. 당대표인 챗봇 컴퓨터 라스는 덴마크 내 여러 소수정당들의 공약과 의견들을 수집하고 혼합해 당의 정책과 공약을 생성해냈다. 대표적인 것이 덴마크 평균 월급여의 두 배에 해당하는 10만 크로네(약 1900만원)를 매달 모든 덴마크 국민에게 보편적 기본소득으로 지급하겠다는 공약이다. 챗봇이 당대표를 맡았다는 점과 챗봇 당대표가 내놓은 이 같은 파격적인 아이디어들로 신서틱 파티는 세계 각지에서 주목을 받았지만 정작 덴마크 내에서는 아직까지 AI를 정치에 결합하는 것을 진지한 시도로 받아들이지 않는 분위기다. 결국 지난 총선에서 의회에 입성하는 데도 실패했다. 그럼에도 스태우내스는 정당을 계속 유지하며 AI를 활용한 정치활동을 보여줄 계획이다. 전 세계의 AI 정당, 가상 정치인들과의 네트워크도 형성해가는 중이다. 스태우내스는 신서틱 파티의 총선 도전의 의미에 대해 “AI가 만든 정책·공약 등을 통해 AI가 우리의 정치적 상상력을 넓혀줄 수 있다는 걸 보여줬다”고 자평했다. 그는 “AI는 의회민주주의라는 사회적 계약 시스템 안에 있는 사람들과 달리 ‘정치적 현실감’에 얽매이지 않기 때문에 오히려 관습을 타파한 새로운 시도를 보여줄 수 있다”며 “기술 발전은 이미 통제할 수 없다. 이걸 어떻게 사용할 수 있는지 배우고 다양성을 받아들일 수 있는 사회로 나아가야 한다”고 강조했다. 이어 “AI는 예측불가능하고 어떻게 진화할지 아직은 알 수 없지만 정치적으로 시민들의 의견을 전에 없던 방식으로 시스템화하고 반영하는 능력을 보여주고 있다”며 “어떻게 보면 자원이 부족하거나 권력을 얻을 가능성이 작은 사람들에게 더 많은 정치적 기회를 주는 셈이므로 새로운 민주주의 정치를 촉진하는 역할을 한다고 볼 수 있다”고 덧붙였다.

“민주당과 공화당 모두 내년 대선 캠페인에 인공지능(AI)을 사용할 것이다. AI는 내년 선거 결과에 결정적인 영향을 끼칠 것이다.” 미국 민주당의 정치컨설팅 회사 ‘호난전략그룹(Honan Strategy Group)’의 대표 브래들리 호난은 내년 11월 치러지는 미국 대선을 이같이 전망했다. AI로 생성한 거짓 정보가 네거티브 선거전에 활용되고, 선거 광고, 후원금 모금, 메시지 작성, 유권자와의 소통 등 선거운동 전반에 AI가 폭넓게 쓰인다는 것이다. 미국에선 이미 AI가 정치 캠페인의 도구로 자리 잡고 있다. 정치컨설팅 업체들은 AI 기반 서비스를 내놓고 있고, 이를 이용하는 정치인들도 늘어나고 있다. ◆美, 정치도구로 AI 활용 미국의 정치컨설팅 업체들은 선거운동에 활용할 수 있는 AI 기술을 개발하고 있다. 공화당의 선거컨설팅 회사 ‘누미나르(Numinar)’는 유권자 데이터와 여론조사 결과 등을 AI로 분석해 투표 결과를 예측하는 프로그램을 개발했다. 이를 통해 후보자에게 투표할 가능성이 있는 유권자를 식별해 효율적인 선거운동이 가능하다는 것이다. 롭 머큐리 하원의원, 글렌 영킨 버지니아 주지사 등이 누미나르 AI를 선거운동에 활용했다. 정치후원금 모금에도 AI가 사용된다. 민주당 성향의 ‘스털링 데이터 컴퍼니(Sterling Data Company)’는 마케팅회사 등으로부터 수집한 데이터를 분석해 후원금을 낼 의향이 있는 사람을 식별하는 알고리즘을 개발했다. 존 페터먼 상원의원, 그레천 휘트머 미시간 주지사 등이 이 프로그램을 사용했다. 민주당 성향인 ‘퀼러(Quiller)’는 후원금 모금 이메일을 작성하고 유권자들에게 전송하는 AI 도구를 개발했다. ◆AI, 부동층 식별에 효과 전체 유권자 중 선거 판세를 가를 부동층을 식별하고 이들에게 선거운동을 집중하는 ‘마이크로 타기팅’ 전략에 AI를 활용하면 효과가 극대화된다는 평가다. AI 기반 분석 전문기업인 ‘피스컬노트(Fiscal Note)’의 대표 티머시 황은 “미국에서 마이크로 타기팅은 1990년대부터 있었는데, 2000년대 초에는 선거운동원이 유권자의 집을 일일이 방문해 누구를 투표할 것인지, 투표할 의향이 있는지 물었다”며 “이 같은 방법으로 정보를 최대한 많이 축적해 부동층을 파악하고 그들이 투표를 하게끔 선거운동을 한 것”이라고 설명했다. 그러나 유권자의 정치 성향을 짐작할 수 있는 데이터를 수집해 AI로 분석한다면 단기간 내에 효과적인 마이크로 타기팅이 가능하다는 전망이다. 황 대표는 “오늘날에는 사람들의 사회관계망서비스(SNS) 기록, TV 시청 기록 등 굉장히 많은 데이터를 활용할 수 있게 됐다”면서 “예를 들어 민주당 지지자의 경우에는 정치 드라마 ‘웨스트윙’을 더 많이 보고, 공화당 지지자는 (액션 드라마인) ‘24’를 더 많이 본다. 어떤 TV 프로그램을 보느냐에 따라 정치 성향을 구별할 수 있는 것”이라고 말했다. ◆시민 의사 파악에도 강점 AI를 여론조사 등에 활용하면 시민들의 의사를 더 정확하게 파악할 수 있어 대의민주주의 작동에 긍정적인 영향을 준다는 관측도 나온다. 호난 대표는 “전국의 국회의원 선거구당 여론조사에 답하는 시민 수는 평균 400명 정도에 불과한데 이는 우리가 대다수 사람이 생각하는 중요한 문제에 대해 듣지 못한다는 것”이라며 “AI를 사용하면 수천 명을 조사할 수 있고, 선거 캠페인을 더 많은 사람의 삶과 밀접하게 만들 수 있다”고 말했다. 호난전략그룹은 사람의 목소리와 흡사한 음성을 내는 여론조사 AI ‘엘리너 AI(Eleanor AI)’를 개발하고 있다. 이를 통해 정치권에서 그동안 대변하지 않았던 유권자들의 목소리까지 파악할 수 있다는 게 그의 설명이다. 호난 대표는 “밤늦게까지 일을 하는 사람들은 여론조사에 응답하기 어려운데, AI는 그들이 집에 돌아오는 새벽이나 자정에도 전화를 걸 수 있다”고 했다. ◆정치인-시민 소통에 도움 정치권에 시민들의 의사를 전달하는 데에도 AI가 활용될 수 있다. 피스컬노트는 시민단체 등이 정부와 의회에 요구사항을 효과적으로 전달할 수 있게 하는 AI 프로그램 ‘보터 보이스(Voter Voice)’를 운영하고 있다. 지난해에 보터보이스로 선출직 공무원에게 전달된 메시지는 총 2190만개에 달한다. AI 챗봇이 정치인과 유권자의 쌍방향 소통을 늘릴 수 있다는 전망도 나온다. AI 스타트업 ‘랭코드’ 김민준 대표는 “AI는 팩트나 근거가 존재할 때 이를 변형하는 데 좋은 성과를 낸다”며 “(AI로) 정책과 공약을 빠르고 정확하게 적은 비용으로 안내하는 것은 후보자와 유권자에게 이득이 되는 활용 방안”이라고 말했다.