최근에 인터넷과 단체 카톡방을 재밌게 만든 뉴스가 있었습니다. 100세 시대에 맞추어 UN이 청년 구분에 대한 새로운 기준을 제시했다는 뉴스였습니다. UN이라는 국제기구에서 발표했으니 공신력이 있는 정보라고 많은 사람들이 생각했을 겁니다. 게다가 고령화 흐름에 맞추어 연령 구분이 필요하다는 생각을 할 수 있었겠지요.

 

출처: 인터넷 커뮤니티

하지만 이것은 거짓이었습니다. 그럼에도 불구하고 국내 여러 언론사들이 UN에서 발표한 내용이라고 믿고 보도했던 해프닝이 있었습니다.

연령 구분처럼 SNS를 떠들썩하게 했던 또 다른 가짜뉴스가 있습니다. UN의 공식 언어는 영어, 중국어, 프랑스어, 러시아어, 스페인어입니다. 그런데 이 언어에 한국어가 추가 되었다는 소식이 온라인에 퍼지기 시작했습니다. BTS의 빌보드 차트 1위부터 UN총회 연설 등 굵직한 국제적 이슈들에 한국이 등장했으므로, 시기적으로 적절한 가짜뉴스였습니다.

아주경제: '오겜'·BTS 열풍에 한국어 'UN 공식 언어'로 추가?…가짜 뉴스 확산(바로가기)

이처럼 UN이라는 국제기구의 이름을 활용한 가짜뉴스는 진실과 거짓을 구분하기 힘든 내용으로 작성 되어서 온라인을 통해 퍼지게 됩니다. 심지어 출처가 UN이기 때문에 언론사부터 일반인들은 선뜻 가짜뉴스라고 정의하기 어렵습니다. 만약 가짜뉴스가 아니라면, 진실을 왜곡하거나 혹은 국제기구의 소식을 전하지 않은 것이라는 비판을 면하지 못하기 때문이죠. 그런데 이런 뉴스들은 사람이 생산하는 뉴스이지만, 인공지능이 가짜뉴스를 생산한다면 다른 국면으로 접어들게 될 것 같습니다. 챗GPT 등장 후 언론의 주목을 받았던 세종대왕 맥북 던짐 사건은 일회성 해프닝이 되었지만, 구체적인 사실 관계를 확인하기 어려운 소식을 인공지능이 개발하고, 배포한다면 어떻게 될까요?
 

한국일보: "세종대왕 맥북 던짐 사건 알려줘" 물었더니... 챗GPT의 엉뚱 답변 '밈'으로 유행 중

 


출처: 한국일보

디지털 리터러시의 중요성

전문가들은 미디어에서 무차별적으로 생산 되는 가짜뉴스에 대응하기 위해서 디지털 리터러시역량 강화를 강조합니다. 박하나 외(2021)는 디지털 리터러시는 디지털 기술의 등장과 함께 논의되기 시작한 개념이라고 소개합니다. 디지털 리터러시는 디지털 기기를 활용하는 측면과 디지털 매체를 통해 획득한 정보 평가를 넘어서, 디지털 매체를 통해서 습득한 정보를 활용, 공유, 소통하는 능력이라고 강조합니다.

박하나 외(2021): 국내외 디지털 리터러시 교육과정 분석

쉽게 말해서, 유튜브를 통해서 얻은 정보를 개인이 이해하고, 새롭게 활용할 수 있는 응용력을 말하는 것이죠. 바로 비판적 사고와 관점을 유지하면서 일방적으로 정보를 수용하지 않는 역량입니다.

특히 코로나19로 인해서 디지털 접근성이 높아진 환경에서 디지털 리터러시의 중요성은 더욱 강조되고 있습니다. 한국교육개발원은 초등교육에서 디지털 리터러시를 강화할 수 있는 방안에 대한 연구 보고서까지 발간했습니다. 그만큼 디지털 리터러시의 중요성이 날로 증가한다고 볼 수 있죠. 왜냐하면 자기주도적인 학습 능력과 비판적 사고 능력이 상대적으로 낮은 초등학생들에게 잘못된 정보 전달은 잘못된 지식과 학습 경험으로 이어질 수 있기 때문입니다.

정재원 외(2021): 포스트 코로나 시대의 디지털 리터러시 함양 방안: 초등교육 중심으로(RR2021-13)

인공지능(AI)은 통제불능의 괴수

인공지능은 우리 삶에 도움이 되는 수단이지만 동시에 위협이 될 수 있죠. 특히 인공지능에게 대체 될 수 있는 직업들이 지속적으로 강조되면서 새로운 기술, 지식 학습이 중요한 생존 과제가 되었습니다.

이 흐름에 맞추어서, UN의 안전보장이사회(안보리)가 나섰습니다. 로이터에 따르면, 2023년 7월 17일 UN 안전보장이사회는 인공지능에 대한 첫 번째 공식 토론회를 개최했습니다. 그동안 UN 안보리가 다루는 의제는 국가 사이의 갈등에 대한 문제였습니다. 예를 들면, 러시아의 우크라이나 전쟁이 최근 UN 안보리의 핵심 의제였죠.

경향신문: “AI, 통제불능 괴물…” 규제기구 만드는 유엔

UN News: Regulation essential to curb AI for surveillance, disinformation: rights experts

하지만 시대가 변했습니다. 더 이상 국가간의 갈등이 아니라 인간 vs 인공지능에 대한 갈등과 위협이 안보 이슈로 등극한 것입니다. 이 글을 쓰는 지금도 이 뉴스가 진짜 뉴스인지 아니면 가짜뉴스인지 검색 할만큼 가짜뉴스의 영향력은 쉽게 파악이 어려운 수준입니다.

물론 UN은 인공지능 자체를 규제의 대상에 포함시켜야 한다고 말하지 않습니다. UN의 규제 대상은 인공지능이 제작한 스파이웨어, 감시, 가짜뉴스 등처럼 사회적 혼란을 야기할 수 있는 원인을 사전에 예방하는 것입니다.

이를 위해서, 국제원자력기구(IAEA)처럼 전 세계가 인공지능을 규제할 수 있는 국제기구 설립의 중요성을 강조했습니다. 언론들에 따르면, 인공지능 규제를 위한 국제기구의 벤치마킹 모델로써 IAEA를 강조했다고 합니다. 그 이유가 무엇일까요?
 

 

출처: IAEA 홈페이지

IAEA는 1953년 설립된 국제기구입니다. 설립 목적은 원자력의 세계 평화, 보건 및 번영에 대한 기쳐 촉진과 확대 모색이라는 문구로 시작됩니다. 특히 IAEA의 기능은 “평화적 목적을 위한 원자력의 연구, 개발 및 실제적 활용에 유용한 작업 수행”이라고 명시되어 있습니다. 특히 핵비확산조약(Non-Proliferation Treaty, NPT)을 달성하기 위한 원자력 시설의 사찰과 검증 등 안전조치(safeguards) 활동을 통해 군사적 목적으로 전용되지 않도록 보장하는 것이 IAEA의 핵심 기능입니다.

IAEA가 설립된 1953년에 소련이 수소폭탄 실험에 성공했고, 영국도 핵실험을 실시 했었습니다. 냉전 시대의 최고 강대국들이 가장 위험한 군사 무기를 개발하는 시기였으므로, IAEA의 설립은 정치적, 군사적 목적으로 설립된 국제기구에 해당하죠.

이런 역사적 맥락을 고려했을 때, UN 사무총장이 제시한 인공지능 규제에 관한 국제기구의 설립은 결코 군사적 우려를 배제할 수 없습니다. 오히려 인공지능이 군사적 목적으로 활용된다면, 돌이킬 수 없는 결과를 초래할 수 있기 때문이죠. 그래서 전 세계의 주요 안보 이슈를 다루는 UN 안보리가 공식 주제로써 인공지능을 선택한 것으로 보입니다.
 

공존과 활용 아니면 규제?!

UN은 인공지능을 규제하기 위한 움직임을 보이고 있지만, 일상 생활에서 우리들은 인공지능을 친숙한 동료로서 생각합니다. 서점가에서 챗GPT를 활용하는 방법에 대한 책들을 쉽게 찾을 수 있습니다. 공공기관을 포함한 여러 회사들은 업무에서 챗GPT를 실용적으로 활용하는 방법을 공부하고 있습니다.

회사 업무를 넘어서 웹툰 시장에서도 인공지능은 새로운 보조 수단으로 주목받고 있습니다. 물론 일부 독자들은 작가의 순수한 그림 실력이 아니라 인공지능에 의존하는 것을 비판하지만 개인의 선택에 왈가왈부 할 수 없죠.

 
한국일보: "펜 대신 AI로 그린 게 웹툰이냐" VS "시대적 흐름"…AI웹툰 두고 갑론을박

인공지능을 활용하는 것이 나쁜 것은 아닙니다. 하지만 UN이 우려하는 것처럼, 잘못된 정보를 퍼뜨리고, 사회적 혼란을 야기하는 원인이 과거에 비하여 파악하기 어려워졌기 때문에 인공지능을 규제할 수 있는 국제기구 창설을 논의하는 것이겠죠. 유네스코는 "저널리즘, 가짜뉴스&허위정보" 핸드북을 통해서 가짜뉴스 혹은 허위정보를 다음과 같이 정의합니다.

유네스코 핸드북: 저널리즘, 가짜뉴스&허위정보 (국문본)

"허위정보는 거짓 정보(dishonest information)를 퍼뜨려서 사람들을 의도적으로 (때로는 교모하게) 혼란스럽게 만들거나 조종하려는 행위를 지칭할 때 사용한다. 허위정보는 수평적이면서도 상호 교차하는 여러 의사소통 전략과 자주 합쳐지고, 때로는 해킹이나 사람들의 평판을 훼손하려는 여러 전략과 겹치기도 한다. 일반적으로 잘못된 정보(misinformation)는 조작이나 나쁜 의도 없이 생산, 배포되는, 오해의 여지가 있는 정보를 지칭하는 말이다(유네스코, 2018., 7쪽)." 

유네스코가 가짜 뉴스 혹은 허위정보는 잘못된 정보와 성격이 근본적으로 다르다고 정의합니다. 가짜뉴스의 궁극적인 목적은 의도적인 혼란을 야기하고, 자신의 목적에 맞추어 대중을 조종하기 위한 의도와 목적이 분명한 정보라는 것이죠. 이런 맥락에서, 인공지능이 일방적으로 제공하는 정보와 출처를 무조건적으로 받아들이는 것이 위험하다고 전문가들이 지적하는 것이겠죠. 

마블 시네마틱 유니버스의 한 축을 담당했었던 어벤져스: 에이지 오브 울트론에서 아이언맨(토니 스타크)이 느꼈던 고뇌와 갈등은 더 이상 영화 속 허구의 이야기가 아닐지도 모릅니다. 

백수골방: 인공지능은 세상을 지배하게 될까?(바로가기)
​