농사를 20여 년 해온 농부와 최근 인공지능에 대한 대화를 나누게 됐다. 그는 최근 경험한 챗GPT 이야기를 했다. 멜론 판매에 쓸 로고를 만들어 달라고 입력했는데, 순식간에 결과물이 나왔다. 평소처럼 자신이 만들었다면 오랜 시간을 썼을 텐데, 덕분에 시간을 많이 아꼈다고. 앞으로 그림 그리는 기술을 배울 필요가 있을까 싶을 정도였다고 했다.

인공지능이 대유행이다. 광고부터 시작해 어디에나 AI가 붙어있다. 미디어에 나오는 인공지능과 함께하는 인류의 미래는 장밋빛이다. 정부에서 내세우는 전망도 비슷하다. 이재명 대통령은 인공지능 패권의 골든타임이라며 100조 원 투자를 공언했고, 정부 출범과 동시에 인공지능을 이끌 인사를 임명했다. 그렇지만 내 주변 보통의 사람들은 떠오르는 인공지능 시대를 불안해하는 분위기다. 인공지능이 일자리를 뺏는 것을 넘어, 인류를 지배할 것이라고 말이다.

인간 필요에 의해 발명하고 개발한 물건이 우릴 옥죌 것이라니. 어느 신화에서 본 듯한 레퍼토리 같다. 생성형 인공지능의 놀라운 속도와 기능이 부각되면서 개인은 인공지능에 압도돼 너도나도 AI 배우기에 올라탄다. 인공지능 관련 영상도, 책도 쏟아져 나온다. 인공지능에 적응할 것이냐, 도태될 것이냐. 개인에겐 양자택일만 주어진 듯하다. 하지만 이런 보통 시민들의 불안이 근거 없는 걱정은 아닐 것이다. 인공두뇌학의 창안자인 노버트 위너는 ‘기계 관리자에게 의존하는 신파시즘’에 대해 경고한다. 
 

결국 앞서 말한 신화의 기시감은 지금 인공지능 발전이 자본주의 초엘리트 집단의 필요에 충실한 장치가 될 것이 분명해 보이기 때문 아닐까. 구글은 미국 정부도 통제하지 못하는 초월적 기업이 되고 있다. 기술 지형은 커다란 변화가 진행되고 있다. 변화를 따라잡는 개인의 역할은 강조되고 있지만, 인공지능이 가져올 파장에 대한 공론화는 부족하다. 

AI는 무형의 가상프로그램이라는 인식과 다르게, 막대한 물질세계의 기반에서 태어나 작동한다. 물리적 인프라는 사회적 자산이 누적되어 온 결과다. 앞으로도 천문학적인 사회자원이 투입될 예정이다. 막대한 전기를 필요로 하는 데이터 센터라거나, 마을을 쪼개며 지나가는 송전망과 삶터를 메워 세워진 발전소. 따라서 인공지능이 발원하고 있는 지금 모습은, 현재 한국사회를 지배하고 있는 재벌이 부상하던 당시의 모습처럼 느껴진다. 인공지능은 누구의 것이고, 누구의 통제를 받아야 하는가.

유유출판사는 인공지능 시대에 우리에게 필요한 것이 무엇인지 이야기하는 책을 꾸준히 내고 있다. 《읽지 못하는 사람의 미래》도 그중 한 권이다. 책은 인공지능 전문가 스튜어트 러셀 교수의 말을 인용하며 경고한다. 우리가 문명의 경영을 기계에 넘겨줌으로써 우리 스스로 경영하는 능력을 잃을 위험에 처해있다는 것을. ‘자율성은 인간의 근본적인 가치입니다. 아무리 AI가 선의로 만들어진 기술이라 해도 사용하는 대가로 우리의 자율성을 내준다면 최선의 미래를 보장할 수 없습니다. 인류가 자유의지라는 필수 불가결한 환상을 가지고 계속 살아가려면 우리가 어떻게 행동할지 예측하는 기술을 사용하는 일을 금지해야 할지도 모릅니다.’

다시 챗GPT를 시작한 농부 이야기로 돌아와서, 그는 올해 유난스러웠던 날씨에 벼가 걱정이라고 했다. 오랜 시간 벼농사를 지었지만 일찍부터 시작된 폭염으로 벼가 확실히 이상해 보인다. 혹시나 하는 마음으로 AI에게 질문을 했다. 챗GPT가 너무 깔끔하게 분석 결과를 정리해 주고, 지금 어떤 약제 처리를 하면 좋은지 추천까지 해줬다고 한다. 생성형 AI는 통계에 근거해 화자가 ‘원하는 대답’을 한다. 데이터가 없을수록 답변에 오류가 생길 가능성이 높다. 때문에 유래없는 상황일수록, 팩트라 할지라도 통계적 소수라면 인공지능은 오답을 낼 가능성이 높다. 인공지능은 이를 스스로 자각하지 못한다. 인공지능 환각(할루시네이션)이라고 한다.

좋든 싫든 인공지능은 우리 삶 전반에 들어올 것이다. 생성형 인공지능 시대의 부상과 함께 리터러시가 더 중요해졌다. 문해력은 한 인간의 경험과 체화된 지식에 비례해 습득할 수 있다(앞서 생성된 멜론 로고에 그는 애정을 별로 느끼지 못하겠다고 했다. 실제 연구에서도 인공지능의 도움을 받아 생성된 콘텐츠는 평균적인 생각으로 획일화되고, 저자 자신부터 자신의 저작물 내용을 잘 모른다는 결과가 나왔다). 책 《읽지 못하는 사람의 미래》는 이 시대의 좋은 삶을 위해 읽기와 쓰기의 중요성을 강조한다. 인공지능을 공포의 대상이 아닌 사회를 구성하는 하나의 요소로 어떻게 받아들일 수 있을지 책을 통해 생각해 보면 좋겠다.

<이 칼럼은 지역신문발전기금을 지원받았습니다>

이동호 칼럼·독자위원 다른기사 보기