지난 10월, 페이스북 내부고발자 ‘프랜시스 하우겐’은 페이스북 알고리즘이 분노와 증오를 부추기는 쪽으로 개편되었다고 폭로한 바 있습니다. 페이스북이 2018년 알고리즘을 개편하면서 논란이 될 만한 자극적인 콘텐츠에 가점을 주는 방식으로 이런 게시물이 우선 추천되도록 설계 변경되었다는 것입니다. 자극적 콘텐츠가 사용자를 오래 머물게 하기 때문에 회사의 이익을 위해 이와 같은 알고리즘의 변경이 이루어졌다는 내용이었습니다. 결국 페이스북에 오래 노출되면 자극적이고 혐오적인 콘텐츠에 둘러싸여 중도 좌파는 극좌파로, 중도 우파는 극우파로 더 극단화된 편향을 가지게 됩니다. AI, 혹은 알고리즘으로 대표되는 뉴미디어 기술이 가치중립적인 것이 아니라 언제든 인간 개입과 설계에 따라 특정한 편향성을 갖추고 인간의 인지 체계에 강력한 영향을 끼치게 된다는 것을 확인할 수 있는 사건이었습니다. AI 알고리즘에 대한 우려와 문제제기는 몇 년 사이 부각되고 있으며 앞으로 더욱 중요한 논점이 될 것으로 보입니다. 국내로 시선을 돌려도 최근 네이버는 알고리즘 작동원리를 공개하고 네이버의 알고리즘에 한계가 있음을 인정하기도 하였으며 인스타그램은 앞으로 추천 알고리즘을 폐지하겠다고 알리기도 하였습니다.

이러한 변화는 새롭게 등장한 뉴미디어 플랫폼에서만 이루어지는 것은 아닙니다. 문학 현장에서는 지난 8월, 국내 최초로 AI가 쓴 소설 『지금부터의 세계』가 출판되기도 하였습니다. 물론 AI의 완전한 창작이 아니라 인물, 사건, 시공 등의 이야기 콘셉트를 소위 ‘소설 감독’이 입력하면 이에 근거하여 AI가 일종의 대필작가가 되어 세부 이야기를 풀어나가고 완성하는 방식이었습니다. 전반적인 신뢰성의 문제가 제기될 수 있지만 그럼에도 불구하고 이제 AI가 절대 흉내 낼 수 없다고 여겨졌던 문학적 글쓰기의 영역에서도 AI의 개입이 가능해지고 기존의 소설가들은 창작자가 아니라 일종의 ‘연출자’ 혹은 ‘창작감독’으로 불리게 될지도 모른다는 변화의 흐름(혹은 우려)을 확인할 수 있는 사건이었습니다. 또한 인간과 시를 주고받는 ‘시 쓰는 AI’도 개발되었습니다. 한 기사에 따르면, “어디서부터 어떻게 시작해야 할까”라는 문장을 입력하면 AI에서 “내 마음의 물결 한가운데서 예감하는 것/세상을 가장 비추는 것은/희망. 절망에 희망하라”라는 구절을 생산해낸다는 것입니다. 이 AI는 포스텍 인공지능대학원 4명의 프로젝트 연구팀이 개발한 것으로 AI에 한국어 시 10만 5천399행을 읽게 했고 시가 문장으로 이어질 수 있도록 챗봇에 활용되는 문장 학습 모델 ‘시퀀스 투 시퀀스(Sequence to Sequence)’를 적용했다고 합니다.

이에 《대산문화》 2022년 봄호 기획특집 코너에서는 ‘AI 시대의 열린 적들’ 이라는 제목으로 뉴미디어의 핵심 기술인 ‘AI’, ‘알고리즘’이 지배하는 시대에 미디어와 매체를 어떻게 수용하고 비판적으로 대해야 하는지 다루어보려고 합니다. 또한 이러한 시대에 문학 창작자와 수용자들은 어떻게 대응해야하는지에 대해서 다양한 분야의 필진들께 혜안을 청해보고자 합니다.