기획특집
①자동화 미디어는 스스로 작동하지 않는다

  • 기획특집
  • 2022년 봄호 (통권 83호)
①자동화 미디어는 스스로 작동하지 않는다

우리는 흔히 기계가 인간보다 더 정확할 것이라 믿는다. 사리에 흔들리지 않고 한 치의 오차도 없이 임무를 수행할 수 있는 능력을 지닌 것이 기계의 능력이라는 인식이다. 인공지능(AI)과 관련된 대중 담론은 여기에서 한발 더 나아간다. 기술 발전으로 한층 더 ‘똑똑해진’ 기계는 인간보다 더 정확할 뿐만 아니라 더 나은 결정을 한다고 믿는다. 낯선 길을 운전할 땐 내비게이션에 의존하고, 아침에 우산을 들고 나갈까 말까 하는 결정은 스마트폰의 날씨 앱을 따른다. 인간의 눈으로 도로 표지판을 읽고 하늘의 구름을 살피는 것보다는 어쨌든 기계가 더 정확히 가까운 미래를 알려줄 것이라는 믿음은 이제 낯설 것도 없다.

메타버스(metaverse)나 자율주행자동차 혹은 사물인터넷(IoT)과 같은 말들이 일상어가 된 요즈음, 사람들은 기계가 인간보다 더 정확하고 더 똑똑할 뿐만 아니라 인간이 할 수 없는 일을 해주고 인간과 감정을 나누는 정도가 되었다고 믿는 것처럼 보인다. 내게 아침 인사를 건네고 내 건강을 걱정해주고 내 취미생활을 이끌어주며 나를 위로해주는 기술 세계. 내 가족이나 친구들도 나를 잘 몰라주는 이 살기 힘든 세상에서, 나보다 나를 더 잘 이해하고 나를 대신하여 더 정확하고 올바른 선택을 해주는 존재라니, 멋지지 않은가. 어쨌든 변덕스럽고 어리석은 구석이 많은 데다가 믿을 수 없는 인간보다는 한결같이 목표를 향해 나가는 기계 존재와의 관계가 더 자연스러워지는 세상. 이는 자동화 기술과 지능화 미디어에 익숙해지고 있는 우리가 언젠가 직면할 세상일지도 모른다.

하지만 과연 자동화 미디어는 정말 스스로 작동하는 것일까? 나의 기억이나 건강 상태를 스마트폰의 기록에 의지한다고 해서 내 몫의 중요한 판단조차 기계에 맡겨두는 것이 좋을까? 유튜브나 넷플릭스를 사용할 때 건네받은 알고리즘 추천 목록이 그럴싸하다고 해서 과연 기계가 나를 나보다 더 잘 안다고 할 수 있을까? 정말 언젠가는 인공지능이나 자동화된 미디어가 여러모로 불완전한 인간을 대체하며 더 공정하고 합리적인 판단과 결정까지 해줄 수 있게 될까? 그리하여 SF 영화 속의 금속 빛깔 반짝이는 미래를 머지않아 마주하게 되는 것일까?

 

<2001 스페이스 오디세이>에 나오는 인공지능 HAL 9000은 우주 비행사를 쉴 새 없이 관찰한다(사진 출처 : WBP).     

 

사람에 따라서는 그렇게 믿고 싶을 수도 있겠지만, 지금 현재의 기술 수준과 상황이 그렇다고 말할 수는 없다. 인간도 오류를 저지르듯 기계의 오작동 역시 생각보다 자주 발생한다. 불완전한 설계나 소프트웨어의 오류 등도 오작동의 원인이겠지만, 더 큰 원인은 인간의 실수나 의도 혹은 가치 판단이다. SF 소설과 영화에서는 이러한 오작동이 마치 기계가 인간의 통제 범위를 벗어나 자율적인 의지로 판단하면서 일어나는 것으로 묘사하는 경우도 있다. 스탠리 큐브릭의 영화 에 나오는 가상의 인공지능인 할(HAL 9000)이 대표적인 사례다.

하지만 영화는 영화일 뿐 현실은 조금 다르다. 실상 인공지능이나 자동화 기술의 가장 큰 비밀은 그것이 실제로는 인간에 의해 작동한다는 점이다. 상품화된 인공지능형 장치는 인지능력이 없어 스스로 배울 수 없기에 체계화된 훈련이나 학습을 거쳐야 한다. 이러한 훈련과 학습을 계획하고 실행하고 수정하는 일은 온전히 인간의 몫이다. 게다가 기술 구현을 위해서는 인간의 노동력 외에도 엄청난 천연자원과 에너지가 장기적으로 소모된다. 인공지능과 자동화 기술은 우리를 대체하거나 위협할 자율생명체가 아니라, 전력망이나 도로망과 같은 거대한 물질적 인프라이다. 그리고 다른 인프라와 마찬가지로 인공지능과 자동화 미디어 인프라 역시 힘없는 개인보다는 권력과 자본의 편에 더 가깝다.

물론 지난 20여 년 동안 인공지능을 비롯한 자동화 미디어의 기술적 성장이 집중적으로 이루어진 것은 사실이다. 1956년에 십여 명의 과학자들이 미국의 다트머스대에 모여 프로젝트를 시작했고, 여기에서 ‘인공지능’이라는 단어가 처음 등장했다고 알려져 있다. 이 프로젝트에서 제안한 인공지능의 조건은 인간과 같은 일반화 능력 및 자기계발이 가능한 초인적 능력 등이었지만, 60년 이상이 지난 지금까지도 그들의 제안과 유사한 수준의 인공지능을 만들 수 있는 곳은 아직 없다.

그렇다고 해서 일부 성공 사례가 없는 것은 아니다. 인간처럼 눈으로 보고 말을 하며 특정 분야에서 문제를 처리할 수 있는 기계들이 이미 나와 있다. 유튜브의 알고리즘에 이끌려 이전에 모르던 세계를 손쉽게 접하는 것도 사실이고, 각종 가전제품이나 기계장치들이 인간 사회가 지닌 불안정성을 조금은 덜어내고 있는 것도 사실일 것이다. 특히 지난 2년 동안 이어진 팬데믹을 겪어오면서 우리의 삶은 말 그대로 빅데이터의 네트워크 속에 포획된 것처럼 보인다. 이제 자동화된 기계와 미디어에 대한 상상은 공학과 기술 분야를 넘어서 교육과 문화예술과 안전과 보건의 영역에 이르기까지 사회 전방위적으로 확장된 듯하다.

이 때문에 인공지능과 자동화 미디어에 대한 대중의 인식은 양극단을 오간다. 낙관적인 견해를 가진 쪽에서는 자동화 기술이 인간의 부족함을 채워주며 인간을 위로해줄 것이라 기대한다. 예를 들어 자동차 뒷좌석에 태운 강아지를 위해 “실내공기 따뜻하게 해줘”라는 운전자의 음성을 알아듣고 난방장치를 가동하는 자동차 광고라던가, 주부가 두 손 가득 음식을 들고 “문 좀 열어줘”라고 하면 작동하는 음성인식 냉장고 광고 같은 것들이다. 이러한 대중문화 담론은 인공지능이 인간과 비슷할 정도의 ‘자연스러운’ 판단과 행동을 할 것으로 기대한다. 2019년에 정부가 발표한 국가전략에서도 기술의 자동성은 마치 인간의 자율성과 동의어처럼 사용된다. 인공지능이 “어르신의 말동무이자 보호자”가 될 수 있고 “불법 촬영 피해 여성들의 눈물을 닦아”줄 수 있다는 표현 등이다.

반면 비관적인 견해를 보이는 쪽에서는 머지않아 인공지능이나 로봇 등의 존재가 인간의 능력을 뛰어넘어 인간의 자리를 빼앗거나 공격하리라 상상한다. 자동화된 존재가 인간을 공격할 수 있다는 공포심은 오래된 것이다. ‘로봇’이라는 말을 처음 사용했던 체코의 작가 카렐 차페크(Karel Čapek)의 희곡 「R.U.R.」의 내용도 로봇이 인간을 공격하는 이야기다.

그러나 인공지능이나 자동화 기기가 인간과 감정을 나누거나 그게 아니면 인간을 공격할 수 있다는 것은 인간이 만들어낸 허상에 가깝다. 국가 정책을 보도하는 언론이나 대중문화의 광고 등에서는 인공지능을 하나의 사회적 주체나 행위자로 간주하는 경향이 있는데, 이는 과학적 근거가 불충분한 미래에 대한 바람에 가깝다. 자유의지에 따라 행동하는 존재란 SF 영화에 등장하는 일반인공지능(AGI)에서만 가능하며 이조차도 실체가 없는 개념일 뿐이다. 이것만으로는 인공지능이나 자동화 기술의 개척자들이 상상했던 ‘인간다운’ 측면을 구현했다고 볼 수 없다.

그럼에도 자동화 미디어에 불과한 인공지능을 인간과 같은 주체로 오해하게 만드는 데는 ‘지능’이나 ‘학습’과 같은 용어들의 탓이 크다. 사실 인공지능의 지능은 인간의 지능과는 거리가 멀다. 지능은 1950년 앨런 튜링이 “기계가 생각할 수 있는가?”라는 질문을 던진 이후 오늘날까지도 많은 연구가 이어지고 있음에도 아직 합의된 정의를 도출하지 못할 정도로 논쟁이 계속되는 학문 영역이다. 오늘날의 인공지능형 상품이나 자동화 미디어가 능력을 발휘하는 것은 인간처럼 생각하는 일이 아니라 매우 빠른 속도로 엄청난 양의 데이터를 처리하는 일이다. 이에 필요한 대량의 학습 데이터를 인공지능에 제공하는 것은 인간의 몫이다. 인공지능과 함께일 때라도 인간의 역할은 도구적이거나 부수적인 것이 아니라 핵심이다.

인공지능은 학습할 데이터를 스스로 만들지 못한다. 자율주행자동차, 음성인식과 영상인식 장치 등은 모두 인간이 수집하여 가공하고 처리하여 기계가 읽을 수 있도록 전환한 데이터에 의존한다. 게다가 기계의 딥러닝에 사용하는 데이터는 오염이 없고 높은 수준의 정확도가 필요하므로 정밀한 가공이 필요하다. 예컨대 기계가 어떤 이미지를 고양이로 인식하게 하려면 먼저 고양이 이미지를 대량으로 수집해야 하고, 수집한 이미지의 특정 부분을 ‘고양이’라고 인식할 수 있도록 범주를 정확히 정하여 표시해주어야 한다. 이렇게 가공과 라벨링을 거친 데이터는 인공지능의 학습에 이용된다. 하지만 인간의 작업은 여기에서 끝이 아니다. 피드백과 튜닝을 반복하면서, 인공지능이 정말 고양이를 고양이로 인식하는 학습을 제대로 했는지 확인해서 입력해야 한다. 현존하는 모든 인공지능 기술은 이처럼 인간이 하는 데이터 라벨링 작업을 통해서만 가능하다.

검색엔진에서 ‘인공지능’ 혹은 ‘알고리즘’ 등의 단어를 입력하고 이미지를 검색하면, 우리가 가진 집단적 상상의 이미지를 쉽게 알 수 있다. 푸르스름한 빛의 망이 얽힌 것을 배경으로 반짝이는 외골격의 로봇이 무언가를 생각하는 모습, 숫자와 도표로 이루어진 복잡한 데이터 꾸러미, 혹은 말끔하게 정리된 도시를 배경으로 만화 속 이미지 같은 캐릭터들이 일상을 살아가는 모습 같은 것들이 나타난다. 이러한 대중적인 상상의 이미지 속에 실제 인간의 모습은 잘 드러나지 않는다. 인간을 통하지 않고 스스로 움직이는 기계에 대한 환상이 얼마나 널리 퍼져있는지 알 수 있는 대목이다.

자동화에 대한 환상은 미래의 기술 발전에서 인간의 역할이 많이 축소될 것이라는 오해로 이어진다. 그리고 이러한 오해는 우리가 살아가는 사회 환경이 사실상 인간의 집단적인 노동과 합의와 의사 결정으로 이루어진다는 명백한 사실을 가리는 장치로 이용되기도 한다. 예컨대 아직 상용화되려면 수십 년이나 더 필요할 자율주행자동차를 꿈꾸느라 정작 우리가 안전하게 길을 건널 수 있는 가장 큰 요인은 신호등에 따라 운전자가 차를 멈출 것이라는 인간 사이의 신뢰와 상호작용이라는 점을 잊어버리는 것이다. 마찬가지로 신체장애를 기계로 극복하는 데 드는 시간과 비용과 기술을 마련하느라 지금 당장 장애인들의 삶을 더 낫게 만들 수 있는 새로운 방식의 의사소통과 이동 권리와 정보 제공을 비효율적인 것으로 치부하는 것이다. 먼 훗날 저절로 움직이는 자동차나 장애를 없애주는 획기적 기술이 개발된다면야 더없이 좋을 것이다. 하지만 그러한 미래 기술에 대한 전망이 현재의 사회 문제 해결을 미룰 이유가 될 수는 없다.

인공지능이나 자동화 미디어와 같은 기술 용어는 세상이 너무나 빨리 급변하는 것처럼 보이게 만드는 효과를 준다. 그러나 새로운 기술이 하나 등장한다고 해서 사회 문제가 해결되지 않는다는 사실을, 기술의 역사와 미디어의 역사는 너무나 잘 보여준다. 인간은 여전히 생각보다 더 뿌리 깊은 사회적 구조와 공공성의 신뢰 속에서 살아가고 있다. 인간의 지능은 불완전하고 인간의 판단은 때때로 편견 속에서 이루어지지만, 그렇다고 해서 인간 사회의 문제를 자동화 미디어에 떠넘겨 해결할 수 있으리라는 기대는 지나치게 순진하다. 그 어떤 스마트 자동화 기술도 스스로 작동하거나 ‘자동으로’ 사회의 문제를 해결해주지 않는다. 자동화 사회는 인간의 노력 없이 저절로 움직이는 사회가 아니라 인간의 노동력이 집약되면서도 체계적으로 감추어지는 사회다.

 

이희은
조선대학교 신문방송학과 교수, 1969년생
공저서 『미디어생태계: 다시 TV정원으로』 『커뮤니케이션의 새로운 은유들』,
역서 『미디어 알고리즘의 욕망』 등