과거 새로운 기술이 등장할 때마다 인간의 일자리를 빼앗을 것이라는 우려가 나왔지만, 결국 기술은 인간이 일하는 방식을 바꾸고 할 수 있는 범위를 넓히는 쪽으로 기여했다. 그러나 인공지능(AI)은 다른 양상을 보이고 있다. 사고와 언어, 창작과 판단 등 인간만의 고유한 영역이라고 믿었던 곳까지 파고들고 있어서다. AI가 가져다주는 편리함에 감탄하면서도 한편으로는 두려움을 느끼는 이유다.
신간 ‘알고리즘 불복종’은 AI가 일상을 지배하는 시대에 인간이 어떻게 기술의 주도권을 되찾을 수 있을지 묻는다. 저자는 빅데이터와 머신러닝을 활용한 시스템을 직접 개발해 온 기술 전문가다. AI를 외부에서 관찰하는 대신 그 작동 원리를 누구보다 잘 아는 개발자의 시선으로 기술이 인간의 선택과 행동에 개입하는 과정을 들여다본다.
대표적인 사례가 페이스북과 틱톡, 유튜브 등의 추천 알고리즘이다. 우리는 자신의 취향에 따라 콘텐츠를 선택한다고 믿지만, 실제로는 알고리즘이 보여주는 것 가운데 고르는 경우가 많다. 검색 기록과 구매 내역은 물론 화면에 머문 시간까지 분석해 개인의 관심사를 예측한다. 추천은 취향을 반영하는 데 그치지 않고 취향 자체를 만들어내기도 한다. 문제는 이런 시스템이 사용자의 행복보다 기업의 수익에 맞춰져 있다는 점이다.
그렇다고 ‘언-AI(un-AI)’, 즉 AI를 걷어내고 과거로 돌아가자는 주장은 아니다. 기술 없는 삶은 가능하지도, 바람직하지도 않다. AI를 나의 편의와 선택에 따라 유용하게 쓸 수 있느냐가 관건이다. 저자 역시 하루 7시간 넘게 스마트폰을 사용하던 생활에서 벗어나기 위해 1년간 실험을 했다. 뜨개질과 피아노, 외국어 공부처럼 느리고 비효율적인 활동을 통해 스스로 선택하고 몰입하는 감각을 되찾으려 했다.
결국 중요한 것은 기술의 사용 여부가 아니라 통제권이 누구의 손에 있느냐다. AI를 도구로 쓸 것인가, 아니면 AI의 도구가 될 것인가. AI를 인간의 능력을 확장하는 유용한 도구로 쓰기 위해서는 알고리즘이 제시하는 답을 무조건 받아들이기보다 스스로 생각하고 판단하는 힘을 잃지 않아야 한다. 저자는 편리함에 모든 것을 맡기지 않고 자신의 선택을 주도하는 것이 AI 시대에 인간이 지켜야 할 가장 중요한 가치라고 강조한다. 1만 8000원.