우리가 자주 사용하는 구글와 네이버 등 포털, 유튜브와 인스타그램 등 SNS, 아마존과 쿠팡 등 쇼핑몰 또는 쇼핑앱, 넷플릭스 등이 알고리즘에 의해 운영되고 있다. 유튜브는 유튜브에 유해·가짜 정보가 확산되는 것을 막기 위해 유튜브의 알고리즘을 1년에 30번 이상 개편했다고 한다. 이로 인해 미국에서는 유튜브의 정책 위반 가능성이 높은 콘텐츠의 소비가 70% 이상 감소했다고 한다.

알고리즘(algorithm)이란 말의 어원은 오랜 역사를 지니고 있다. 알고리즘은 아랍(페르시아)의 수학자인 알고리즈미(al-Khwarizmi, 알콰리즈미, 780년~850년)의 이름에서 유래되었다. 그는 인도·아라비아 숫자와 연산을 서양에 소개해 ‘대수학의 아버지’로 불리기도 한다. 대수학을 뜻하는 영어 단어 앨지브라(Algebra)는 그의 저서 ‘알자브르 왈 무카발라(al-jabr wa al-muqabala)’로부터 기원한다.

알고리즘은 수학, 컴퓨터과학, 언어학, 생명공학, 천문학 등 여러 분야에서 어떤 문제를 해결하기 위한 절차나 방법의 조합이며, 이를 공식화한 형태로 표현한 것이다. 알고리즘에서 가장 중요한 것은 정확성(correctness)과 효율성(efficiency)이라고 할 수 있다. 동일한 문제를 푸는 데 있어 여러 알고리즘이 결과는 같아도 해결방법에 따라 실행속도나 오차·오류 등에 차이가 있을 수 있기 때문이다. IT분야에서 알고리즘이라는 용어는 검색 알고리즘, 추천 알고리즘 등과 같이 업무 분야별로 사용되기도 하고, 구글 알고리즘, 네이버 알고리즘, 넷플릭스 알고리즘, 유튜브 알고리즘, 인스타 알고리즘 등과 같이 특정업체의 알고리즘을 나타내는 용어로도 사용된다.

코딩, 프로그래밍, 알고리즘이 같거나 비슷한 의미로 혼용되는 경우도 많은데, 그 차이점을 간단하게 짚고 넘어가고자 한다. 코딩(coding)은 코드(code)를 작성한다(ing)는 뜻인데, 컴퓨터가 알아들을 수 있는 언어로 컴퓨터에게 명령하는 것을 말한다. 프로그래밍(programming)은 프로그램(program)을 만든다(ing)라는 의미인데, 코딩과 동일한 개념으로 사용하는 경우도 있지만, 약간은 다른 의미를 갖는다. 단순 코딩만 하는 코더가 되지 말고 프로그래머가 되라는 말이 있다. 코더는 단순하게 주어진 코딩만 하는 것이고, 프로그래머는 나름대로 알고리즘을 짜서 프로그래밍을 하는 것이라고 볼 수 있다. 프로그래머 중에는 알고리즘 생각하지 않고 코더처럼 단순하게 프로그램을 짜는 사람도 적지 않다.

요즘 초·중등 교육에서 코딩에 대한 관심이 높아지고 있다. 교육과정 개정을 통해 2018년부터 중학생에 대한 코딩 교육 의무화가 시행되었으며, 2019년부터는 초등학교 5, 6학년부터 의무적으로 코딩 교육을 하고 있다. 다른 나라들은 우리나라보다 코딩 교육에 앞서고 있다. 영국은 2014년부터 모든 공교육과정에 코딩을 포함했고, 핀란드는 2016년부터 초등학교 1학년부터 코딩 교육을 하고 있다. 중국과 인도도 우리보다 앞서 교육 당국과 학부모들이 코딩 교육에 큰 관심을 보이고 있다. 알고리즘에 대한 교육은 초중등 교육을 지나서 나중에 고등교육으로 프로그래밍 교육할 때 할 게 아니라 초등학교 때부터 알고리즘에 대한 교육을 하는 것이 문제 해결 능력에 창의력을 더할 수 있어서 교육이 효과적이고 바람직하다.

여러 알고리즘이 우리가 잘 인식하지 못하는 사이에 우리 생활 속에 깊숙이 들어와 있다. 알고리즘이 개인 맞춤형으로 원하는 취향에 맞는 추천을 해주니까 편하기도 하다. 그러나 알고리즘의 부작용도 적지않다. 유튜브 등 SNS에서 추천하는 콘텐츠가 사용자의 취향에 맞추는 편리성은 있으나, 사용자의 취향을 한쪽으로 몰아가서 확증편향(선입관을 뒷받침하는 근거만 수용하고, 자신에게 유리한 정보만 선택적으로 수집하는 것이다. 자기가 보고 싶은 것만 보고 믿고 싶은 것만 믿는 현상인데, 정보의 객관성과는 상관없다)에 빠지게 한다. 가치 판단의 객관성을 확보하려면 가끔이라도 알고리즘의 지배에서 벗어나려는 노력이 필요하다. 그렇지 않으면 알고리즘의 노예가 될 수 있다.

우리는 거대한 알고리즘 세게에 살고 있다. 이커머스나 모바일 쇼핑을 하다 보면 나도 모르게 알고리즘이 추천하는 상품을 사게 되는 경우가 적지 않다. 가장 고도화된 알고리즘은 이커머스에 있다. 전세계 온라인 판매의 40%를 차지하는 아마존의 추천 알고리즘 A9은 방대한 데이터를 통해 아마존에 막대한 이익을 가져다 주었다. 전세계 8,000만명의 사용자를 보유한 넷플릭스의 전체 콘텐츠 시청 중 75%가 알고리즘의 추천에의해 이뤄진다. 전세계 정보창고가 된 유튜브나 인스타그램 등의 SNS들도 알고리즘을 활용해서 세를 확장하고 있다.

알고리즘이 사용자에게 편리함을 주기는 하지만 공정성 시비가 생기는 경우도 적지 않다. 에어비앤비는 알고리즘 공정성 논란으로 홍역을 치르기도 했다. 같은 지역에 비슷한 조건의 거주지임에도 백인 호스트의 숙박비가 흑인보다 12% 높게 책정된 것이다. 미국의 비영리 인터넷 언론 프로퍼블리카는 보도를 통해 미국 다수의 주 법원에서 사용하는 알고리즘 콤파스가 판결시 유색인종을 차별한다는 사실을 고발했다. 과거 네이버 뉴스는 대한민국 국민의 절대 다수인 71.4%가 이용하는 거대 언론이었다. 그런데 뉴스 편집 알고리즘의 문제가 지적되자 네이버는 2019년 4월 뉴스 편집을 종료했다.

알고리즘의 한계는 오류만이 아니다. 상업용 알고리즘은 기본적으로 사용자 수용을 목표로 한다. 거부라는 리스크를 줄이다보면 계속 문제점이 생기게 된다. 또한 사용자는 의식하지 못하는 사이에 알고리즘에 의해 심각한 디지털 편식과 정보편향성에 빠질 수 있다. 그래서 의식하지 못하는 사이에 알고리즘의 노예가 될 수 있다. 그러므로 의식적으로 알고리즘에만 끌려다니지 말고 인간이 주도적으로 의사결정을 하고 객관성을 확보하려는 노력이 필요하다. 

문형남 숙명여대 경영전문대학원 교수, 한국AI교육협회장 지속가능과학회 공동회장, 인공지능국민운동본부 공동의장