알고리즘? AI? 벌써 나를 지배하는 것 같다.

구글 애드센스

얼마 전까지만 해도 AI니 알고리즘이니 하는 것은 그냥 내 취향을 맞게 해주는 그저 편리한 것이라 생각했다. 하지만 얼마 전 이에 대한 생각이 바뀌었다. 

 

올해 티스토리를 시작했는데 지인이 구글 애드센스에 관한 이야기를 해줘서 신청을 했다. 그런데 운이 좋았던 것일까? 두 번만에 광고를 달게 되었다. 약 2주 전에 승인 메일을 받고 바로 게시물에 광고를 달았는데 이게 너무 신기해서 잘 작동하는지 확인차 한, 두 번인가? 내 글에 광고를 클릭해 보았다. 

 

그런데.. 아차... 이게 절대 해서는 안 되는 행동이었던 것이다. 자기 글에 게재된 광고글을 클릭하면 위반사항으로 1차는 30일간의 이용정지에 2차는 아예 계정 정지를 시키는 것이었다. 뭐.. 크게 수익에 연연하지는 않았지만 사람 심보가 못 먹는 떡이 커 보인다고 이에 관련된 내용을 찾아보기 시작했다.

 

---

구글 검색 타임라인

찾아낸 결론은 결국 구글 알고리즘의 판단이었다. 어떤 사람이 한번 클릭으로도 애드센스 일시 정지가 된 반면, 두세 번 클릭했음에도 구글 알고리즘이 실수라 판단하고 조회 수 제로와 광고수익만 배제하게 만 할 뿐 다른 제제는 하지 않는다고 했다. 나는 아직까지는 일시정지 안내 메일은 오지 않았다. 하지만 내 실수를 알게 된 초반에는 상당히 신경이 쓰였고 지금도 가끔 메일에 들어가 보기도 한다.

 

---

셔터스톡

아마 스톡사진을 하면 심사 응답이 제일 빠른 곳이 셔터 스톡일 것이다. 보통 셔터 스톡에 사진을 업로드하면 빠르면 2~3시간 뒤에 심사 여부를 결정해준다. (다른 스톡 사이트는 며칠씩 시간이 걸립니다.) 아마 이건 지극히 내 개인적인 생각이지만 심사를 올리면 특정 AI나 알고리즘으로 빠르게 판단을 해서 심사 여부를 결정하는 것 같다. 전 세계의 수많은 사진들이 올라오는데, 일일이 사람의 손으로 하지는 않을 듯하다. (저도 이 부분은 추측한 것이라 혹시 제가 잘못 알고 있으면 꼭 말씀 부탁드립니다.) 그래서 늘 셔터스톡에 스톡 사진을 올리면 심사 통과 여부에 또 신경을 쓰고 한다. 

 

여기서.. 작년 까지만 해도 그냥 기사에서 접한 AI, 알고리즘의 키워드들이 21년이 되면서 나에게는 영향을 준 존재가 되어 버린 것이다. 내가 실수하는 건 중요하지 않다. 이 알고리즘의 판단이 그르다고 생각하면 그냥 잘못된 것이다. 

 

---

알고리즘과 자본주의

빅데이터를 기반으로 한 알고리즘은 내가 시청한 유튜브 영상부터 금융 결제까지 이 모든 것을 기반으로 형성이 되고 전 세계 인류의 언행과 취향 등의 데이터들이 모이면서 어마 무시한 알고리즘이 형성되고 있다. 단순히 이것만 있으면 좋겠지만 여기서 이 알고리즘은 자본주의와 결합을 한다. 아니 당연히 할 수밖에 없다. 그러면서 우리 인류는 점점 이 알고리즘에 지배가 되지 않을까 싶다.  

 

나 같은 경우에는 제일 단편적인 예로 구글 애드센스와 스톡 심사 여부, 이 두 가지만 적었다. 정말 나는 실수로 클릭한 것이지만 알고리즘이 그행동을 고의라고 생각하면 그건 내가 잘못된 것이다. 스톡 사진도 일부로 초첨을 맞추지 않고 찍어 올리지만 알고리즘이 그 사진은 못 쓴다고 하면 절대 못 쓰는 것이다.

 

이런 알고리즘으로 인해 나도 모르게 무의식적으로 알고리즘에게 신경을 쓰고 눈치를 보고 있다. 아마 이것뿐만이 아니라 점점 이런것의 범위가 늘어날 것이다. 내가 포스팅 제목에다가 '지배'라는 키워드를 사용했지만 이미 나는 돈을 벌기 위해 알고리즘의 원칙에 맞게 극단적인 표현으로 눈치를 보면서 결과물을 내고 있는 것이다.

 

---

매트릭스 : 2199년 AI가 지배하는 세계

20년 전 영화이지만 지금봐도 손색이 없는 영화 '매트릭스'. 영화 속에 우리 인간은 가상세계를 진짜라고 믿고 AI의 지배 속에 살아간다. 나중에 주인공인 네오가 현실에서 깨어날 때 동물처럼 사육되고 있는 인간 캡슐들을 보고 나는 경악을 금치 못했다.

 

빅데이터를 기반으로 학습을 한 AI 알고리즘은 옳고 그름 없이 그대로 학습이 된다. 그러면서 먼 훗날에 인간에게 내재어 있는 폭력성과 악까지 학습을 한다면.. 이 AI가 자의식을 가지는데 분명 좋지 않은 방향으로 나간다면 영화에서나 보는 스토리가 전개될지로 모른다. 

 

---

알고리즘

앞으로 점점 빅데이터를 기반으로 한 알고리즘이 늘어갈 것이다. 당장에 생각나는 것이지만 언젠가는 기업 내에 인사평가라던지, 혹은 대출을 받는 등 금융이나 채용, 의료, 교육 등의 분야에 발전 되어 가고 있는 알고리즘이 적용이 된다면 더욱 우리는 이 알고리즘에게 인류가 많이 기대지 않을까 싶다. 

 

하지만 이 알고리즘들이 완벽하다면 좋겠지만 세상에 절대적으로 완벽한 건 없다. 아마 AI 알고리즘도 마찬가지 일 수도 있다. 영화 매트릭스 세계관을 보면 네오가 출현하기 이전에 AI가 완벽하다고 생각되는 가상세계를 만들었지만 몇 번이나 잘 못되어서 다시 가상세계를 만들었다. (여담이지만, 이때 인간의 사랑이라는 감정에는 AI가 계산을 하지 못해서가상시계가 실패 한 걸로 알고 있음.)

 

그런데 이제 우리는 알고리즘을 적용하는 시대가 시작되다. 지금이야 AI는 우리 인간에게 최적화된 알고리즘을 제시하면서 편의성을 누릴지 모르지만, 점점 시간이 흐르면서 '확증편향'을 가질 터이고, 앞으로 점점 이 알고리즘이 지배력에 높아지는 세계에서 우리 인간의 삐끄덕거림을 볼 것이라 생각하니 개인적으로 걱정과 두려운 감정이 조금씩 드는 것 같다.