<소셜 딜레마> 우리는 윤리적인 IT 제품을 고민해야 한다.

 
 
 
 
 

 

 

“너는 IT기업에 다닌다면서, 왜 인스타그램을 하지 않아?”

 

 

무슨 고집인지 몰라도 나는 인스타그램을 전혀 하지 않는다. 물론 예전의 나도 페이스북을 열심히 한 적이 있었다. 남에게 보이는 모습을 신경 써서, 사진 속의 나는 항상 웃고 있으며 좋은 일이 있을 때에만 글을 올렸다. 그때의 내가 정말 행복했는가. 오히려 반대였다. 겉과 속이 다른 내 모습이 한심해서, 어느 순간부터 페이스북을 안 하게 되었다. 

우연히 보게 된 다큐멘터리에서 나는 이러한 고집은 틀리지 않았음을 깨달았다. 더 나아가 앞으로의 사고방식을 재정의할 수 있었다. 단순히 SNS에 대한 비판의식을 넘어, 이제는 내가  윤리적 제품을 꿈꾸게 되었는지 이 글을 통해 설명하고자 한다.

 

 

 

1. 왜 인스타그램을 사용하면서 비용을 지불하지 않을까?

 

 

<the Social Dilemma> 다큐멘터리 중에서

 

 

만일 당신이 제품에 돈을 지불하지 않는다면, 제품은 당신인 셈이다

 

무언가를 사용하기 위해 비용을 지불하는 건 당연한 행위이다. 한번 생각해보자. 스터디 카페에 가면 하나의 공간을 이용하기 위해 비용을 지불한다. 오래 앉고 싶다면, 시간에 따른 비용을 더 지불하면 된다. 그런데 인스타그램은 오래 사용한다고 돈을 더 받은 적이 없다. 오히려 아예 비용을 요구한 적이 없다. 왜 우리는 인스타그램을 그렇게 많이 사용하면서 한 번도 비용을 지불하지 않았을까? 우리는 이미 우리 자신이라는 비용을 지불하고 있기 때문이다.  

 

‘우리 자신(User)’이라는 비용

 

인스타그램이 정말로 원하는 건 사용자(User) 대한 데이터이다. 인스타그램에서 여러 게시글을 보고 ‘좋아요’를 누르는 모든 행동들은 각각의 기록으로 남아, 사용자를 분석하는 데이터로 활용된다. 따라서 그들에게 당장의 돈 따윈 중요치 않다. 오히려 사용자들을 어떻게 서든지 제품에 머물도록 하여서  많은 데이터를 만들어내도록 유도한다. 사용자들의 데이터가 가장 중요한 비용인 셈이다.

 

 

2. 우리는 이미 제품에 중독되어있다

 

 

<the Social Dilemma> 다큐멘터리 중에서

 

 

고객을 ‘사용자’라고 부른 산업은 다음 두 개뿐이다 : 불법 마약과 소프트웨어 산업

 

인스타그램에 게시물을 올린다면, 하루에도 수십 번씩 핸드폰에 ‘좋아요’ 알람이 뜬다. 우리는 누가 내 글에 댓글을 달지 않았을까, 혹은 댓글에 반응이 늦지 않을까 등의 조바심을 느끼곤 한다. 결국 우리는 핸드폰을 내려놓을 틈도 없이 다시 인스타그램에 접속한다. 혹시 나만 이러한 조바심을 느끼는가? 아닐 테다. 왜냐하면 인스타그램은 행동 공학을 바탕으로 인간의 조바심을 극도로 끌어올리도록 설계되었기 때문이다. 

 

최고의 기술력으로 유혹하는 회사

 

니르 이양이 말하는 Hooked 모델은 대표적인 습관 형성 모델이다. 치열한 상업 경쟁에서 살아남기 위해서는 강박 행동을 만드는 상품과 서비스를 생산해야 한다. 한마디로 고객을 뇌의 보상회로로 전달되는 도파민에 중독시켜 재방문하도록 유도하는 것이다. Hooked 모델은 사용자의 소심한 행동을 주체할 수 없는 동요로 바꿔주는 반복 순환의 문을 연다. 페이스북은 최고의 기술력을 통해 이러한 모델을 극대화하는 회사이다. 따라서 사용자가 SNS를 잠시 쉰다 싶으면 온갖 알람을 보내며 관심을 유도한다. AI 기술이 고도화되면서 이러한 유혹에 빠져나가긴 쉽지 않다. 

 

 

3. 무한 스크롤, 만든 것을 후회한다

 

 

How the Invention of Infinite Scrolling Turned Millions to Addiction

 

다큐멘터리에 언급된 아자 래스킨은 페이스북, 트위터 등 거의 모든 소셜 피드 인터페이스에 적용되어 있는 무한 스크롤 infinite scroll’ 인터페이스를 처음 고안한 디자이너이다. 거의 모든 대기업이 쓰는 기술이니, 대단한 업적이다. 하지만 그는 자신이 고안했던 무한 스크롤 인터페이스가 사람들을 소셜 미디어에 중독(Hooked)시키는 주요 장치 중 하나로 사용되는 것을 보며 “무한 스크롤 인터페이스를 고안한 일을 후회한다”라고 고백하였다.

 

 

 

 

이제 소셜미디어들은 Hooked 모델을 극대화하기 위해, 무한 스크롤이라는 중독 패턴을 UI에 심어두었다. 생각해보자. 우리는 유튜브에서 하나의 영상만을 클릭하였다. 하지만 영상이 끝나면 바로 다음으로 넘어간다. 넷플릭스에서도 마찬가지다. 우리는 자동재생에 동의한 적이 없다. 하지만 이러한 기업들은 인간의 나약한 심리를 파고들어서, 우리를 자신들의 제품에 중독되게(Hooked) 만든다. 

이처럼 자신이 고안한 기술이 악용되는 모습에 래스킨은 크게 실망하였다. 따라서 그는 현재 T. 해리스와 함께 재단인 <인간적인 기술 센터 Center for Humane Technology>를 공동 설립하여, 기술이 인류에게 이로운 방향으로 활용될 수 있도록 활동하고 있다.

 

Hooked 저자도 중독을 우려하였다.

 

훅 모델은 사용자에게 습관을 형성시켜 주는 강력한 프로세스이다. 하지만 Hooked 책의 말미에 저자 니르 이양은 해당 모델이 지닌 강한 중독성에 우려를 표했다.

 

“개인정보에 대한 접근성 증대와 공유 확산, 그리고 더 빨라진 전송속도로 인해 최악의 중독적 기술이 탄생했다”

 

저자의 우려대로 컴퓨터가 인간의 강점을 뛰어넘는 시기는 아직 오지 않았다. 하지만 컴퓨터가 인간의 약점을 뛰어넘는 시점은 이미 도래하였다. 소셜 미디어는 인간 심리의 약점을 집요하게 공략하여 이용자들의 주의력을 착취하고 이로부터 광고 수익을 뽑아내고 있다. 이를 해결하기 위해 저자는 제품 기획자들의 높은 윤리의식을 강조한다. 

 

 

4. 우리는 윤리적인 IT 제품을 고민해야 한다.

 

“디자이너는 사용자를 탓하면 안 된다.”

 

“예전 홍대 정문 앞 대로에는 대로의 시작과 끝 그리고 중간에 횡단보도가 있었다. 유동인구에 비해 횡단보도가 너무 적어서 사람들이 무단횡단을 했다. 하지만 횡단보도가 추가로 생기자 무단횡단이 확 줄어들었다. 일반적으로 사람들은 무단횡단을 하면 처벌해야 한다고 주장하면서 사용자를 탓한다. 하지만 무단횡단을 하는 자리에 횡단보도가 있었다면 사람들은 무단횡단을 하지 않았을 거다. 이건 도시 디자이너가 횡단보도의 위치와 개수를 잘못 설계해서 생긴 문제다.”

며칠 전 좋아하는 선배가 이러한 문장을 들려주었는데, 너무 인상 깊어서 간직해두었다. 훌륭한 디자이너라면 문제의 근본적인 원인을 고민하며, 이를 디자인적 관점에서 해결하도록 노력해야 한다. 나 역시 한 명의 IT업계 종사자로서, 이러한 문장은 제품을 기획하는 기획자에게도 적용된다고 생각한다. 

기획자의 관점에서 SNS의 문제점을 되짚어보자. SNS에 몰두되어서 자신의 거짓된 모습만을 보여주고, 타인과 계속된 비교를 통해 우울증이 찾아오는 사례는 흔히 있다. 그렇다면 이는 SNS를 적절히 이용하지 못한 사용자들의 잘못인가. 절대 아니다. 오히려 SNS 쉽게 중독되도록 만든 기획자들의 잘못이다. 

 

기술 자체가 아닌 기술을 활용하는 방향이 문제이다.

 

기술은 매 순간 놀라운 속도로 발전을 거듭한다. 우리의 예상보다 빠르게 발전하는 기술은 우리가 생각지 못한 방식으로 활용될 수 있다. 이를 막기 위해서 중요한 점은 기술을 통해 이루고자 하는 목적이다. 

IT제품은 인간에게 심대한 영향을 있는 도구이다. 그 영향은 심대하게 긍정적일 수도, 심대하게 부정적일 수도 있다. 따라서 나 스스로부터 기획하는 제품에 윤리적인 소명의식을 갖고자 한다. 내가 하는 일에 대한 가치를 재정의하고, 나의 기획에 따른 결과가 사용자들에게 윤리적일 수 있도록 고민하고자 한다. 해당 다큐멘터리가 나온 지 어느덧 1년이 다 되어가지만, 이제야 내가 이 글을 쓰고자 다짐한 이유이다. 따라서 이 글을 시작으로 앞으로 윤리적인 IT 제품에 대해서 탐구하는 글을 써보겠다. 

 

 

윤리적이지 못한 IT 제품에 대해 목소리를 내야 한다.

 

 


 

 

이 글의 목적은 무조건 SNS를 비판하고 자가 아니다. 다만 다큐멘터리를 통해 우리가 미처 고민하지 못했던 IT제품의 윤리의식에 대해서 고민하고자이다. 따라서 다큐멘터리가 출시된 직후 페이스북이 공개한 <‘소셜 딜레마’의 잘못된 지점들 What ‘The Social Dilemma’ Gets Wrong>이라는 문서를 같이 보았으면 한다. 아마 재미있는 이야기 주제가 되지 않을까 싶다.

 

 

Hy님의 브런치에 게재한 글을 편집한 뒤 모비인사이드에서 한 번 더 소개합니다.