미국 매체 타임즈는 SNS 알고리즘은 '가능한 오래 머물도록' 설계 됐다고 보도했다. 알고리즘은 자극적이고 유해한 콘텐츠의 늪을 만들어 사용자가 쉽게 플랫폼에 빠질 수 있게 한다. 분노나 두려움 등 극단적인 감정을 유발하는 게시물은 사용자가 더 몰입하기 쉽기 때문이다.

유해 콘텐츠를 반복 노출시키는 알고리즘의 문제는 틱톡에서도 나타났다. 월스트리트저널에 따르면 틱톡(TikTok)에서 추천되는 각종 정신 질환 영상이 10대에게 큰 영향을 미치고 있다. 인격 형성기에 있는 10대들은 관련 영상에 지속적인 노출되면서 스스로 정신질환을 앓고 있다고 생각할 우려가 있기 때문이다.

WSJ와 인터뷰를 진행한 사만다 프리들리(18, 고등학생)는 10살 때 불안, 우울증 진단을 받았다. 그녀는 새벽까지 '경계성 인격 장애 및 해리성 정체 장애' 관련 틱톡 영상을 끊임없이 봤다. 그리고 그는 영상에서 설명한 증상을 스스로 경험하고 있다고 믿었다. 정신 질환자가 진단까지 하며 실제 장애를 갖고 있다고 맹신하게 됐다. 그녀는 자신 뿐만 아니라 다른 10대들도 자신과 비슷한 경험을 한다고 밝혔다.

주목할 점은 프리들리가 정신질환 자가진단 영상을 한번도 찾아본 적이 없다는 것이다. 단순히 정신 건강 관련 계정을 틱톡에서 팔로우 했을 뿐인데 각종 정신 질환에 대한 영상이 자신의 피드에 자동 추천됐다고 했다. 정신 자가진단을 권하는 영상 등 검증되지 않은 유해한 콘텐츠를 끊임없이 추천되면서 사용자가 헤어나오기 어려운 알고리즘의 늪에 빠졌다는 뜻이다.

'경계성 인격 장애' 해시태그(#borderlinepersonalitydisorder)가 포함된 틱톡 영상 시청 건수는 무려 6억 회에 달한다. 경계성 인격 장애는 불안정한 대인관계를 형성하거나 충동적 행동을 보인다. 미국정신질환연합(National Alliance on Mental Illness)에 따르면, 실제로 이 병명을 가진 사람은 전체 미국 인구의 1.4%에 불과하며 청소년일 확률은 더 희박하다. 전문가는 "사춘기와 경계성 인격 장애의 증상이 비슷하기 때문에 혼란의 여지가 있다"고 한다.

이처럼 틱톡은 프리들리의 정신 건강에 대한 관심사를 이용해 정신 질환에 대한 공포심을 유발했다. 자가 진단 영상을 추천해 호기심을 부추기고 스스로 정신 질환이 있다고 판단하기까지 큰 역할을 했다.

지난 10월 페이스북 간부였던 내부 고발자 프란시스 하우겐(Frances Haugen)은 소셜 미디어의 잘못된 알고리즘과 부패한 비즈니스 모델이 10대 소녀들에게 유해한 영향을 미친다고 했다. 그는 '건강한 레시피를 찾기 시작한 아이들이 결국 거식증을 유발하는 콘텐츠에 맞닥뜨리게 됐다'는 연구 결과를 폭로한 바 있다.

블루멘탈 상원 의원은 지난 12월 9일 열린 소비자 보호 소위 청문회에서 “현재 젊은이들 사이에서 발생하는 정신건강 문제는 빅테크 기업으로 인해 더욱 악화되고 있다. 빅테크 기업이 중독성 있는 제품과 정교한 알고리즘으로 아이들의 불안을 조장한다”고 강조했다.

틱톡은 이와같은 알고리즘의 문제성을 인지하고 새로운 변화를 만들어갈 것임을 밝혔다. 틱톡은 "For You"(개인 맞춤 추천) 피드 개편을 추진 중이다. 반복적인 패턴을 차단하는 새로운 기술을 개발하고 있으며 사용자가 피하고 싶은 주제를 선택할 수 있도록 준비 중이다.

인스타그램의 아담 모세리(Adam Mossery) CEO는 “내년 상반기 알고리즘 대신 작성 시간순으로 피드를 나열하는 버전의 앱을 출시하겠다”고 밝혔다. 또한, 부모들이 적극적으로 자녀의 앱 사용을 통제할 수 있는 '청소년 보호 기능'을 개발 중이라고 했다. 일정 이용시간이 지나면 중단 되는 시간 제한 기능, 자녀의 SNS 사용을 줄이기 위한 부모의 통제 권한, 원치 않는 청소년 사용자에 대한 태그나 포스트 제한, 사용자가 자신의 콘텐츠를 대량 삭제할 수 있는 기능이 포함된다.

◇SNS을 통해 정신질환이 있다고 믿는 자녀의 부모는...

전문가들은 정신질환이 있다고 자가 진단한 청소년의 부모가 취해야 할 2가지 행동을 소개했다.

첫째, 자녀의 말을 들어줄 것. 자녀가 하는 말을 무시하거나 반을하지 않는 행동은 지양해야 한다. 이럴 경우 자녀가 대화를 중단할 수 있다.

둘째, 자녀 스스로가 틱톡 계정을 삭제하고 새로 시작하도록 할 것. 정신질환 관련 영상이나 부정적 영상으로 알리고리즘이 생성된 계정은 과감하게 삭제하도록 하는 것이다. 그리고 처음부터 의식적으로 긍정적인 콘텐츠를 선택함으로써 추천 알고리즘을 바꾸는 것이다.

박예진 기자