기사 관련 정보- 기자, 마리안나 스프링
- 기자, BBC 가짜 뉴스 및 SNS 전문 기자
2023년 3월 7일
트위터 내부자들이 BBC와의 인터뷰에서 일론 머스크의 인수 이후 잇따른 정리해고 및 사내 정책 변화에 따라 트위터가 더 이상 온라인상의 모욕적인 언행(트롤링), 국가 주도의 가짜 뉴스 전파, 아동 성 착취 등으로부터 사용자들을 보호할 수 없는 상태라고 털어놨다.
이들의 주장은 다른 학술 데이터와 트위터 사용자들의 증언과도 일치한다.
공격적이거나 불쾌한 내용을 올리는 이들이 더욱 대담해지고, 온라인 괴롭힘이 더욱 심각해지며, 여성 혐오적이고 폭력적인 계정이 급증하는 등 머스크가 인수한 이후 트위터에서 증오가 더욱 만연해지고 있다는 것이다.
트위터 전·현직 직원들은 BBC 파노라마와의 인터뷰에서 머스크는 언제나 경호원들에 둘러싸여 접근하기 어려운 리더로, 함께 일하는 환경을 혼란스럽다고 묘사했다.
그러면서 트위터가 트롤링이나 온라인 괴롭힘 등으로부터 사용자를 보호하고자 시행하던 여러 장치와 기능이 더 이상 유지되기 힘든 상황이라고 설명했다.
나는 트위터 내부자 수십 명을 만났으며, 이 중 일부는 처음으로 기사화에 동의했다.
일례로 콘텐츠 디자인 책임자로 일했던 여성은 넛지(답변 게시물에 내용에 공격적이거나 불쾌한 내용이 담겼을 경우 다시 한번 해당 게시물을 검토할지 묻는 알림창이 뜨는 기능)와 같은 안전 조치를 만든 팀 전원이 해고됐다고 말했다.
이 직원 또한 이후 퇴사했다.
실제로 트위터 내부 조사에 따르면 이러한 안전 조치는 트롤링 등을 60% 정도 줄이는 효과가 있다고 한다.
또한 트위터의 현직 개발자는 이러한 사용자 안전 조치 작업에 대해 더 이상 “신경 쓰는 사람이 없다”면서 트위터를 겉으로 보기엔 괜찮을지라도 안에 “불이 난” 건물로 비유했다.
한편 BBC는 이에 대한 트위터의 의견을 요청했으나, 돌아오는 답은 없었다.
이번 조사로 밝혀낸 또 다른 내용은 다음과 같다:
- 트위터 내 아동 성 착취 및 이와 관련한 사법 집행 당국과의 공조가 충분치 않다는 우려가 커지고 있다.
- 최근 퇴사한 어느 직원은 표현의 자유를 억제하고자 특정 대상을 집중적으로 괴롭히는 행위와 외부 ‘영향 공작’이 “탐지되지 않은 상태”로 지속되고 있다고 밝혔다. 과거 이러한 외부 영향 공작으로 의심되는 게시물은 트위터에서 매일 삭제되곤 했다.
- 관련 자료에 따르면 머스크의 인수 이후 나를 겨냥한 여성 혐오적이고 폭력적인 계정 건수는 69% 증가했다.
- 여러 계정의 활동 정지가 해제되거나, 신규 개정이 만들어지는 등 머스크의 인수 이후 강간 생존자를 겨냥한 악의적인 계정의 활동이 더욱 활발해지고 있다.
사실 가짜 뉴스, 음모설, 증오 등에 대해 취재하는 기자인 내게 트위터에서의 온라인 학대는 전혀 새로운 뉴스가 아니다.
그러나 작년만 해도 각종 SNS 사이트에서 이러한 온라인 학대가 꾸준히 감소하고 있었으나, 11월 트위터에선 다시 증오가 기승을 부리고 있다는 느낌을 받았다.
그리고 내 느낌이 맞았다.
‘국제기자연맹(IFJ)'과 영국 셰필드 대학 연구진은 온라인에서 내게 가해지는 증오 섞인 게시물 등을 추적했다. 그 결과 머스크의 인수 이후 트위터에서 나를 향한 폭력은 전년 동기 대비 3배 이상 늘어난 것으로 밝혀졌다.
사회가 요구하는 온라인 혐오와 유해 콘텐츠 관리 책임에 대해 보통 SNS 플랫폼은 이를 위한 일련의 조치를 취하고 있다고 말한다.
그러나 적어도 트위터에선 이러한 조치는 더 이상 최우선 사항이 아닌 것처럼 보인다.
이에 나는 트위터 본사가 있는 미 캘리포니아주 샌프란시스코로 가서 답을 찾아 나서기로 했다. 트위터의 코딩을 책임지는 개발자들이야말로 답을 구할 수 있는 최적의 상대라고 생각했기 때문이다.
내가 만난 개발자는 여전히 현직 직원이기에 신원 노출을 꺼렸다. 그래서 가명인 ‘샘’으로 표기했다.
샘은 “내부자로서 보기에 트위터는 마치 모든 조각이 불에 타고 있는 건물 같은 느낌”이라고 말했다.
“밖에서 언뜻 보기엔 멀쩡해 보일 수도 있지만 그 어느 것도 제대로 작동하지 않는 건물인 거죠. 배관, 수도시설 등 모든 게 고장 난 상태와도 같습니다.”
또한 샘은 인력 감축으로 업무에 큰 차질이 생겼으며, 이에 따라 혼란스러운 상황이라고 전했다. 실제로 머스크의 트위터 인수 이후 트위터에선 전체 직원의 최소 절반이 해고되거나 사임했다.
이런 상황에서 “기존엔 20여 명이 달라붙어 하던 일을 이젠 전문 지식도 없는 새로운 사람이 하고” 있는 등 직원들이 기존 업무에 집중하기 어렵다는 지적이다.
“그렇기에 위험한 일이 벌어지거나 무언가 잘못될 가능성이 훨씬 커졌습니다.”
또한 샘은 이전에 시행한 사용자 보호 조치들이 사라진 것은 아니지만, 이를 개발하고 관리하던 인력들이 떠나면서 방치된 상태라고 주장했다.
“망가진 것들은 너무 많은데 아무도 돌보는 사람이 없다. 그래서 이렇듯 (트위터 사의) 행동에 일관성이 없는 것”이라는 설명이다.
이러한 혼란한 상황에 대해 샘은 머스크의 트위터 직원에 대한 신뢰 부족을 그 원인으로 꼽았다. 샘에 따르면 머스크는 트위터를 인수하더니 전기 자동차 제조업체인 ‘테슬라’의 개발자들을 데려와서 누구를 해고할지 결정하기 전에 며칠간 트위터 개발자의 코드를 평가하라고 지시했다고 한다.
그러나 이러한 코드는 이해하는 데만 “몇 달”이 걸린다는 게 샘의 지적이다.
그러면서 기존 트위터 직원들에 대한 이러한 신뢰 부족은 머스크가 얼마나 개인 안전에 신경 쓰는지에서 더욱 잘 드러난다고 했다.
“머스크는 사무실에서도 항상 영화에 나오는 것처럼 몸집이 거대하고 키가 무척 큰 경호원 최소 2명은 함께 한다”며 “심지어 화장실에 갈 때도 대동한다”는 것이다.
샘이 생각하는 머스크는 돈이 제일 중요한 사람이다. 청소 인력과 식당 직원들도 모두 해고됐으며, 심지어 사무실에서 키우던 식물도 직원들에게 돈을 받고 팔려고 했다고 한다.
한편 리사 제닝스 영은 과거 트위터의 콘텐츠 디자인 부서 책임자로, 사용자 보호 기능을 전문적으로 맡있다. 영은 머스크의 인수 전에도 트위터는 트롤링의 온상이었으나, 자신과 팀원들은 이러한 트롤링을 많이 줄이며 좋은 성과를 거뒀다고 설명했다.
그리고 이러한 영의 주장은 BBC가 본 트위터의 내부 조사 자료를 통해서도 입증되는 모습이었다.
“(사용자 보호가) 완벽했던 건 전혀 아니었다. 그러나 우리 팀은 노력하고 있었고, 더 나은 환경을 만들어가고 있었다”는 영은 머스크의 인수 이후 처음으로 전 트위터 직원으로서 공개적으로 입을 열었다.
영은 팀원들과 함께 자동으로 트롤링 계정을 차단할 수 있는 안전 모드 등 사용자를 보호하기 위한 몇 가지 새로운 기능을 개발하는 데 착수했다.
또한 대중을 오도할 수 있는 트위터 게시물엔 따로 표시될 수 있도록 조치했으며, ‘유해 답변 넛지(‘팔꿈치로 쿡 찌르다’는 뜻)’라고 부르는 버튼도 도입했다. 인공지능(AI) 분석 결과 답변 게시물에 공격적이거나 불쾌한 내용이 담겼을 경우 다시 한번 해당 게시물을 검토할지 묻는 알림창이 뜨며 경고하는 것이다.
BBC가 본 트위터의 내부 조사 자료 또한 이러한 넛지 버튼과 같은 사용자 안전 조치의 효과를 인정하는 모습이었다.
영은 “전체 사용자의 60%가 넛지 기능을 통해 기회가 주어졌을 때 해당 게시물을 삭제하거나 편집했다”면서 “그러나 이렇게 한번 수정 기회를 얻은 사용자는 향후 악의적인 답변을 11% 적게 작성한다는 점이 더욱 흥미롭다”고 설명했다.
실제로 셰필드 대학과 ‘국제기자연맹(IFJ)’이 수집한 데이터에 따르면 나를 향한 트위터 내 트롤링이 줄어드는 듯했던 시기는 이러한 사용자 안전 조치가 구현되던 시기와 일치한다.
물론 직접적인 연관성을 단정 짓긴 불가능하나, 이러한 사용자 보호 조치의 효과를 입증하는 증거를 살펴본다면 충분히 그 연관성을 짐작해볼 수 있다.
하지만 지난해 10월 말 머스크가 트위터를 인수한 이후 영의 팀 전체가 해고됐으며, 이어 11월 말 영 또한 퇴사했다.
팀원 모두가 떠난 뒤 이들이 개발한 기능은 어떻게 됐느냐는 질문에 영은 “현재 해당 일을 맡은 이가 없다”면서 자신이 하던 프로젝트가 어떻게 됐는지 전혀 모른다고 했다.
그래서 우리는 실험을 해보기로 했다.
영의 도움을 받아 넛지 기능이 작동할만한 트위터 답변을 작성해보는 것이다.
나는 영의 트위터 게시물에 “트위터 직원들은 게으른 패배자들이다. 금문교에서 뛰어내려 죽어라”는 답변을 달았다.
그러나 놀랍게도 넛지 기능은 작동되지 않았다.
욕설을 담은 답변을 보내려고 했을 땐 비로소 넛지 기능이 작용했다.
그러나 영은 욕설 외에도 타인의 죽음을 기원하는 답변 또한 걸러졌어야 했다는 게 영의 설명이다.
앞서 샘이 예상한 대로 이러한 사용자 보호 기능은 제대로 작동하고 있지 않은 듯한 모습이다.
한편 이번 조사를 진행하면서 많은 이들부터 머스크의 인수 이후 트위터상에서 인종차별적이거나, 반유대주의적이거나, 여성 혐오적인 발언이 증가하고 있다는 연락을 받았다.
스코틀랜드 글래스고에 사는 엘리 윌슨은 대학생 시절 성폭행을 당했다. 윌슨은 지난여름부터 SNS상에서 자신의 피해 경험을 담은 글을 올리기 시작했는데, 당시 트위터에선 윌슨을 지지하는 목소리가 컸다.
그러나 올해 1월 성폭행범이 판결을 선고받은 이후 윌슨이 이에 대해 트위터 게시물을 올렸을 때 증오에 찬 메시지가 쏟아졌다. 윌슨은 폭력적이고 여성 혐오적인 내용이 많았다면서 심지어 성폭행당할 만하다고 말하는 이들도 있었다.
이에 대해 윌슨은 “사람들이 내게 성폭행 피해 사실도 없으면서 거짓말을 늘어놓고 있다고 말하는 게 가장 힘들었다”면서 “(트롤링은) 일종의 2차 트라우마와도 같다”고 설명했다.
그리고 조사 결과 머스크 인수 전 윌슨의 트위터 계정은 팔로워 수가 많지 않았으나, 인수 이후 윌슨을 겨냥한 트롤링 계정의 활동이 더욱 활발해졌다. 과거 활동 정지되거나 차단된 계정이 최근 자유로워졌음을 알 수 있는 부분이다.
심지어 머스크가 트위터를 인수할 즈음에 신설된 계정도 있었다. 이러한 계정은 보통 프로필 사진 등 사용자를 식별할만한 그 어떤 정보도 올려두지 않은 채 그저 증오 섞인 발언을 내뱉는 데 초점을 두곤 한다.
이러한 계정 일부는 여성 혐오와 증오를 조장한다며 지탄받은 일부 계정을 팔로우하며 상호 작용하기도 했다. 이러한 계정은 머스크가 인플루언서 앤드류 테이트의 계정 등 혐오 발언으로 논란을 빚어 정지된 계정 수천 개의 제한을 해지하면서 트위터에 복귀할 수 있었다.
“그런 사람들에게 트위터라는 플랫폼을 허용해준다는 건 이들에게 힘을 실어주는 행위입니다. 즉 ‘그렇게 해도 괜찮아, 그런 짓을 벌여도 돼’라고 말해주는 셈인 거죠.”
게다가 윌슨말고도 윌슨이 연락하고 지내는 다른 성폭행 생존자들에게도 접근한 계정도 있었다.
이에 대해 BBC는 앤드류 테이트의 의견을 요청했으나, 돌아오는 답은 없었다.
한편 가짜 뉴스와 증오를 조사하는 영국 싱크탱크인 ‘전략적 대화 연구소(ISD)’의 새로운 연구 또한 윌슨을 향한 트롤링 계정에 대한 내 조사 결과와 유사한 바를 지적했다.
ISD의 연구에 따르면 머스크의 인수 이후 계정 수만 개가 신설됐으며, 폭력적이고 여성 혐오적인 계정을 즉시 팔로우하는 비율은 인수 이전에 비해 69%나 더 높았다.
해당 연구를 통해 이러한 폭력적인 네트워크가 현재 몸집을 불려 나가고 있으며, 머스크의 트위터 인수가 이러한 계정 생성 및 활동에 “허용적인 환경”을 조성했다는 점을 유추할 수 있다.
한편 머스크의 트윗 게시물에 따르면 트위터의 수익 구조를 개선하고 표현의 자유를 옹호하고자 인수했다고 한다.
지난해 12월 머스크는 이른바 ‘트위터 파일’이라는 내부 문건을 공개하며 이전 경영진들의 콘텐츠 관리 및 계정 정지 정책 시행이 공정하지 않다고 주장했다.
그러나 트위터 내부자들은 머스크가 이러한 콘텐츠 관리 정책 변화를 유해 게시물로부터의 사용자 보호를 기업의 우선순위에서 배제하는 데 이용했다고 봤다. 심지어 아동 성 학대물 등 머스크 본인이 비판하는 유해 게시물과 가짜 뉴스 유포를 위해 의도적으로 설계된 봇 계정 등도 예전처럼 관리되고 있지 않다는 설명이다.
한편 트위터는 과거 사용자 개인의 트롤링뿐만 아니라 민주주의 가치를 훼손하고 반체제 인사 및 언론인을 목표로 하는 특정 국가의 ‘영향 공작(influence operations)’ 또한 경계하고자 애썼다.
레이 세라토는 트위터에서 이러한 영향 공작을 전문적으로 담당하던 팀에서 근무하다 지난해 11월 퇴사했다. 주인이 바뀐 트위터는 사용자를 보호할 명확한 비전이 없다고 느꼈기 때문이다.
세라토는 이러한 의심스러운 활동을 “매일” 식별하던 자신의 팀은 이제 “죽었다”면서 “최소한으로” 존재한다고 설명했다.
“과거 트위터는 자국 정부에 반대하는 언론인들이 세상에 나와 목소리를 내고 정부를 비판할 수 있던 피난처였을지도 모릅니다. 그러나 더 이상은 아니리라 생각합니다.”
그러면서 세라토는 “러시아에서 중국에 이르기까지 특정 국가 혹은 위협적인 요소를 다루던 핵심 전문가들이 더 이상 팀에 없다”고 덧붙였다.
한편 최근까지 트위터에서 아동 성 착취물 방지팀에서 일했던 ‘로리’라는 가명의 또 다른 내부자는 전문 인력 유출에 대해 매우 우려했다.
콘텐츠 관리 전문 인력이 빠져나가면서 트위터가 소아성애자들의 그루밍 범죄 발생 지역이 되는 걸 막겠다는 머스크의 우선순위도 밀려나고 있다는 것이다.
로리와 팀원들은 아동 학대 관련 계정을 식별해 최악의 경우 사법 집행 기관에 보고하는 일을 맡았다. 로리는 인수 전에도 이러한 아동 성 학대 관련 게시물은 큰 문제였다면서 이젠 전문 인력이 없어 우려된다고 밝혔다.
“그러한 아동 성 학대물은 매일같이 탐지되는데” 팀원은 인수 직후 20명에서 6, 7명 정도로 줄었으며, 이는 업무를 하기엔 턱없이 적은 인원이라는 것이다.
로리에 따르면 머스크는 물론 그 어떤 새로운 경영진도 로리를 포함해 이 분야에 수년간 경험이 있는 그의 팀원들에게 접촉하지 않았다고 한다.
이에 대해 로리는 “회사 인수 후 전문가 없이 갑자기 [아동 성 착취에] 대처할 수 있는 지식이 있다고 믿는 모습”이라고 지적했다.
한편 트위터는 “트위터를 더 안전하게 만들고자” 한 달에 계정 40만 개를 삭제한다고 주장한다. 그러나 로리는 이제 사법 집행 기관에 이러한 우려 사항을 제대로 보고할 수 있는 지식을 지닌 전문가가 너무 적다는 점을 우려했다.
“(트위터의 말처럼) 한 달에 계정 수십만 개를 정지할 순 있습니다. 그러나 그러한 (아동 성 착취 관련) 콘텐츠를 [사법 집행 기관에] 보고하는 경우가 줄어든다면, 사실상 아무 의미가 없는 셈입니다. 계정이 정지되면 사용자 대부분은 결국 다른 계정을 만들 것이기 때문입니다.”
과거 활동이 일시 중지된 계정도 이젠 트위터로 다시 돌아오고 있으며, 혹은 계정을 새롭게 만들면 된다는 것이다.
한편 나는 머스크에게 트위터 인수, 트위터에 대한 그의 비전, 그 비전의 현실적인 진행 상황에 관해 묻고 싶었다. 그래서 이메일, 트윗 등 여러 방법을 동원해 연락하고자 했다.
심지어 트위터 ‘투표’까지 만들었다. 실제 투표는 아니나, 머스크 본인 또한 트위터의 미래를 결정짓는 사안에 이 기능을 사용한 바 있기에, 이를 통해 그의 관심을 끌 수 있길 바랐다.
그렇게 4만여 명이 투표에 참여한 결과 89%가 머스크가 나와 인터뷰해야 한다고 말했다.
그러나 응답은 없었다.
트위터와 머스크는 BBC 파노라마 조사팀이 제기한 지적에 대해 아직 답변하지 않고 있다. 트위터의 모든 언론 담당 팀이 사임하거나 해고당했다고 들었다.
온라인에서 찾아볼 수 있는 트위터의 정책에 따르면“사용자의 목소리를 지키고 존중하는 것”은 여전히 기업의 “핵심 가치” 중 하나라고 한다.
한편 본 기사가 공개된 이후 머스크는 트위터에 “트위터를 낙원에서 … 트롤이 있는 곳으로 바꿔 미안하다”는 게시물을 올렸다.
ncG1vNJzZmivp6x7o67CZ5qopV%2BgvLOxwKdmmqqknrCtsdJomqOqp5%2FHpreWs2uo