안녕하세요. 캣팜 입니다.
며칠 전에 스팀잇에 올라온 포스팅 글들을 읽다가 제가 개인적으로 좋아하는 님의 포스팅이 눈에 들어왔습니다. 만약 스팀잇에 여론조작을 위한 계정들이 생긴다면? 이란 제목의 포스팅에 자동으로 손이 가더라구요.
초이 님의 질문은 이러하였습니다.
현재 AI, 머신러닝, 딥러닝 등은 다양한 분야에 진출하며 서로가 서로를 포함하고 때로 넘어서면서 발전하고 있는 분야입니다. 이러한 머신러닝의 발전은 사람 흉내를 내는걸 넘어서 복사까지 하고 있는데요. 특히 최근에는 한 여성 개발자가 죽은 남자친구와 나눈 엄청난 양의 텍스트 빅데이터를 분석하여 생전의 남자친구와 싱크로율이 100%에 가깝도록 챗봇을 구현해 내기도 했습니다. 자 그럼! 여기서 문제 나갑니다. 만일, 포스팅 키만을 제공하고 글에대한 보상은 따로 지불한 뒤 일종의 계정풀을 만들거나, 기존에 있는 계정을 블로그 거래하듯 구매하여 여러개의 계정을 소유한 뒤, 필요한 순간에 본계정 주인의 문체를 분석하여 여론 조작을 위한 글을 쓰는데 이용한다면, 혹은 누군가(유명인 혹은 당신)를 음해하기 위해 포스팅의 문체를 분석하고, 글을 쓴 뒤 뻔하게 모두가 볼 수 있도록 지갑을 통해 송금하며 논란을 만든다면 우리는 어떻게 구별하고 대처할 수 있을까요?
저도 스팀잇을 하면서 염려했던 부분 중 하나가 바로 이러한 부분입니다. 여론조작과 군중심리. 생각을 공유하고 자본이 오고가는 세계에서는 절대 무시할 수 없는 요소입니다.
스팀잇이 계속해서 발전해나가고 사용자수가 늘어나게되면 거대한 자본을 가진 자들에게는 이처럼 좋은 환경은 없을것입니다. 거대한 자본을 가진 자들(본문에선 A라고 하겠습니다.)이 스팀잇 세계에서 가장 빠르고 손쉽게 권력을 행사할 수 있는 방법이 바로 계정을 사는 행위일 것입니다. 명성도가 높은 계정을 사서 본인들의 생각을 전파하는 행위...
실제로 최근들어 부계정이라던가, 특정 언론사(?)의 보팅봇의 과도한 사용으로 다수의 동의를 얻은 듯한 느낌이 드는 포스팅 등의 문제들이 수면위로 드러났었습니다. 저는 이 두가지 사례를 다시 꺼내서 시시비비를 따지자는 것이 아니라, 이러한 사건들이 발생했을 경우 나타날 수 있는 문제점들에 대해 주목해봤습니다.
단순히 부계정이나 보팅봇이 아니라, 포스팅을 보팅하고 지지해주는 계정들이 명성도가 높은 계정이라면 ??
스팀잇 내에서 명성도가 높다는 것은 그 자체만으로도 어느정도 인정을 받고 이 사람에 대한 믿음이 기본 베이스라인으로 깔리고 시작합니다. 이러한 계정들을 몇 개만 손에 넣고 어떠한 관점이나 생각을 포스팅하고 각 계정으로 서로서로 보팅하고 응원을 하며 그 의견에 공감한다는 뉘앙스를 내비친다면, 다른 스티미언들은 아, 이거 좀 이상한데... 라는 생각이 들지언정, 쉽게 반대의견을 내뱉지 못할 것입니다. 본문에서도 언급한 군중심리처럼 나만 이상한 사람 되는거아냐? 라는 생각이 들 수도 있으며, 영향력 있는 사람들에게 밉보이고 싶지 않을 것이기 때문입니다. 그리고 오히려 그런 자들에게 잘 보이고 싶어서 그 사람들 편을 들고 힘을 실어주는 이들도 생기겠지요. 이러한 부분들에 대해서 생각만 갖고 있었는데 포스팅을 통해 조금 더 깊게 생각할 수 있게 되었네요.
활동하고 있는 계정이 A에서 사용하는 계정인지 파악할 수 있는 방법 중 하나는, 타어플에서 사용되고있는 위치기반 시스템을 생각해볼 수 도 있을겁니다. 본인이 작성하는 글이 어떤 기기에서 접속되어 어디에서 작성되는지 알 수 있는 시스템인데... 이걸 활용하면 A가 여러계정을 구매(?)하여 동시접속이나 같은장소에서 글을 쓰는 행위를 쉽게 파악할 수 있을 것 같네요. (A가 전국을 돌아다니며 글을 작성한다거나, GPS 조작 프로그램을 사용하면 어쩔 수 없지만요... 쭈굴)
하지만, 위치기반 시스템은 말 그대로 시스템이며, 감시받는 느낌이 들 수 있고 내 위치가 노출된다는 점에서 위축되고 소극적인 반응이 나타날 수 있으며, 스팀잇 자체의 자유도와 자율성을 저해할 수 있다고 생각됩니다. 그렇다면 시스템적인 측면이 아닌, 스티미언적인 측면에서는 어떤 생각을 할 수 있을까요?
가계정을 방지할 수 있는 방법은 바로 소통 일 것입니다.
글을 포스팅하는 말투와 그 사람의 평소 말투는 굉장히 다릅니다. 예를 들자면 #kr-gazua에서 사용하는 말투와 일반적인 포스팅 말투는 저만해도 많이 다르거든요. 만약 포스팅용 말투, 문장력, 구성력을 AI가 습득했다면 #kr-gazua 에서의 말투는 굉장히 부자연스러울 것입니다. (포스팅용 말투와 가즈아 말투 두가지 모두를 복사해서 AI 가 그마저도 태그를 변수로 구별해서 구사한다면 어쩔 수 없지만유 ㅠㅠ)
평소에 포스팅으로 인한 소통이 아닌 가즈아나 일상대화 속에서의 말투까지는 아무리 AI라 해도 구별하여 따라하긴 힘들 것이고 A가 계정을 사게 된다면 이러한 일상대화의 소통은 언제부턴가 이루어지지 않을 것입니다. 거대한 자본을 가지고 여론조작을 하기 위해 계정을 구매한 A가 일상대화를 해가며 소통을 하지는 않을 것 같네요. 정확히 말하자면, 해결방법이라 하기보다는 진짜 이 계정이 기존에 활동하던 사람의 것이 맞을까~하는 구별방법 정도 되겠네요.
밋업이나 소모임등을 통해 안면이 있고 서로를 알고있는 사람이 많은 계정이면 이 사람이 진짜인지 가짜인지는 쉽게 파악할 수 있으리라 생각합니다.
계정을 팔았거나, AI가 연기를 하는 것이라면 더 이상 밋업이나 소모임 활동은 하지않고 글만 쓰는 계정이 될테니 말이죠.
본문에 언급되었듯이 싱크로율이 100%에 가까운 챗봇이 등장하여 그 사람의 연기를 한다면 말투나 문장력만으로는 절대 구별할 수 없을 것 같네요. 개인적인 바람으로는 여론조작같은 행위가 발생하지 않기를 바랄 뿐이지만...
사람이 있고 돈이 있는 세상에서는 항상 생각지도 못한 사건사고들이 발생하는 법이지요.
이러한 일들이 발생하기 전에 미리 한번 생각해볼 수 있다는 것만으로도 좋은 대처방안과 해결방법의 일환이라고 생각합니다.
님 덕에 평소 생각만 하고 있던 부분들을 구체화시켜 고민해볼 수 있었음에 감사드리며, 제 본문에 언급되어있는 초이님의 포스팅 링크를 통해 다른 분들의 생각과 관점들도 엿볼수 있으니 들러보시고 생각을 같이 나눠보길 기대하겠습니다.
긴 글 읽어주셔서 감사합니다!