검열하다 딱 걸린, "페이스북-트위터-구글"

[영상 먼저보기] youtu.be/jLgW20fvntw

 

[한영 스크립트]

In the late 19th century, the heads of the biggest corporations in America, the robber barons, got together and they set rates, they set prices, they determined how they would control information flow. They determined how they’d get rid of competition. And I’ll be darned if we aren’t right back there again. Except for this time, you’re the robber barons. Your companies are the most powerful companies in the world and I want to talk about how you’re coordinating together to control information

19세기 후반, 미국의 가장 큰 기업들, 즉 악덕 자본가들은 함께 모여서.. 그들이 요율을 정하고 그들이 가격을 정하고 어떻게하면 정보의 흐름을 통제할까를 그들이 결정 했었습니다. 어떻게 경쟁자들을 제거할지도 그들이 결정했구요. 그리고 지금이 바로 그 시대와 같다고 해도 저는 놀라지 않을 겁니다. 이번 건을 제외하더라도, 당신이 바로 그 악덕 자본가입니다. 당신의 회사들은 세계에서 가장 강력한 회사들이죠. 그리고 저는 어떻게 당신이 정보를 통제하기 위해 그 회사들을 돌리고 있는지에 대해 이야기해보고 싶습니다.

In recent days, my office was contacted by a Facebook whistleblower, a former employee of the company, with direct knowledge of the company’s content moderation practices. And I want to start by talking about an internal platform called Tasks that Facebook uses to coordinate projects, including censorship. The Tasks platform allows Facebook employees to communicate about projects they’re working on together. That includes Facebook’s censorship teams, including the so-called community wellbeing team, the integrity team, and the hate speech engineering team, who all use the task platform to discuss which individuals or hashtags or websites to ban. Now, Mr. Zuckerberg, you’re familiar with the test platform, aren’t you?

최근, 저희는 페이스북에서 근무했던 내부고발자로부터 연락을 받았는데요, 그는 페이스북에서 콘텐츠를 조정하는 것에 대해 직접 알고 있는 사람이었습니다. 저는 페이스북이 검열을 포함하여, 프로젝트 조정을 위해 사용하는 ‘태스크’라는 내부플랫폼에 대해 말해보고 싶네요. 그 '태스크 플랫폼'은 페이스북 직원들이 함께 작업하는 프로젝트에 대해 소통할 수 있게 해주는 플랫폼인데요..  그 플랫폼에는 ‘페이스북 검열팀, 커뮤니티 웰빙팀, 청렴팀, 그리고 혐오표현 엔지니어링팀’이 포함되어 있는데요. 이들은 모두 그 '태스크 플랫폼'을 통해 어떤 '개인, 해시태그, 웹사이트’를 금지할지를 논의합니다. 자, 저커버그씨, 이 '태스크 플랫폼'이 익숙하시지요, 그렇죠?

Senator, we use the Task system for, I think it’s, as you say, for people coordinating all kinds of work across the company, although I’m not sure if I’d agree with the characterization specifically around content moderation that you gave.

의원님, 그 '태스크 시스템'은.. 제 생각에 회사 전체에 걸쳐 모든 작업을 조정하는 사람들을 위해 사용하고 있습니다만, 그 플랫폼의 역할이 의원님께서 말씀하신 ‘콘텐츠 조정’을 중심으로 특징되어 진다는 것에는 저는 잘 모르겠습니다.

Well, let’s get into that. And let me see if we can refresh your memory and provide folks at home watching with an example. Here over my shoulder is an example, is a screenshot of the Task platform in use. You’ll notice, if the cameras zoom in, several references to election integrity throughout on these lists of tasks. Again, this is shared across Facebook sites, company locations by working groups. What particularly intrigued me is that the platform reflects censorship input from Google and Twitter as well. So as I understand it, Facebook censorship teams communicate with their counterparts at Twitter and Google, and then enter those companies suggestions for censorship onto the task platform so that Facebook can then follow up with them and effectively coordinate their censorship efforts. Mr. Zuckerberg, let me just ask you directly under oath now, does Facebook coordinate its content moderation policies or efforts in any way with Google or Twitter?

글쎄요, 더 이야기해 봅시다. 예시를 보면서 우리가 당신의 기억을 살리고 시청자들에게 제공할 수 있을지 봅시다. 여기 제 어깨 너머로 ‘태스크 플랫폼’의 스크린샷 예시가 있습니다. 카메라를 줌인 해보시면 알아보실 겁니다. 이 태스크의 목록을 통해 선거 청렴성에 대한 몇 가지 언급들을 볼 수 있고요. 다시 말해, 이것이 워킹그룹에 의해 페이스북 사이트와 회사 위치들에 걸쳐 공유되는 것입니다. 특히 제가 흥미롭게 본 것은 그 플랫폼이 ‘구글과 트위터’의 검열 입력값도 반영한다는 점입니다. 그래서 제가 이해한 바로는요, 페이스북 검열팀은 트위터, 구글의 담당자와 소통을 하고요, 그 후에 검열에 대한 그 기업들의 제안을 '태스크 플랫폼'에 입력하여, 페이스북이 조치를 취하여 검열 노력을 효과적으로 조정할 수 있도록 한다는 것이죠. 저커버그씨, 지금 선서 하에 단도직입적으로 질문을 드립니다. 페이스북이 ‘구글, 트위터’와 어떤 방식으로든 콘텐츠 조정정책을 위해 협력을 하고 있습니까?

Senator, let me be clear about this. We do coordinate on and share signals on security related topics. So for example, if there is signal around a terrorist attack or around child exploitation imagery or around a foreign government creating an influence operation, that is an area where the companies do share signals about what they see. But I think it’s important to be very clear that that is distinct from the content and moderation policies that we or the other companies have, where once we share intelligence or signals between the companies, each company makes its own assessment of the right way to address and deal with that information.

의원님, 제가 이것에 대해 분명히 말씀드리겠습니다. 우리는 보안 관련 주제를 조정하고 그것을 공유합니다. 그래서 예를 들어, 만약 테러 공격에 대한 신호가 뜨거나 아동착취 이미지 혹은 영향을 끼치는 외국정부의 신호가 잡히면, 그러한 신호들을 그 기업들이 공유하는 그런 곳이라는겁니다. 하지만 저는 그것이 우리나 혹은 다른 기업들이 가진 '콘텐츠 및 조정 정책'과는 다르다는 점을 분명히 하는 것이 매우 중요하다고 생각하는데요, 우리가 일단 기업들간에 정보나 신호를 공유하면, 각 기업들은 그 정보를 다루고 처리하는 올바른 방법에 대한 자체적인 평가를 내리는 것입니다.

Well, I’m talking about content moderation, I’m talking about individuals, websites, hashtags, phrases to ban. Is it your testimony that you do not communicate with Twitter or Google about content moderation, about individuals, websites, phrases, hashtags to ban? Just yes or no? Do you communicate with Twitter or Google about coordinating your policies in this way?

글쎄요, 저는 지금 콘텐츠 조정에 대해 말하는 거구요. ‘개인, 웹사이트, 해시태그, 금지된 용어’에 대해 말하는 겁니다. ‘개인, 웹사이트, 용어, 금지된 해시태그의 콘텐츠 조정에 대해 트위터, 구글과 소통하지 않는다’라는 것이 당신의 증언입니까? 그냥 ‘예’, ‘아니오’로 대답하시죠. 이런 식으로 당신의 정책을 ‘트위터, 구글’과 협력하십니까?

Senator, we do not coordinate our policies.

의원님, 우리는 우리의 정책들을 조정하지 않습니다.

Do your Facebook content moderation teams communicate with their counterparts at Twitter or Google?

당신의 ‘페이스북 콘텐츠 조정팀’은 트위터 또는 구글의 담당자와 소통하십니까?

Senator, I’m not aware of anything specific, but I think it would be probably pretty normal for people to talk to their peers and colleagues in the industry..

의원님, 제가 구체적인것들은 잘 모르지만.. 하지만 업계의 동료나 사람들과 이야기를 나누는 것은 아마 꽤 일반적인 것이라고 생각하는데요..

It would be normal, but you don’t do it?

"꽤 일반적인 것"인데, 그런데 당신은 그렇게 하지 않는다는 거군요?

No, I’m saying that I’m not aware of any particular conversation, but I would expect that some level of communication probably happens. It’s different from coordinating what our policies are or our responses in specific instances.

아뇨. 제가 말씀드리는 건.. 제가 특정한 대화에 대해서는 잘 모르겠는데.. 하지만 제가 예상하기에 어떤 수준의 소통은 아마 일어날거라고 보는데요.. 이것은 우리의 정책이나 특정사례에 대하여 우리의 대응을 조정하는 것과는 다른 것이라는 말씀입니다.

Well fortunately, I understand that the task platform is searchable. So will you provide a list of every mention of Google or Twitter from the task platform to this committee?

글쎄요, 저는 다행히도 그 태스크 플랫폼이 검색기능이 있다는 것을 알고 있습니다. 그러면 그 태스크 플랫폼 안에서, 구글 및 트위터와 나눈 모든 대화를 여기 법사위에 제출하시겠습니까?   

Senator, that’s something that I can follow up with you and your team after on.

의원님, 그건 제가 나중에 논의한 후에 의원님께 말씀 드릴 수 있는 부분 같습니다.

Yes or no? I’m sure you can follow up with the list, but why don’t you commit while I’ve got you here under oath, it’s so much better to do this under oath. Will you commit now to providing a list from the tasks platform of every mention of Google or Twitter?

‘예’입니까, ‘아니오’입니까. 저는 당신이 그 리스트를 충분히 찾아낼 수 있다고 확신합니다. 그럼 여기 오신 김에 선서를 하시지요. 맹세를 하는 것이 훨씬 좋을 것 같은데요. 당신은 그 태스크 플랫폼 내에서 ‘구글과 트위터’와 나눈 모든 대화 리스트를 제공하겠다고 맹세하겠습니까?

Senator, respectfully, without having looked into this, I’m not aware of any sensitivity that might exist around that. So I don’t think it would be wise for me to commit to that right now. So I would have to follow-

의원님, 정중하게 말씀드려서, 그 리스트를 보지 않고는요. 저는 그 안에 어떤 민감한 내용을 있는지 알지 못합니다. 그래서 저는 지금 당장 맹세하는 것은 현명하지 않다고 생각하고요. 그래서 제가 한번 훑어본 후에..

That’s a no. How many items on the task platform reflect that Facebook, Twitter, and Google are sharing information about websites or hashtags or platforms that they want to suppress?

그건 안되죠. ‘페이스북, 트위터, 구글’이 차단하려는 ‘웹사이트, 해시 태그 또는 플랫폼’에 대한 공유된 정보가, 그 태스크 플랫폼안에 몇 개의 항목이나 있습니까?

Senator, I do not know.

의원님, 저는 잘 모릅니다.

Will you provide a list of every website and hashtag that Facebook content moderation teams have discussed banning on the task platform?

페이스북 콘텐츠 조정팀이 그 태스크 플랫폼에서 금지하기로 논의한 모든 웹사이트와 해시태그 목록을 제출하시겠습니까?

Senator again, I would be happy to follow up with you or your team to discuss further how we might move forward on that, but..

의원님, 다시 말씀드리지만, 저는 그 문제에 대해 어떻게 할지에 대해 의원님과 후에 논의하는 것이 좋다고 보고요.하지만..

Will you commit to it here? Senator Cruz and Senator Lee both asked you for lists of individuals, websites, entities that have been subject to content moderation. You expressed doubt about whether any such information exists, but you’ve also now said that the task website… You’ve acknowledged the test platform exists, that it is searchable. So will you commit to providing the information you have logged on the task website about content moderation that your company has undertaken? Yes or no?

그것을 지금 여기서 맹세하시겠습니까? 크루즈 의원과 리 의원 모두 당신에게 콘텐츠 조정을 받은 ‘개인, 웹사이트, 자격’ 목록을 요청 했었습니다. 당신은 그러한 정보들이 존재하는지에 의문을 제기했지만, 당신은 또한 이제 그 태스크 웹사이트가.. 당신은 그 태스크 플랫폼의 존재를 인정했고요. 그것이 검색이 가능하다고도 인정했습니다. 그러면 당신은 페이스북이 수행한 콘텐츠 조정에 대해 업무 웹 사이트에 로그인한 정보를 제공하기로 약속하시겠습니까? ‘예, 아니오’로 답하시죠.

Senator, I think it would be better to follow up once I’ve had a chance to discuss with my team what any sensitivity around that would be that might prevent the kind of sharing that you’re talking about. But once I’ve done that, I would be happy to follow up.

의원님, 저는 일단 팀원들과 상의를 해보고, 의원님이 말씀하시는 공유하는 것이 그 정보에 어떤 민감성이 있는지를 확인해보고 후속조치를 취하는게 더 나을거라고 생각합니다.  

All right. So you won’t commit to do it here. We could of course subpoena this information, but I’d much rather get it from you voluntarily. But I think, let everybody take note, that Mr. Zuckerberg has now repeatedly refused to provide information that he knows that he has and has now acknowledged that he has, that Tasks has.. Let me switch to a different topic. Mr. Zuckerberg, tell me about Sentra. What is the Facebook internal tool called Sentra?

좋습니다. 그러면 당신은 여기서 맹세를 하지 않겠다는 것이군요. 우리는 물론 그 정보들을 소환시킬수 있지만, 저는 당신에게 자발적으로 받는 것이 훨씬 좋다 라고 보는 겁니다. 하지만 저는 모든 사람들이 이제 ‘저커버그가 자신이 알고 있는 정보를 제공하는 것을 반복적으로 거부했으며, 현재 자신이 그 내용을 알고 있다는 것을 인정했다’라는 점에 주목하고 싶습니다. 이제 다른 주제로 넘어가겠습니다. 저커버그 씨, ‘센트라’ 얘기 좀 해주시죠. ‘센트라’라고 불리는 페이스북 내부의 ‘도구’는 무엇입니까?

Senator, I’m not aware of any tool with that name.

의원님, 저는 그 이름을 가진 어떤 도구도 알지 못합니다.

Well, let me see if this refreshes your memory. There’s a demonstrative now over my shoulder. Sentra is a tool that Facebook uses to track its users not just on Facebook, but across the entire internet. Sentra tracks different profiles that a user visits, their message recipients, they’re linked accounts, the pages they visit around the web that have Facebook buttons. Sentra also uses behavioral data to monitor users accounts even if those accounts are registered under a different name.

글쎄요, 이게 당신의 기억을 되살릴 수 있을지 한번 봅시다. 지금 제 어깨 너머로 입증할 만한 것이 있는데요. ‘센트라’는 페이스북 뿐만 아니라, 인터넷 전체에서 페이스북이 사용자들을 추적하기 위해 사용하는 도구입니다. ‘센트라’는 사용자가 방문하는 다양한 프로필, 메시지 수신자, 링크된 계정, 페이스북 버튼이 있는 웹 주위에서 방문하는 페이지를 추적합니다. ‘센트라’는 또한 행동 데이터를 사용하여 심지어 사용자 계정이 다른 이름으로 등록되어 있더라도 사용자 계정을 모니터링 합니다.

And you can see a shot here, a screenshot provided to us of the central platform. We blocked out the user’s name in the interest of privacy, although you can see this individual’s birth date and age, when they first started using Facebook, their last login, as well as all manner of trackings. How many different devices have they used to access Facebook? How many different accounts are associated with their name? What accounts have they visited? What photos have they tagged? And on and on and on. Mr. Zuckerberg, how many accounts in the United States have been subject to review and shut down through Sentra?

여기 중앙 플랫폼에 있는 스크린샷을 보실수 있습니다. 우리가 프라이버시를 위해 사용자의 이름을 블록처리했습니다만, 여러분은 이 개인의 생년월일과 나이, 페이스북을 처음 사용하기 시작한 시점, 마지막 로그인, 그리고 모든 종류의 추적 등을 볼 수 있습니다. 사용자가 페이스북에 접속하기 위해 얼마나 많은 다른 기기를 사용했는가? 얼마나 많은 서로 다른 계정들이 사용자의 이름과 연관되어 있는가? 사용자가 방문한 계정은 무엇인가? 사용자는 어떤 사진에 태그를 달았는가? 계속해서 이런 식입니다. 저커버그 씨, ‘센트라’를 통해서 ‘검토가 된 사용자’와 ‘폐쇄 대상이 된’ 미국 계정이 몇 개나 됩니까?

Senator, I do not know because I’m not actually familiar with the name of that tool. I’m sure that we have tools that help us with our platform and community integrity work, but I am not familiar with that name.

의원님, 저는 정말 그 도구의 이름을 잘 몰라서 잘 모르겠습니다. 저는 우리의 플랫폼이 지역사회에 청렴한 일을 도울 수 있는 도구를 가지고 있다고는 확신하지만, 저는 그 도구의 이름은 잘 모르겠습니다.

Do you have a tool that does exactly what I’ve described and that you can see here over my shoulder? Or are you saying that that doesn’t exist?

제 어깨 너머로 보이는.. 제가 정확히 설명한 이 도구가 존재합니까? 아니면 이 도구가 존재하지 않다고 말하는 겁니까?

Senator, I’m saying that I’m not familiar with it and that I’d be happy to follow up and get you and your team the information that you would like on this. But I’m limited in what I’m familiar with and can share today.

의원님, 저는 그 도구를 잘 모릅니다. 그리고 이 문제에 대해서는 의원님이 원하는 정보를 기꺼이 얻을 수 있도록 후속조치를 해드리겠습니다. 하지만 제가 잘 아는 것에는 제한이 있고요, 그 밖에 것은 오늘 공유할 수 있습니다.

Always amazing to me, Mr. Chairman, how many people before this committee suddenly develop amnesia. Maybe it is something about the air in the room. Let me ask you this, when a Facebook employee accesses a user’s private information like their private messages or their personally identifiable data, is a record made of that, Mr. Zuckerberg?

제게는 정말 늘 놀라운 일입니다, 의장님. 얼마나 많은 사람들이 이 위원회 전에, 갑자기 기억상실증에 걸리는지를 보면 말이죠. 아마도 그것은 이 방에 뭔가가 있기 때문이 아닐까 싶은데요. 그럼 이걸 물어보겠습니다. 페이스북 직원이 사용자의 개인정보에 접근할 때 말이죠, 예를 들어 개인 메시지, 개인식별이 가능한 자료 같은 것 말이죠. 그 기록이 남는 겁니까, 저커버그씨?

Sorry Senator, could you repeat that?

죄송합니다. 의원님, 다시 한번 말씀해주시겠습니까?

Record made of any time a Facebook employee accesses a user’s private information, personal identifiable information?

페이스북 직원이 사용자의 개인 정보, 개인 식별 가능 정보에 접근할 때 기록이 생성되냐고 묻는 겁니다?

… private information, personal identifiable information. For example, messages. Is a record made anytime a Facebook employee does that?

개인정보, 개인 식별 가능 정보요. 예를 들어, 메시지라든지. 페이스북 직원이 그 정보에 접근할때 항상 그 기록이 남습니까?

Senator, I believe so.

의원님, 저는 그렇게 알고 있습니다.

Does it trigger an audit?

그것으로 감사를 받나요?

Senator, I think sometimes it may.

의원님, 가끔 그런 걸로 알고 있습니다.

How many audits have been conducted?

몇 번이나 감사를 받으셨습니까?

Senator, I do not know the exact number of audits off the top of-

의원님, 몇 번이나 감사를 받았는지 정확한 횟수를 모르겠습니다..

Can you get me a list?

제가 목록을 받을수 있을까요?

Senator, we can follow up on that to see what would be useful here.

의원님, 여기서 필요하시다면 저희가 후속조치를 취할 수 있습니다.

I’m almost finished, Mr. Chairman. Will you commit to giving us a list of the number of times Facebook employees have accessed users’ personal account information without their knowledge? Yes or no?

이제 거의 끝났습니다, 의장님. 페이스북 직원들이 사용자들이 모르게 그들의 개인 정보에 접근한 숫자에 대한 목록을 주신다고 맹세하십니까? ‘예, 아니오’로 답하시죠.

Senator, we should follow up on what would be useful here. It is, of course, in the operations of the company, if someone reports something, sometimes necessary for people at the company to go review and understand the context around what is happening when someone reports something. So this is fairly frequent and is a matter of course. We do have security systems that can detect anomalous patterns to flag, but we should follow up in more detail on what you’re interested in.

의원님, 우리는 이 자리에 유용할 것들에 대해 후속조치를 해야 합니다. 그건 물론 회사를 운영하면서, 만약 누군가가 뭔가를 보고한다면 때로는 무슨 일이 일어나고 있는지에 대한 상황을 검토하고 이해하는 것이 필요할 때가 있습니다. 그래서 이런 일은 꽤 빈번이 일어나고 당연한 일입니다. 우리는 이상한 징후를 감지할 수 있는 보안시스템을 갖고 있지만, 우리는 의원님이 관심있는 자료들에 대해 더욱 세밀하게 팔로업 해야할 것 같습니다.

Mr. Chairman, I’ll just say in closing that what we have here is clear evidence of coordination between Twitter, Google, and Facebook. Mr. Zuckerberg knows he has the tools to track this, but he either doesn’t remember or won’t commit to letting us see it. We have evidence of Facebook tracking its own users all across the web. Mr. Zuckerberg won’t answer questions about it, can’t remember the name, isn’t sure if the tool is deployed in this way, and won’t commit to giving us basic information

의장님, 마지막으로 말씀드리는 것은.. 우리가 ‘트위터, 구글, 페이스북’들간에 명확히 (콘텐츠)조정에 대한 증거가 있었다는 겁니다. 저커버그 씨는 그가 이것을 추적할 수 있는 도구를 가지고 있다는 것을 알고 있지만, 그는 그것을 기억하지 못하거나 우리가 그것을 볼 수 있도록 허락하지 않을 것입니다. 우리는 페이스북이 웹 전체에 걸쳐 자신의 사용자들을 추적하고 있다는 증거를 가지고 있습니다. 저커버그 씨는 그 증거에 대한 질문에 대답하지 않을 것이고, 그 이름을 기억할 수 없을 것이며, 그 도구가 이런 식으로 배치되어 있는지 대해 확인시켜주지 않을 것이며, 우리에게 기본적인 정보를 주겠다고 약속하지도 않을 것입니다.

I submit to you that this is both totally unacceptable and totally predictable because it is exactly what these tech companies have done to the American people and to Congress for years now, which is why it is time we took action against these modern day robber barons. Thank you, Mr. Chairman.

저는 이것은 완전히 용납될 수 없는 것이며, 완전 예측 가능한 것이라는 것을 말씀드립니다. 왜냐하면 이것은 바로 이 기술 회사들이 미국 국민과 의회에 지금까지 해왔던 짓이기 때문입니다. 이것이 바로 우리가 현대판 악덕 자본가에 대해 조치를 취해야 할 때인 것입니다. 감사합니다, 의장님.

 

[워드파일로 다운로드]

1118_2020_facebook_hearing.docx

0.04MB