페이스북 인공지능, 비서이거나 편집장이거나

 소셜 네트워크 서비스(SNS)의 사용이 늘어나면서 오프라인에서 하지 않을 발언이나 혹은 본래 모습이 실수든 고의든 노출되곤 합니다. 또는 공개 범위 설정에 신중하지 못한 탓에 문제가 생기기도 하죠. 그래서 알렉스 퍼거슨의 발언이 더 와 닿기도 합니다.
 

---

페이스북 인공지능, 비서이거나 편집장이거나
 
 지난여름, 페이스북이 2012년에 약 70만 명을 대상으로 뉴스피드를 조작하여 사용자의 감정 전이에 대한 실험을 진행한 사실이 밝혀졌습니다. 사용자의 동의 없이 말입니다. 아주 충격적인 뉴스였는데, 이후 페이스북은 사용자 접근에 상당히 소극적이었고, 페이스북 외 서비스는 익명을 강조하는 등 페이스북과 무조건 연결하려는 이전 모습을 보이진 않았습니다.
 
 

via_Slate

 WIred는 페이스북이 사용자의 페이스북 이용 양식을 분석하여 평소와 다른 성격의 게시물을 작성했을 때 사용자에게 경고하는 방식 등으로 콘텐츠를 관리할 인공지능을 개발 중이라고 보도했습니다.
 
 특히 취중 페이스북을 이용하는 사용자라면 반길만한 것으로 이미지나 태그 등을 분석하여 사용자의 상태를 인식하여 부적절한 콘텐츠의 게시를 막아줄 것으로 기대됩니다.
 
 이는 사용자를 옆에서 보조한다는 점에서 일종의 가상 비서 시스템으로 볼 수 있습니다. 페이스북은 당장 취중 게시를 막는 것을 목적으로 내세웠으나 그것만으로 가상 비서 시스템을 구축하기는 수지타산이 맞지 않습니다. 되레 사용자 경험만 방해하면서 기능을 유지하는 꼴이 될 수도 있겠죠. 취중 상태가 아님에도 경고를 한다든지 말입니다.
 
 그래서 넓게 보면 취중 사용자뿐만 아니라 이미지, 동영상의 저작권을 지적하거나 장문의 글을 분석하여 게시를 재고할 수 있도록 하는 등 활용을 늘릴 수 있고, 늘리는 쪽이 기능 면에서 전체 사용자를 포함할만한 것이 될 수 있습니다.
 
 문제는 페이스북이 사용자의 어떤 데이터를 분석하여 게시물의 게시 여부를 경고하느냐는 것입니다. 기능만 보면 유용할 것처럼 보여도 말하기 전에 누군가에게 검증받아야 한다는 자체가 썩 기본 좋은 일이 아닙니다. 페이스북의 시도가 개인을 침범하는 것이 될 수 있다는 겁니다.
 
 

 이는 감정 전이에 대한 실험이 드러난 이후 나온 쟁점이라 우려도 큽니다. 사용자가 기능의 대상자가 아닌 분석의 대상자가 될 수 있기 때문입니다.
 
 물론 페이스북이 아직 해당 기능을 내놓은 게 아니라 개발 단계이므로 단정하여 문제 있는 것으로 말할 수는 없습니다. 다만, 해당 기능을 이용할 사람이 느낄 수 있는 건 옆에서 도와주는 비서가 아닌 자신의 게시물에 대한 최종 결정을 내리는 편집장일 수 있다는 점입니다.
 
 애초 페이스북이 제시한 취중 게시가 전체 페이스북 이용에서 차지하는 부분은 상당히 작을 것입니다. 하지만 페이스북이 분석하는 건 혈중알코올농도가 아니므로 실제 취중 페이스북을 이용하는지 판단하는 기준이 명확하다고 할 수 없습니다. 그렇다면 정확도를 높이기 위해서 더 정밀한 분석이 필요하고, 정밀한 분석에는 당연히 사용자에 대해 세세한 분석이 뒷받침되어야 할 것입니다.
 
 그 경계가 페이스북의 인공지능 시스템이 비서가 될지, 편집장이 될지 판가름 짓는 게 될 겁니다. 명확한 건 목적에 맞지 않은 상태에서 인공지능이 게시물을 지적하는 것은 그리 좋은 경험이 되지 못하리라 봅니다. 또한, 목적의 순간, 그러니까 음주 직전에 사용자가 음주하겠다고 설정을 해야 한다면 단지 실수를 피하기 위한 설정을 위해 사용자가 음주 중이라는 사실을 페이스북에 전달해야 합니다.
 
 기능은 여러모로 유용할지라도 기능의 동작을 위해 사용자 경험을 파괴하고, 개인 사생활 영역을 침범하는 것이 된다면 반길만한 기능인지 생각해보아야 할 것입니다.
 
 

 상기했듯이 아직 페이스북이 해당 기능을 선보인 건 아닙니다. 그러나 감정 전이 실험이 일어날 수 있었던 배경인 약관 동의의 약용 사례가 인공지능 시스템에도 쓰일 수 있다는 점을 고려한다면 도와주는 비서가 아닌 통제하는 편집장이 될 가능성이 있습니다.
 
 적어도 페이스북이 이 기능을 내놓기 전에 해야 할 것은 해당 기능을 통해 사용자를 분석하는 범위와 분석에 대한 동의 약관을 재명기하는 것입니다.
 
 페이스북의 인공지능 시스템이 흐트러진 사용자를 보좌할 진정한 비서가 될 수 있을지 기대해봅니다.