[IT 칼럼]빅 데이터도 옥석을 가려야 보배다

최근 데이터 사이언스, 빅 데이터 같은 말들이 유행이다. 기술의 발달, 특별히 컴퓨터 네트워크와 통신 기술의 발달을 통해서 이전에는 불가능했던 분석이 가능해졌고, 이런 분석이 새로운 경쟁의 장을 열고 있다는 것이 이런 유행이 번지는 데 한몫을 하고 있다.

이제는 더 이상 제공하지 않는 서비스이지만, 구글이 검색 결과를 통해서 감기 결과 예측을 했던 것도 유명한 사례다. 이렇게 모든 걸 정량화하고, 데이터를 통해 분석하려고 하는 노력은 미국 학계의 전반적인 흐름이기도 하고, 실리콘밸리의 주된 문화이기도 하다.

그러나 지식은 힘이되 얕은 지식은 독일 수 있듯이, 데이터 사이언스는 좋은 것일 수 있지만 어설픈 데이터 사이언스는 잘못된 해석을 가져다 줄 수도 있다. 예를 들어 2000년의 미국 선거 결과를 생각해 보자. 앨 고어와 조지 W 부시가 맞붙었던 해당 대선에서 미국은 일명 레드 스테이트(공화당을 지지한 주)와 블루 스테이트(민주당을 지지한 주)로 나뉜 것처럼 보였다. 선거 지도를 봤을 때, 빨간색과 파란색이 분명히 나누어졌기 때문이다.

구글캡처

그리고 더 흥미로운 사실은 민주당을 지지한 주들 가운데 주의 평균소득 등을 봤을 때 경제적으로 풍요한 주들이 상당수 포함되어 있었다는 것이다. 대표적인 주가 미국에서 가장 부유한 주 중에 하나인 캘리포니아다. 반대로 미국 중부와 남부의 경제적으로 어려운 주들 중에서, 심지어 정부의 경제적 지원을 상대적으로 가장 많이 받는 주들 중에서 공화당을 지지한 주들이 많았다. 그렇다면 부자들이 민주당(혹은 진보정당)을 지지했고, 가난한 사람들이 공화당(혹은 보수정당)을 지지한 것인가?

컬럼비아대학의 통계학자이자 정치학자인 앤드루 겔만을 비롯한 여러 학자들이 지적했듯이, 이는 대표적인 생태학적 오류 사례다. 여기서 우리가 추론하고자 하는 분석의 기준은 개인이다. 개인의 경제적인 조건에 따라서 투표 패턴이 바뀌는지가 궁금하다. 그러나 현재 따지고 있는 경제적 조건은 개인의 경제적인 조건이 아니라, 각 주의 경제적 조건이다. 나아가 우리는 지금 그 주의 경제적 조건을 평균으로 따지고 있다.

따라서 다수가 가난하더라도 소수의 극도로 부자가 있다면, 평균적으로는 부자 주로 결과가 나올 수 있다. 부자 주가 민주당을, 가난한 주가 공화당을 지지하는 것처럼 보이는 건 이런 생태학적 오류를 심각하게 생각하지 않기 때문에 얻은 결과다.

다른 예로, 보다 빅데이터와 관련이 있는 온라인 광고의 효과 측정 모델에 대해서 생각해 보자. 구글, 네이버 등 대표적인 인터넷 기업들이 이 비즈니스 모델로 큰 돈을 벌고 있지만, 온라인 광고가 얼마나 효과가 있는지에 대해서는 알기가 쉽지 않다. 유료 검색 광고를 클릭하는 횟수와 해당 사이트에 들어가서 구매하는 행위와 연관성이 있다고 해도, 그것은 연관성이지 인과관계는 아니기 때문이다.

예를 들어 소방서 근처에 불이 많이 난다고 했을 때, 상식적으로 이는 소방서가 불이 나는 데 원인을 제공하기 때문은 아닐 것이다. 애초에 소방서를 지을 때 불이 많이 날 수 있는 곳을 염두에 두고 지었기 때문일 것이다. 마찬가지로 X와 Y가 서로 연관성이 있다고 해서, 이것이 X가 원인이 돼서 Y가 일어났다는 걸 의미하지 않는다. 통계적으로는 이를 ‘내생성 문제’라고 한다.

IT 칼럼 구독

UC 버클리 하스 경영대학원의 스티븐 타델리스 등이 이러한 연구 설계를 가지고 이베이를 통해서 실험한 결과에 따르면 이미 잘 알려진 브랜드의 경우 단기적으로 유의미한 검색 광고의 효과가 없었고, 이런 효과는 자주 이베이를 사용하지 않는 이용자들이 이런 검색 광고에 노출됐을 때만 나타났다. 위와 같은 연구 결과들은 데이터 사이언스, 빅 데이터는 유용하지만, 그 기본은 데이터와 분석의 옥석을 가릴 수 있는 체계적으로 의심하는 힘에서 나온다는 걸 보여준다.

<김재연 대학사용법 저자>