틱톡을 좋아했던 열 살 소녀의 의도하지 않은 죽음. 2021년 미국 사회를 뒤흔들었던 틱톡의 ‘기절 챌린지’ 소송이 새 국면을 맞았다. 기술 플랫폼의 수호신과도 같았던 미국 통신품위법 제230조 적용에 제동이 걸린 것이다. 미국 필라델피아 제3 순회 항소법원은 ‘위험한 콘텐츠’를 사용자에게 노출한 틱톡에 관대함을 베풀지 않았다. “틱톡 역시 알고리즘으로 특정한 사용자에 추천되는 콘텐츠를 직접 고르고 있는 것”이라며 면책되지 않는다는 판결을 내렸다. 전례에 비춰봤을 때 이례적이었다.

프랑스에서도 유사한 사례가 등장했다. 프랑스 검찰은 텔레그램 창업자이자 대표인 파벨 두로프를 미성년자 성착취물 제작 및 배포 혐의 등으로 예비기소했다. 텔레그램 쪽은 “플랫폼이나 플랫폼 소유주에게 해당 플랫폼 남용 사례에 대한 책임을 묻는 것은 터무니없다”라며 반발하고 있다. ‘수동적 중개자론’을 펼치며 면책을 강조하고 있다. 프랑스 법원이 어떤 판결을 내릴지는 알 수 없지만 기소 자체가 던지는 신호는 의미심장하다.

서로 다른 국가에서 취해진 두 가지 조치는 디지털 플랫폼 발전사에 중요한 전환점을 제시하고 있다. 의도했든 하지 않았든, 플랫폼 안에서 벌어진 범죄 행위에 대해 플랫폼이 책임을 질 수도 있다는 상징적 메시지여서 그렇다. 그간 빅테크 플랫폼은 표현의 자유, 산업 발전, 기밀 보장 등의 이유로 폭넓은 면책 혜택을 받아왔다. 하지만 이 제230조 뒤에 숨을 수 있는 공간은 점차 좁아지고 있다. 플랫폼이 ‘선할 것’이라는 신뢰가 깨져서다. 그만큼 기술 플랫폼을 향한 책임 부과가 사회적으로 지지를 받는 국면이다.

두 조치의 파장은 유튜브와 오픈AI로 향할 것으로 보인다. 특히 안전장치 개발에 둔감한 오픈AI가 표적이 될 가능성이 더 크다. 오픈AI는 일반 인공지능(AGI·Artificial General Intelligence)을 연이어 설파하면서 AI의 기술적·산업적 가치를 한껏 부풀리는 데 여념이 없다. 반면 AI의 안전을 담당하는 부서는 해체했다. 핵심 인재들도 이 회사를 떠났다. 안전과 책임성은 늘 그렇듯 실리콘밸리식 성장과 성공의 희생양이 됐다. 그러는 사이 챗GPT를 활용한 사이버 범죄는 서서히 몸집을 키우고 있다. 챗GPT의 보안 취약점을 활용해 악성코드를 고도화하거나 피싱에 활용하는 사례도 늘고 있다. AGI 개발에 비해 안전에 턱없이 적게 투자해온 그들의 뒷모습이다.

역사적으로 실리콘밸리의 빅테크는 ‘기술의 과장’을 통해 성장의 모멘텀(추진력)을 구축했다. 과장의 마케팅으로 자본과 사용자를 모으고 혁신의 이름으로 부정적 외부 효과를 정당화했다. 이 과정에서 발생하는 플랫폼 안에서의 범죄, 허위정보 및 유해 콘텐츠의 유통은 그들의 성장과 성공을 위해 방치해야 할 그 무엇이었다. 성공만 하면 돈으로 무마할 수 있는 대상이라는 인식도 팽배했다. 이렇듯 ‘날뛰는’ 플랫폼을 길들이기 위한 제도적 행보가 시작됐다. 기술 발전과 기업 보호라는 화려한 구호 앞에 안전을 뒤로 밀쳐뒀던 국가도 움직이기 시작했다. 국내에선 관련 입법도 시도되고 있다. 저항과 반발이 있겠지만, 인류를 위해 안전한 디지털 공간을 만들기 위한 발걸음에도 힘이 실려야 할 때가 됐다.

<이성규 미디어스피어 대표>