주간경향

딥시크, ‘일반기억’의 대중화

인공지능(AI)에는 의식이 없다. 결국 입력을 넣으면 출력하는 전산 설비에 지나지 않는다. 다만 세상의 모든 기억으로 학습된 다소 진보된 외장 기억장치라 할 수 있으니 루소의 일반의지는 되지 못해도 ‘일반기억’이라고는 충분히 불릴 만하다. 인간의 진짜 기억처럼 오염도, 환각도 벌어진다.기억은 입력된 정보의 양과 질에 좌우된다. 출력 정보를 통제하려면 입력을 관리하면 된다. 그렇기에 각국은 제각각의 모델을 지녀야 한다는 ‘소버린 AI’(주권 AI) 국산품 생산 장려 운동에 매료된다. 유럽도 한국도 국가별 AI 순위에 집착하고 있다.그러던 중 온 세상이 딥시크로 시끄러워졌다. 중국으로 향하는 반도체 수출을 막았으니 못 만들 줄 알았던 물건을 보란 듯이 만들어내고, 그 사본 또한 누구나 받아 내릴 수 있도록 공개해버렸다. 무역전쟁 중인 미국 정부, AI 챗봇의 대명사 오픈AI와 구글 그리고 오픈소스 AI 모델로 판을 새로 짜보려던 메타까지 갑자기 머쓱해져 버렸다. 주식시장도 요...

1615호2025.02.07 14:50

‘AI 트리즘’으로 살펴보는 AI 신뢰성

소위 ‘제2의 전기’라 불릴 정도로 모든 분야에서 활용 가능성을 보이는 인공지능(AI)은 개인의 업무 효율부터 기업의 혁신 전략에 이르기까지 막대한 영향을 미치고 있다. 하지만 AI를 개발하고 도입하는 과정에서 예상치 못한 위험이 발생하거나, 오작동으로 인해 기업이 치명적 손상을 입을 가능성도 커지고 있다. 그에 따라 새롭게 주목하기 시작한 분야가 바로 AI 신뢰성, 위험 및 보안 관리를 아우르는 ‘AI 트리즘(TRiSM·Trust, Risk, and Security Management)’이다.AI 트리즘은 AI에 대한 신뢰성을 제고하고 위험을 효과적으로 통제하기 위한 종합적이고 전략적인 접근 방식을 말한다. 이는 AI의 개발부터 배포, 운영, 사후 관리에 이르는 전 과정에서 보안, 법적 규제 준수, 윤리적 투명성·공정성 등을 확보하고 리스크(위험)를 체계적으로 식별·관리하려는 노력을 포괄한다. 예컨대 기업이 서비스에 AI를 도입할 때 모델의 학습 데이터나 알고리즘에 존재하는...

1614호2025.01.24 15:00

저커버그의 변심과 본심

“저는 페이스북을 기술 기업으로 생각하지만, 단순히 정보가 흐르는 기술을 구축하는 것 그 이상의 더 큰 책임이 있다는 것을 알고 있습니다.”(2016. 12. 15)“이제 표현의 자유라는 우리의 뿌리로 돌아갈 때입니다. 팩트체커를 커뮤니티 노트(Community Notes)로 대체하고, 정책을 간소화하며, 실수를 줄이는 데 집중하고 있습니다. 새로운 장을 기대합니다.”(2025. 1. 7)마크 저커버그 메타(옛 페이스북) CEO의 변심은 새롭지 않다. 그의 철학과 신념에 일관성이 없다는 사실은 이미 증명된 터다. 저널리즘 프로젝트를 둘러싼 페이스북의 극적인 ‘표변’은 상징적이다. 2017년 1월 페이스북 저널리즘 프로젝트를 출범시킬 당시, 그가 바라보는 허위조작정보에 대한 관점은 비교적 합리적이었다. 뉴스 리터러시를 지원하고 팩트체커 전문기관과 협업을 선언하며 책임을 다하는 듯했다. 기술이 ‘건강한 정보 유통’의 마지막 보루라고 착각하게끔 하기도 했다. 플랫폼으로서 “더 ...

1613호2025.01.17 16:00

엔비디아의 물리 AI는 허풍일까?

충격적 제품이 등장해 그간의 질서를 재정의하는 순간이 주기적으로 나타난다. ‘아이폰 모멘트’라고 불리던 사건은 모바일 시대를 개막했고, 지금은 ‘챗GPT 모멘트’라고 불리는 사건이 몰고 온 생성형 인공지능(AI) 시대의 한가운데다.엔비디아의 수장 젠슨 황은 지난 1월 6일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·정보기술(IT) 전시회 ‘CES 2025’ 기조연설에서 생성형 AI에 이어 ‘물리 AI’가 뜬다며 ‘로봇 공학에서 챗GPT 모멘트’가 지금 곧 올 것이라고 주장했다. 화면 안에 갇혀 언어의 유희에 그치는 인공지능이 아니라 자율주행에 휴머노이드 로봇까지 우리의 실세계를 이루고 있는 물리 법칙을 이해하는 AI가 온다는 것.엔비디아의 전성기는 ‘챗GPT 모멘트’와 함께 시작했다. 불과 3년 전 지금 주가의 10분의 1이었던 시기였다. 엔비디아는 딥러닝 기반의 인공지능, 그러니까 초대용량 빅데이터를 밀어넣듯 학습시킨 신경망을 가능하게 한 도구였고, 엔비디아의...

1612호2025.01.10 15:30

기술 주도 사회의 인간 중심성과 윤리적 설계

끊임없이 쏟아지는 정보와 알림, 24시간 연결된 온라인 세상은 편리함을 넘어 때로는 숨 막히는 압박감으로 다가오기도 한다. 기술 발전 속도는 점점 더 빨라지고, 인간은 그 속도에 맞춰 적응하기 위해 고군분투하고 있다. 이러한 기술 주도 사회에서 우리는 자연스럽게 한 가지 질문을 던지게 된다. “과연 이 모든 기술 발전은 누구를 위한 것인가?”과거에는 컴퓨터가 제공하는 입력 장치와 출력 장치가 명확히 분리돼 있었고, 사용자는 일방적으로 주어진 인터페이스의 규칙에 맞춰 정보를 입력했다. 그러나 이제는 음성, 제스처, 시선 추적, 뇌-컴퓨터 인터페이스(BCI) 등 다양한 채널을 통해 더 자연스럽고 직관적인 상호작용이 가능해지고 있다.이러한 융합의 시대에 ‘인간성(humanity)’이 더욱 중요한 의미를 갖는 이유는, 기술이 단순히 효율적인 도구가 아니라 개인의 가치관과 사회 제도를 재편하는 수준으로 영향력을 행사하기 때문이다. 특히 인공지능(AI) 분야에서 대두되는 윤리적·법적...

1611호2025.01.03 15:00

AI 에이전트의 기만 본능

2025년이 인공지능(AI) 에이전트의 해가 될 것이라는 데 토를 다는 이들은 드물 것이다. 오픈AI의 스웜, 앤트로픽의 클로드 컴퓨터 유스, 마이크로소프트의 코파일럿 스튜디오, 구글의 제미나이 2.0은 AI 에이전트 시대를 주도하는 대표적인 제품들이다. 이들을 제외하고라도 수많은 스타트업이 AI 에이전트 기반 기술을 선보이며 AI 에이전트 시대를 대비하고 있다.거대언어모델과 대리인의 합성어인 AI 에이전트는 단어 그 자체에서 유추할 수 있듯, 인간의 업무를 거대언어모델이 자율성을 갖고 대신 처리해주는 시스템을 뜻한다. 지금도 개별 거대언어모델이 이러한 역할을 수행하지만, 이보단 한층 진보된 형태를 AI 에이전트로 분류한다. 이를테면 업무 처리를 위해 인터넷 도구를 자율적으로 활용하는 기능, 분업 체계 아래에서 다른 AI 에이전트와 협업하는 기능들이 연결돼 있을 때 진정한 의미의 AI 에이전트라고 부른다. 여행 AI 에이전트를 예로 들자면, ‘겨울철 일본 여행 3박4일 코스를...

1610호2024.12.27 15:40

부정선거 음모론의 달콤한 중독성

부정선거 음모론은 달콤하다. 내 답답한 처지를 남 탓으로 돌릴 수 있어서다. 그래서 그런지 현실에 승복하기 싫어지는 음모론자들은 주기적으로 진영을 막론하고 등장한다.하지만 3·15 부정선거라는 역사가 알려주듯 선거 조작이야 하려면 해볼 수야 있지만 들키지 않는 일은 쉽지 않다. 혼자 할 수 있는 일이 아니기에 결국 터무니없는 짓의 흔적이 적나라하게 바로 드러나고 만다. 다 함께 무지몽매했던 시기라면 벌여볼 수 있을지 모르지만, 학교 교육을 받은 이들이 선거 과정에 참여하는 현대사회에서는 힘든 일이다. 끊임없이 전 세계 각국에서 심심치 않게 부정선거 음모론이 대두되지만, 문명국이라면 하나같이 사실이 아닌 것으로 판명되는 이유다.그런데도 선진국에서조차 부정선거론이 시들지 않는 이유는 전산이라는, 학교에서 배우지 않았던 개념이 끼어들기 때문이다. 원래 이해하지 못하는 건 의심하게 된다. 엑셀 장표의 숫자를 바꾸듯 누군가가 손쉽게, 그리고 흔적 없이 혼자서라도 부정선거를 해치울 ...

1609호2024.12.20 15:00

‘소라’가 특별한 다섯 가지 이유

지난 12월 9일 오픈AI의 동영상 생성형 인공지능(AI) ‘소라(Sora)’가 드디어 출시됐다. 챗GPT 플러스 및 프로 구독자들을 대상으로 서비스를 시작한 ‘소라’는 텍스트 프롬프트(명령어)만으로 최대 20초 길이의 고품질 동영상을 생성할 수 있다. 소라가 특별한 관심을 받아야 하는 이유를 다섯 가지로 정리해 보았다.첫째, 뛰어난 영상 품질과 자연스러움이다. ‘소라’는 기존 AI 동영상 생성 도구들과 차별화되는 놀라운 수준의 영상 품질을 보여준다. 특히 드론으로 촬영한 듯한 풍경 영상이나 자연경관을 매우 사실적으로 구현해 낸다. 전문가들의 평가에 따르면, 추상적인 예술 작품이나 클레이메이션 스타일의 애니메이션 제작에서도 뛰어난 성능을 보여준다.둘째, 혁신적인 편집 기능이다. ‘소라’는 단순한 영상 생성을 넘어 포괄적인 편집 도구로서의 면모를 갖추고 있다. 스토리보드 기능을 통해 여러 AI 영상을 타임라인에 배치할 수 있으며, 기존 영상의 확장이나 수정까지 가능하다. 특...

1608호2024.12.13 15:00

실리콘밸리와 워싱턴 권력의 교잡

장면 1. 일론 머스크는 조 바이든 미국 정부의 농촌지역 초고속 인터넷망 구축을 위한 보조금 정책(Bead 프로그램)에 비판적이었다. 424억5000만달러라는 막대한 세금을 들여 농촌 오지에 ‘유선’ 인터넷망을 깐다는 발상 자체가 비효율적이라는 이유에서다. 도널드 트럼프 대통령 당선인도 그의 의견에 동조하며 이 프로그램을 재고할 의사를 내비친 바 있다. 이 보조금 정책이 후퇴하게 되면 득 볼 기업이 한 곳 있다. 위성 기반 무선 인터넷 서비스를 제공하는 머스크의 스페이스X다. 스페이스X가 운영 중인 ‘스타링크’는 막대한 인프라 구축 비용을 들이지 않고도 저궤도 인공위성으로 인터넷을 연결해준다. 이미 5000기 이상의 위성군이 지구 위를 떠다니며 인터넷 서비스를 제공하고 있다. 굳이 비싼 유선 인터넷망을 구축하지 않아도 소외된 지역에서 인터넷을 사용할 수가 있다. 스페이스X는 2023년 이 프로그램에 지원해 9억달러의 보조금을 신청했지만, 기준 속도를 만족시키지 못해 탈락했다....

1607호2024.12.06 15:40

기계가 나 대신 나를 이야기하는 날

최근 미국 스탠퍼드대와 구글의 연구자들은 ‘1000개의 생성형 행위자(Agent) 시뮬레이션’이라는 논문을 공개했다. 이 연구는 실존하는 1000여명의 미국인의 태도와 행동을 복제해 인공지능(AI) 행위자 1000대를 만들었다. 사람마다 각 2시간의 인터뷰를 통해 그들의 삶과 가치관 등을 대화 그대로 기록한 후, 이를 생성형 AI 모델에 일종의 기억으로 제공하는 것. 그렇게 만들어진 1000개의 가상 AI 행위자와 실제 1000명에게 다양한 사회과학 실험지로 질문했더니 85%의 동기화율을 보였다.우리는 모두 우리 삶과 사회의 행위자들이다. 이들이 모여 사회를 움직인다. 이들의 향배를 조금이라도 더 빨리, 손쉽게 파악할 수 있다면 이들과 접해야 하는 조직이 할 수 있는 일은 너무나 많다. 기업도, 위정자들도 그들의 의도와 성향을 알려고 애쓰고, 유행이나 민심이라는 이름으로 하나의 움직임을 만드는 일에 촉각을 곤두세운다. 정치권을 시끄럽게 하는 여론조사 대소동도 그래서 종종 일어...

1606호2024.11.29 15:50