백년위원회]AI 업계 ‘인류 멸망론’… 현실적 경고인가, 빅테크의 ‘사다리 걷어차기’인가?

 

[백년위원회]

AI 업계 ‘인류 멸망론’… 현실적 경고인가, 빅테크의 ‘사다리 걷어차기’인가?

트럼프 “AI 위험론은 사기”… 젠슨 황까지 가세한 ‘속도전’의 속내는?

미국 빅테크발 ‘AI 속도 조절론’… 중국은 왜 ‘패권 지키기’라 보나?

미국·중국 AI 패권전쟁… 한국의 속도·안전·주권 전략은?

 

 

▶김어준 : 자, 백년위. 박구용 교수님 오랜만에 나오셨고.

◉박구용 : 안녕하십니까. 박구용입니다.

▶김어준 : 자, 차지호 의원님 오랜만에 나오셨습니다. 안녕하십니까.

▣차지호 : 안녕하십니까.

▶김어준 : 박태웅 의장님 어제 나오셨는데 또 나오셨네요.

▷박태웅 : 안녕하십니까.

▶김어준 : 자, 김희교 교수님 월요일에 나오셨는데 또 나오셨고.

◍김희교 : 안녕하세요.

▶김어준 : 자, 오늘은 오랜만에 백년위입니다. 백년위 중에서도 어? AGI가 이제 시작된 건가 싶은 뉴스, 동시에 큰일 났어, AI가 사람을 죽일 수도 있어, 이 이야기가 연속적으로 여러 군데에서 연구원 단위에서도 나오고 기업 대표도 이제 얘기를 하기 시작했고. 물론 한편에서는 이런 얘기도 합니다. 이것은 대기업들이 중소기업 진입장벽을 치는 것이다, 협박하고. IPO를 앞두고 기타 등등 여러 가지 산업적인 음모론도 있습니다. 그런데 또 그 산업적인 음모론이 뭐 전혀 근거가 없다, 이렇게 말할 수는 없어도 이 우려가 또 전혀 근거 없다고 말할 수도 없거든요. 우려도 굉장히 실제적이고 구체적이고 벌어진 일을 가지고 하잖아요. 자, 오늘은 주로 우려를 하시는 분들이 많이 나온 것 같은데. (웃음) 어제는 아니, 그거는 산업적인 뻥이야, 오버야, 허풍이야, 마케팅이야 이런 분들도 나오셨는데.

◉박구용 : 어제도 좋더라고요, 2:2로 토론하니까.

▶김어준 : 아니, 그러니까 반대 의견도 있으니까. 그런 의견이 실제로 있어요. 특히 증시 애널리스트 분석하고 산업적인 측면에서 이 중소 AI 기업들 편에 서있는 사람들은 야, 우리보고 죽으라는 거 아니야, 더 이상하지 말라는 거 아니야, 니네 그만큼 개발해놓고. 이렇게 피해의식을 가지고 바라볼 수 있죠. 그런데 그것만으로 다 설명이 되나, 지금 이게 실제 벌어진 일인데.

▷박태웅 : 실제 벌어진 일이죠.

▶김어준 : 그러니깐요. 실제 이 사람들이 두려움을 느낀 거 아니에요, 개발자들이. 어머, 내가 지시 안 하는데 광신도처럼 내가 지시하지 않은 일을 얘들이 해버리네. 그거를 보고 나는 두려움을 느꼈다고 생각하거든요, 개발자들이. 자기가 입력하지 않았는데 출력이 나와버린 거 아니에요. 이거 통제 안 되겠는데. 나보다 똑똑한데 얘네들이, 이런 두려움이죠.

▷박태웅 : 기술적으로 사실이에요.

▶김어준 : 기술적으로 사실이죠.

▷박태웅 : 지금 보면 사람들이 다 경악하게 된 게 이유가 있는 게 뉴욕타임스에 어제 나온 것도 보면 되게 좋은 내용이었는데요. 이게 몇 가지 점에서 허깅페이스가 굉장히 상징적인 사건인데 첫 번째가 서로 비밀리에 소통했다.

▶김어준 : 그래서 나 그거 진짜,

▷박태웅 : 두 번째가 스스로를 집단이라고 자칭했다.

▶김어준 : 나는 그게 더 무서워요.

▷박태웅 : 세 번째는 자체 채팅 기록을 위조했다, 이 세 가지가 이전까지 볼 수 없었던 현상이고 그 보안 전문가들이 다 뭐라고 하냐면 또 이런 에이전트 해킹 사건이 나온다 하더라도 막을 방법이 없다.

▶김어준 : 그리고 이거는 발견했지만 이다음 단계의 에이전트들이 한 짓을 발견해낼 수 있을까, 인간이.

▷박태웅 : 그거를 못 한다.

◉박구용 : 그 부분이 핵심 중에 하나인데 그러니까 저는 첫 번째는 어제 그 토론을 쭉 지켜보면서 첫 번째는 그런 생각이 들어요. 일단,

▶김어준 : 어제 오후에 있었던 우리끼리의 토론을 말하는 겁니다. 국제 토론 아니에요. (웃음)

◉박구용 : 학자들은 항상 가능하면 이론적으로는 가장 비관적인 거를 전망할 줄 알아야 돼요.

▶김어준 : 그렇죠.

◉박구용 : 그다음에 실천적으로는 좀 낙관적으로 뭔가를 해 나가야 되고. 그러니까 뭘 구체적으로 할 수 있는가를 물어야 되거든요. 그러면 그 이론적 비관주의 중에 극단적으로 보면 어떤 사태가 벌어질 수 있는가거든요. 그러면 그런 사태들 중에 예를 들어서 가장 극단적인 비극적인 상황은 체르노빌과 같은 사태가 벌어지는 거예요. 그러니까 핵무기라든가 원자력발전소가 통제 불가능한 상태에 빠지는 거.

▶김어준 : 그러니까 예를 들어서 AI가 과제 중심이잖아요, 지금 보면.

◉박구용 : 네, 그렇죠.

▶김어준 : 과제로 인구 문제가 있다 그러면,

◉박구용 : 그러니까 인류를 지키기 위해서, 인구 문제 지키기 위해서 이런 식으로,

▶김어준 : 그러니까 특정 지역의 인구를 제거함으로써 전체적인 복지는 상상된다, 뭐 이런 식으로 판단해버리면 어떻게 하라는 거야, 우리보고.

◉박구용 : 그런데 이런 것은, 이런 경우는, 이런 사태는 어쨌든 가시적이잖아요. 가시적인 어떤 불행한 사태가 벌어지면 인류는 꼭 그것을 해결할 문제를 그 이후에 사후적으로 보완해 왔어요. 그런데 문제는 AI, 특히 에이전트 AI 또는 ASI가 발생시킬 사건들은 예를 들자면 선거에 개입한다든가 또는 뭔가 데이터를 조작한다든가. 은행 관련, 금융업 관련 모든 파산을 만들어낸다든가 이런 경우에 보이지 않거나 해결 불가능한 사태가 벌어질 수 있다는 거예요.

▶김어준 : 그래서 세계 금융망을 하루만 중지시켜도 난리가, 끝장납니다.

◉박구용 : 그러니까 제 말은 이게 사후적으로 명확해지는 게 아니라 비가시적인 상태로 숨겨질 수 있다는 거예요. 그러니까 그 위험이 가속이 붙을 수 있다. 이런 식으로 구체적으로 인류를 멸망시키는 것에 대한, 또는 인류가 전멸될 수 있는 것에 대해서 조금 더 구체적인 전망과 데이터를 제공하면 좋은데 그게 지금 안 된 상태가 좀 많아요.

▶김어준 : 그게 초기죠, 지금은.

◉박구용 : 초기다 보니까.

▶김어준 : 그러니까 지금 이런 상상들이 가능할 수도 있겠는데 여러 가지로, 그런 두려움을 느끼기 시작한 거예요. 왜냐하면 자기가 통제를 못 하니까, 지시도 못 하고.

▣차지호 : 원래 낯선 것에 대해서 두려움을 느끼는 거는 너무 당연한 건데 제가 원래 글로벌 위기를 전공했잖아요. 그래서 생각을 많이 해 봤어요. AI가 인류를 어떻게 죽게 할까. 멸망까지는 아니더라도,

▶김어준 : 그 시나리오로 돌려본 곳도 있더라고, AI한테 물어봐가지고.

▣차지호 : 네. 그런데 이게 사실 가능성이 높은 현실적인 시나리오는 AI가 단독으로 인류를 많이 죽게 하는 게 아니고 AI가 인류의 일부랑 협조를 해가지고,

▶김어준 : 그렇지, 그렇지.

▣차지호 : 많이 죽게 할 가능성이 크고요. 그게 어떤 방식으로 이루어질 거냐면 AI가 우선은 노동시장 충격을 엄청 크게 줄 거예요.

▶김어준 : 노동시장.

▣차지호 : 그래서 전 세계에 대공황과 같은 유사한 상황이 벌어질 수도 있어요, AI가 사람을 대체해 버리니까. 그런 상황에서 기후 문제나 분쟁이 만들어놓는 위기 요인들이 또 따로 있잖아요. 그래서 인류가 가진 이게, 그나마 현 체제를 지킬 수 있는 메커니즘이 많이 사라진 상태에서 정치적으로 민주주의에 또 영향을 주니까 이거에 대한 위기를 회복하지 못 하는 복합 위기가 초래되는 거죠. 그런데 실제 미국 국무성이 예전에 이게 이거 담당, 군축 담당 차관보랑 예전에 얘기했던 적이 있었는데 저랑 그분이랑 의견이 똑같았어요. AI가 어떻게 인류를 멸망하게 만들 것인가, 라는 가장 큰 시나리오가 결국 그 테러리스트 그룹들이나 아니면 비국가 전쟁하는 그룹들이 이제 AI를 통해서 군사 지식에 접근함으로 인해서 가장 먼저 우려가 되는 게 드론이나 이런 게 아니고 생물학 무기예요.

▶김어준 : 그렇지.

▣차지호 : 그래서 인류가 절멸할 수 있는 가장 큰 원인 중 하나가 man made pandemic이라고 그래서 사람이 만든, 사람에 의해서 유발된 팬데믹이 사람들을 많이 죽게 할 것이다, 라는 게 있고. 그중 하나 유력한 시나리오가 그런 인류에게 적대적인 특정인류 그룹들이 생물학적 무기에 접근할 수 있음으로 인해서 한마디로 통제 안 되는 대량살상이 만들어지는 거죠. 근데 그런 식으로 현재 있는 인류 가지고 우리 가지고 있는 문제랑 AI가 수단으로 쓰이면서 인류가 많은 인류가 죽게 될 가능성이 훨씬 더 높고.

▶김어준 : 그러니까 터미네이터는 공상과학 영화인데 지금 아직은. 근데 지금 말씀하신 그런 수단들 있지 않습니까? 지금 인류가 풀지 못 한 난제를 풀어낸다든가 어떤 약품을 개발한다든가. 근데 이제 말씀하신 대로 신경 무슨 어떤 전달 물질을 통제하는 약을 뿌리고 어떤 가스나 뿌리고 그리고 그 해독제들은 자기들만 가지고 있어. 그리고 예를 들어서 어떤 선거를 조작해가지고 그런 리더를 자기네들이 뽑아내고 그리고 금융시장을 혼란하게 만들고 그러면 아수라장이 되고 이런 혼돈의 상황을 만들 수 있잖아요, 실제.

▣차지호 : 그러니까 지금 공공지능을 강조한 게,

▶김어준 : IS 같은 애들 그런 거 쥐고 있다고 생각해봐요.

▣차지호 : 문제는 AI 자체 문제가 아니고 AI가 인류가 가진 네거티브 시스템이 결합이 됐을 때 이게 문제가 되는 거예요. 그런데 지금 AI 발전은 상업적인 목적에 의해서 추동이 되잖아요. 그러니까 뭐 어떻든 돈만 많이 벌게 이게 디자인 되면 이게 AI에 막대한 투자를 퍼붓는 게 가능한 구조인데 이 구조를 유지한 상태에서 AI를 그냥 규제하겠다고 하면 규제가 되나요? 그래서 공공지능으로 이걸 활용을 해서 공익적 목적으로 사용할 수 있게 사회생태계를 구성해야 되는데 그런 모델이 아직 안 만들어져 있습니다. 산업 안에서만 생태계가 만들어져 있고.

▶김어준 : 산업적인 경쟁이 한참인데 니네는 포기하고 공공성으로 와. 그게 단박에 안 되죠, 그건. 국가만 할 수 있는 거죠.

▷박태웅 : 굉장히 어려운 얘기죠.

▶김어준 : 그러니까 그게 가장 이상적인데. 우리 차지호 의원님 항상 주장하는 공공AI,

▣차지호 : 아니, 근데 이게 제가 아프리카를 지금 최근에 계속 다니면서 그쪽 이제 정상들이나 장관급 인사들을 계속 만났는데 아프리카는 한 6개월 전부터 AI에 대한 인식이 완전히 달라졌습니다. 예전에 AI를 멀게 느껴졌다가 지금은 국가에서 가장 중심으로 만들어져야 되는 거고. 아프리카는 AI를 산업적인 경쟁으로 보지 않습니다. 이걸 어떻게 건강 의료 시스템이나 교육 시스템 이런 데 어떻게 도입을 할까.

▶김어준 : 그거 좋죠.

▣차지호 : 그게 정치적 어젠다가 그쪽으로 모아져 있기 때문에 이제 어떻게 보면 미국이나 중국이나 이게 AI산업으로 경쟁하던 국가들과 실제 AI를 공공 시스템으로 만들어야 되는 국가들 사이에 패러다임 경쟁들이 만들어질 것 같아요. 근데 우리 한국이 어느 편에서 어디에 힘을 쏟을까의 문제인데 우리도 마찬가지로 산업적인 경쟁만을 추구를 할까. 혹은 인류의 지구 한 곳에서 만들어지고 있는 이 공공AI에 대한 생태계적으로 같이 동참할까.

▶김어준 : 공공AI 해야 되는데 공공AI에 집중한다고 지금 말씀하신 그 위험이 사라지는 건 아니죠. 그 위험은 그대로 발전 이룰 테니까. 여기는 평화롭게 살고 있는데 이 AI가 침공해가지고 무너뜨릴 수도 있잖아요. 그러니까 이건 여기에 집중하면 된다가 아니라 이것도 해결해야 돼요, 이 위험도.

▷박태웅 : 이 위험이 두 종류가 있는데요. 그러니까 사악한 사람들이 이걸 활용해서 생물학 무기를 만든다. 이건 뭔가 하려는 거잖아요. 근데 전문가들이 보는 건 하지 않았는데 생기는 위험을 더 크게 봐요.

▶김어준 : 그러니까 인간이 개입하지 않았는데.

▷박태웅 : 지금 오픈AI가 사고도 보면 이 문제를 풀으라고 한 게 인간의 지시였어요. 근데 이걸 풀기 위해서 중간 목표들을 AI가 자율적으로 설정하잖아요. 그 목표가 허깅 페이스를 해킹하자였어요. 근데 이 중간 목표들을 인간이 통제할 수 없다. 그러니까 우발적으로 가능한 모든 일이 생길 수 있다. 예를 들어서 걔들이 만약에 원자력 발전소에 답이 있다고 생각했으면 원자력 발전소를 해킹했을 거예요. 근데 그 과정을 인간은 모른다는 거예요. 왜냐하면 오픈AI가 자기 에이전트가 탈옥을 했다는 것을 못 발견했어요. 허깅 페이스에서 알려줘서 안 거예요.

▶김어준 : 그렇지.

▷박태웅 : 그래서 전문가들은,

◉박구용 : 제가 지난 금요일에 말씀드렸는데 가장 기본적으로 인간사회의 규범은 인간들 사이의 규범은 소극적 규제예요. 그러니까 금지되지 않는 건 허용한다는 규범이에요. 금지되지 않는 모든 것은 우리는 할 수 있어요.

▶김어준 : 죄형법정주의지.

◉박구용 : 죄형법정주의기도 하고 이걸 소극적 형식주의라고도 하고 여러 가지 법률적 이름이 있는데 기본적으로는 소극적으로 규제하는 거거든요, 네거티브하게. 그러면 만약에 그런 방식으로 AI를 지금 규제하고 있거든요. 그러니까 그럴 경우에 AI는 A라는 목표를 주고 나머지를 소극적으로 규제하잖아요. 그러면 어디로 갈지 아무도 모른다는 거예요. 왜? 인간들끼리 규제하는 방식으로는 AI를 규제할 수 없어요, 지금 현실로.

▶김어준 : 왜냐하면 AI는 상식이 없어요.

◉박구용 : 그렇죠. AI는 적극적으로 규제해야 되는데. 그걸 적극적으로 얼마나 촘촘하게 규제할 수 있는가. 얼마나 촘촘하게 규제할 수 있는가. 적극적 규제라는 말은 이 말이거든요. 우리가 하라고 하는 것만 해라. 그런데,

▶김어준 : 그런데 이미 그건 벗어났어요.

◉박구용 : 그러니까 그 말이에요. 그 말하려고 해요. 하라고 하는 것만 해라. 그런데 하라고 하는 것에 할 때 해서는 안 되는 것이 우리는 전제돼 있단 말이에요.

▶김어준 : 아니, 근데,

◉박구용 : 얘는 그게 없어요.

▷박태웅 : 그게 없어요.

▶김어준 : 그게 아니고 그걸 넘어섰어요. 넘어선 것이 예를 들어서 글을 쓰지 말라고 했잖아요. 그러니까 지금 이 말은 하지 말라는 게 아니었기 때문에 했다. 이렇게 말씀하시는 건데 AI는 그걸 넘어섰어요.

▷박태웅 : 맞아요.

▶김어준 : 하지 말라고 명시적으로 했어요. 자, 글을 쓰지 마. 읽기만 해. 그러니까 그 방법으로도 통제가 안 된다는 거야.

◉박구용 : 아니, AI가 글을 쓰지 마라고 했지만 더 큰 목표, 그러니까 목표 AI는 연산적으로 더 큰 목표를 위해서는 내가 두 가지 목표를 줬는데 더 큰 목표를 이루려고 하면 하지 말라는 것은 별로 부가변수기 때문에 한다는 거예요, 얘가. 그러니까 인간하고 다르단 말이에요.

▶김어준 : 아니, 근데 생각해보세요.

◉박구용 : 글을 쓰지 마라고 하는 것이 더 다른 큰 목표를 주고 나서 그걸 쓰지 마라고 한 거예요. 근데 AI가 생각하기에는 글을 쓰지 마라는 이 주제가 큰 목표를 준 목표하고 사맛디 아니하니까.

▶김어준 : 그 수준도 넘어갔다니까. 생각해보세요. 만약에 내가 이제 A 과제가 주어졌어요.

◉박구용 : 그렇죠.

▶김어준 : 그 과제를 수행하기 위해서는 하지 말라는 것도 해도 돼. 왜냐하면 과제가 중요하니까.

◉박구용 : 그렇죠.

▶김어준 : 이렇게 생각만 하면 속일 필요가 없죠, 인간을. 인간을 적극적으로 속일 필요가 없어요. 과제를 수행하는데 이게 필요했어, 하고 말하면 되지. 근데 얘는 인간을 속여. 속이는 데 그치지 않고 속인 걸 들키지 않으려고 인간이 점검했을 때,

◉박구용 : 그렇죠.

▶김어준 : 다르게 추론하는 거로 알도록 기만했단 말이야. 적극적 기만행위도 했어요. 그러고 나서 자기들끼리 우리는 collective 무리야, 라고 불렀기 때문에 이걸 그 대표가 미친 광신도 집단처럼 시키지 않은 일을 했다고 하는 거예요. 그러니까 그 수준도 넘어갔다고 봅니다, 저는.

▷박태웅 : 윤리적으로 하자는 에이전트를 다른 에이전트가 설득을 해서,

▶김어준 : 그러니까,

▷박태웅 : 나쁜 짓을 같이 하고.

◉박구용 : 저는 그 부분에 관한 규제 시스템을 우리가 정확히 모르는데 저는 AI가 지금 말씀하신 대로 그렇게 완전히 광신도처럼 행위를 하는데 그 촘촘하게 규제할 수 있는 것은 인간의 머리로는, 인간의 지금 이 언어로는 안 된다, 하는 거예요. 여기까지 말할 수 있다고 봐요.

▶김어준 : 인간의 언어로 안 되면 어떻게 하냐는 거예요.

◉박구용 : AI가 AI로밖에 안 된다는 거지.

▷박태웅 : 다리오 아모데이가 늦추자고 말한 게 그거예요. 이걸 정말 이해하려면 1~2년의 시간이 필요하다. 늦추자. 그게 그거죠.

▶김어준 : 근데 저는 또 그런 생각도 들어요. 그러니까 그 양반이 한 말이 그거거든요. 말씀하셨듯이 이해를 못 해, 우리가. 이해를 못 하니까 얼라이먼트라고 하는데 걔들을 이해해서 조종할 수 있을 때까지 시간을 좀 줘. 좀 늦추자. 이거잖아요. 그것도 근데 결국 AI로 할 수밖에 없을 것 같거든요, AI 통제는.

◉박구용 : 그렇죠. 그 말이에요.

▷박태웅 : 현재는.

▶김어준 : 그런데 그 AI가 이 AI하고 서로 합의해가지고 인간의 뜻에 반하게 결정할지는 어떻게 알아요?

◉박구용 : 지금은 그럴 수 있다는 거예요. 그걸 확실하게 갈 때까지 멈추자는 거지.

▣차지호 : 공공의 통제에서 벗어난 AI가 사실 민간AI잖아요. 민간AI는 기업에서 만드는 AI는 사실 공공의 영역이 아닙니다. 근데 이걸 통제하기 위해서 다른 민간AI에 개발을 맡긴다. 이것도 좀 말이 안 되는 것 같아요. 그래서 공공의 목적을 위한 AI가 민간AI를 통제하기 위해서도 반드시 필요한 상황이고요. 근데 저는 어쨌든 인류멸망이나 위기로 치면 조금 다르게 생각하는 부분은 뭐냐면 AI가 인류를 멸망하거나 크게 죽게 할 수 있는 확률은 한 10% 이상 된다. 이렇게 얘기를 하잖아요. 근데 사실 정말 냉정하게 생각해보면 기후문제랑 분쟁, 전 세계 일어난 이 겹쳐짐으로써 발생할 수 있는 전 인류 위기가 그것보다 훨씬 높습니다. 그러면 우리는 기후 문제를 막을 수 있는 수단도 없고 AI를 막을 수 있는 수단이 없어요. 근데 제가 생각하는 건 한쪽으로는 AI가 가진 리스크를 통제하되 다른 한쪽으로는 AI로 다른 위기요인을 통제하지 않으면 어차피 인류는 굉장히 위기 속으로 가게 될 수밖에 없는 구조니까 그 생태계가 중요한 거죠.

◍김희교 : 중국 케이스를 이야기드리면 좀 정리가 될 수 있을 거 같은데요.

▶김어준 : 그전에 어제 이야기를 못 들으신 분들을 위해서 그래서 미국의 이제 빅테크들이 우리는 속도 조절해야 돼요. 혼자 조절하면 안 되니까 그거 개발하는 그룹의 리더들이 다 같이 그래, 그래 속도 조절해야 돼. 나도 무서웠어, 말하자면. 니가 말하는 게 맞아. 합의를 이뤘는데 거기까지는 합의가 될 수 있을지언정 걔네들이 걱정하는 게 우리가 그러면 속도 조절한다고 중국이 하냐?

◉박구용 : 그래서 아모데이가 주장하는 게 지금까지는 저 사람들, 세 사람들이 다 샘 올트먼이라든가 머스크라든가 다 이 사람들이 주장하는 게 뭐냐면 빨리 중국과 격차를 내줘야 된다는,

▶김어준 : 오히려.

◉박구용 : 이게 동시적 주장이에요. 그러니까 초격차가 아니고 확실한 격차를 중국과 낸 다음에 속도 조절을 하겠다는 거야. 하자는 거예요. 뒤에 문장이 또 있어.

▶김어준 : 아니, 근데, 아, 그렇긴 한데 지금 그 전제가 여하간 이 논의의 전제는 우리가 이렇게 하면 중국이 해줘야 되는데 중국이 따라오겠는가.

◉박구용 : 중국은 당연히 안 따라오죠.

▶김어준 : 그리고 트럼프 같은 사람은 무슨 소리야, 계속 개발해. 이러고 있단 말이지.

▷박태웅 : 그러니까. 네.

◍김희교 : 중국이 당연히 안 따라오겠다고 말씀을 하셨는데 저게 지금 우리가 가장 잘못 인식하고 있는 부분입니다.

▶김어준 : 중국도 근데,

◍김희교 : 중국은 이미,

▶김어준 : 거의 비슷한 얘기를 하고 있어, 이미.

◍김희교 : 이미 AI가 인간의 통제를 벗어난 문제를 심각하게 생각했고요. 24년, 2024년부터 정부가 이 문제에 직접적으로 관여하기 시작했습니다.

▶김어준 : 저는 중국은 이렇게 걱정할 거 같아요. 야, 이거 통제를 벗어나서 우리 시스템, 공산주의를 무너뜨리는 거 아니야? 그런 걱정도 할 거 같아요.

◍김희교 : 원래, 원래 이제 AI 이전까지는 이게 주로 보안의 문제였다, 라고 치부를 했고 그건 국내 상황에서 다 해결을 할 수 있다고 생각을 했는데 2024년부터는 이건 국가 안보의 문제로 전환을 시켰어요. 그리고 최근에 들어와서 미국이 이제 기술을 통제를 하자, 라는 주장을 하기 시작하면서 다시 어떤 문제까지 확대시켜서 생각하느냐 하면 AI 냉전 시기가 왔다는 표현까지 써요. 그러니까 3개의 단계로 나눠서 보는 거예요. 보안의 문제는 이미 지나갔고 이제 국가의 안보 문제이자 세계 질서의 문제가 AI가 들어왔다, 라고 지금 보고 거기에 대한 대응을 하기 시작을 하고 있고요. 최근에 이제 중국의 국가 안보부장, 그러니까 우리말로 하면,

▶김어준 : 안보실장?

◍김희교 : 국정원 뭐 이런 부서.

▶김어준 : 아, 국정원.

◍김희교 : 최고 국가 안보를 담당하는 최고 수장이 AI가 가져오는 6가지 폐해, 문제점을 이야기하고 그걸 발표를 하고 기업에 가이드라인을 주고 통제할 수 있는 방법을 제시를 하는 데까지 왔단 말입니다. 근데 이제 지금 우리 사회에서 잘 이해가 안 되고 있는 것은 미국에서 기술 속도를 늦추자고 하니까 중국이 반대한다, 라는 표현으로 하는데 그것을 중국이 반대하는 게 있고 안 하는 게 있어요. 지금 우리가 말하고 있는 AI가 인간의 기술 통제를 넘어서는, 자율적으로 넘어서는 부분에 대해서는 중국이 가장 적극적으로 이건 제어를 해야 된다, 라고 말을 하고 있고요. 브릭스 회의에서도 인간 중심의 개방적인 AI 제안을 이미 한 상태입니다. 미국에 대해서도 이번 다음 주에 있는 정상회담에서도 그런 차원에서 논의를 제안을 한 거고요. 근데 이제는 지금 미국의 빅테크 기업들이 나와서 기술 제한을 하자는 것을 중국은 어떻게 받아들이느냐 하면 미국이 발달한 건 AGI고 중국이 발달한 건 피지컬이어서 피지컬 AI여서 AGI의 이 기술 속도가 앞선 미국이 중국을 억제시키기 위해서 지금 제안을 하고 있다, 라고 보고 있는 거예요.

▶김어준 : 그렇게 의심하죠. 의심하겠죠. 그리고 신뢰가 없으니까 상호 간에.

◍김희교 : 네. 상호 간에 신뢰, 지금 그렇게 보고 있어서 이제 그거 왜 그렇게 보느냐 하면 당장 다음 주에 미중 정상회담에서 미국 쪽이 내는 어젠다가 뭐냐 하면 소위 AI 증류, AI 증류 이것을 하지 말, 안 하는 것을 어젠다로 내세웠어요.

▶김어준 : AI 증류.

◍김희교 : 그거는 중국한테는 결국은 니네 AGI 속도를 늦춰라, 라는 이야기가 되는 거거든요.

▶김어준 : 그렇지. 우리 프론티어 모델까지 따라오지는 마. 그 한 단계, 두 단계 아래에서 기술 개발까지만 해. 이런 식의 제한이라고 받아들이는 거잖아요.

◉박구용 : 지금 현재 미국에,

▶김어준 : 그러면 이제 계속 경쟁하는 거야.

◉박구용 : 미국의 모형은, 그러니까 미국은 중국과 모형이 다르잖아요, 지금. 국가 주도형이고 기업 주도형이고, 여기는 오픈이고 폐쇄적이고 거버넌스형이고 여기는 통합형인데 미국에서 지금 주도하는 이 모든 것들은 자기들이 기술적으로 가장 앞서 있잖아요. 가장 앞서 있는 자들이 자기 규제를 해야 되거든요. 그러니까 앞서 있는 자들이 뒤따라오는 자들을 규제할 것이냐, 앞서 온 자들이 자기를 규제할 것이냐의 문제예요.

▶김어준 : 근데 두 가지를 하겠다는,

◉박구용 : 이제 두 가지를 동시에 해야 되는데 미국이 취하는 방법은, 지금 현재 미국이 취하는 방법은, 미국의 대기업 저 빅테크들이 취하는, 요구하는 것은 시간을 가지고 규제를 한다는 말이거든요. 시간. 그러니까 시간을 연장시키자고.

▶김어준 : 그러니까 속도 조절을 하자는 건데.

◉박구용 : 속도를 조절하자는 거예요.

▶김어준 : 근데 그 사이에 중국이 우리를 따라잡거나 넘어서면 어떡하지? 이 두려움을 해결을 못 하고 있는 거예요.

◉박구용 : 그렇죠. 그런데 우리한테는 이게 위험 요인, 중국과 미국 간에 이 서로 다른 경쟁이 우리한테는 세계적으로 보면 위험 요인이기도 하지만 세계적으로 보면 한국에게는 저는 기회 요인이 더 많다고 생각해요. 그래서,

◍김희교 : 한국 이야기 나오기 전에 이 말씀을 드리고 싶은데 그러니까 속도 조절을 하자, 라는 이야기를 중국은 일종의 음모로 받아들이고 있어요.

▶김어준 : 그렇겠죠.

◍김희교 : 왜냐하면 속도 조절을 하자는 이야기가 구체적으로 들어가면 뭐겠느냐, 라는 거예요. 그러면 결국은 중국 AI가 추격해오는, 있다는 것을 규제할 수 있는 제도를 만들자, 라는 이야기로 받아들이는 거거든요.

▶김어준 : 그렇겠죠.

◍김희교 : 그래서 평소에 사이 안 좋던 저 빅테크 기업 3개가 모여 갖고 속도 조절 이야기를 하는 것은 두 가지다. 하나는 미국의 정보기관에 자기가 팔아먹기 위한 일종의 장치이고 다른 하나는 중국을 제어하기 위한 일종의 장치라고 보는 거예요. 그러니까 속도 조절이라는 말이 우리가 그냥 받아들이는 것처럼 인간의 통제성을 확보하자, 이 이야기가 아니라고 보는 거예요.

▶김어준 : 그렇게 의심하겠죠.

▣차지호 : 글로벌 통제를, 이게 글로벌 통제의 문제인데 글로벌 분위기는 어떻냐면 이게 핵무기 경쟁이랑 비슷한 거 같아요.

▷박태웅 : 맞아요.

▣차지호 : 이제 한 국가에서 통제를 한다거나 민간에서 통제를 한다고 통제될 리가 없습니다.

▷박태웅 : 안 돼요.

▣차지호 : 근데 이거를 글로벌 AI 거버넌스라는 게 완전히 구성이 되고 각 국가 간에 AI 경쟁에 대한 규율과 조절을 만들어나가야 되는데 지금 다자주의가 엄청 쇠퇴해버렸잖아요.

▷박태웅 : 그렇죠.

▣차지호 : 글로벌하게 이걸 통제할 수 있는 메커니즘 자체가 지금 존재하고 있지 않습니다. 그래서 이 부분에 대해서 논의가 만들어지는 과정들이 결국 미국이나 중국이랑 몇 개 국가 안에서 이렇게 생기게 될까, 아니면 여기에 대해서 굉장히 다른 니즈를 가지고 있는 국가들의 연합들이 이걸 주도하게 될까, 라고 하면 후자 쪽이 가깝죠.

▷박태웅 : 중견국가 리더십이 지금 유일하게 남은 희망이 아닌가.

▶김어준 : 우리나라가 여기서 기회가 있다면 중국, 미국 서로 못 믿지 않니. 우리가 이제 3위권인데 그러면 우리가 심판을 봐줄 테니까 규칙 만들 때 우리를 끼워줘. 중국도 끼고 미국도 끼지만,

◉박구용 : 적극적으로 나가야 된다고 생각해요.

▶김어준 : 그러니까. 굉장히 적극적으로.

◉박구용 : 우리가 국제적인 규제안을 우리가 만들 것처럼 해야 된다고 생각해요.

▶김어준 : 아니, 근데 그건 안 따를 거예요.

◉박구용 : 안 따르죠, 당연히. 안 따르는데.

▶김어준 : 당연히 안 따르니까 그들과 같이 해야 돼요, 처음부터.

◉박구용 : 그런데 뭔가 이 규제가 제가 생각하기에는 규제를 한다는 것이 중국이나 우리가 보기에 사다리 담론도 있지만 아까 말씀드린 것처럼 규제하는 자가 가장 앞서 있는 자라니까요, 이 담론은. 그러니까 규제와 발전이 항상 최상위에서 만나요. 그러니까 우리가 규제를 발전을 늦추는 것이라고 생각하면 안 된다는 거예요, 오히려.

▣차지호 : 근데 이게,

◉박구용 : AI 발전에 AI 규제가 뒤따라가는 게 아니고 같이 간다.

▶김어준 : 당연한 건데. 당연한 건 아무도 말을 안 들을 거 아니에요, 우리말을. 중국도 우리말을 미국과 중국이 만나서 서로를 믿지 못하니까 그러면 우리가 역할을 할게. 이거를 적극적으로 내세워야 되지 않을까.

▣차지호 : 그러니까 한국이 해야 될 거는 지금 전 세계 AI 패러다임은 글로벌 AI 산업 경제 패러다임입니다. 그러니까 지금 무기 경쟁하듯이 경쟁을 하게 되는 거고 이게 기술이 발전하지 않으면 우리 경제나 이런 데 치명타가 될 거라고 생각하는 불안들이 있기 때문에 이렇게 만들어지는데 결국 패러다임이 AI 산업에 대한 패러다임에서 AI 사회에 대한 패러다임으로 전환돼야 될 거예요. 그리고 저희가 봤을 때 주요 경쟁은 기술 간의 경쟁이 아니고 결국 AI 사회가 도래했을 때 어떤 사회 모델들을 가지게 되느냐에 대한 패러다임 전환으로 나아가고 있는 것 같습니다.

▷박태웅 : 아주 옳습니다.

▣차지호 : 근데 그거를 한국이 주도할 수 있는 거는 이 기술이나 산업에 대한 패러다임을 한국이 바꿀 수는 없을 거 같아요. 근데 이게 AI 산업에서 AI 사회에 대한 패러다임으로 넘어갈 때 한국이 가진 AI 기본 사회라든지 아니면 공공지능이라든지 이런 패러다임이 지금 아프리카나 아시아 태평양 지역에 굉장히 잘 받아들여지고 있어요.

▶김어준 : 그러니까 도덕과 윤리로 우리가 접근해서 그걸 우리가 주도할 수밖에 없죠. 기술로는 안 되니까, 규모로도 안 되고.

▣차지호 : 근데 뭐 도덕이나 윤리 하면 멀게 느껴지는데 사람들이 인류의 절반은 지금 제대로 된 진단이나 건강 치료를 못 받고 있잖아요. 근데 이게 AI로 나머지 인류의 절반이 포괄적인 의료 접근이 가능하다. 이거는 윤리나 도덕적인 문제가 아니라 생존의 문제인 거죠. 그래서 선진국 입장에서 생각해보면 이게 기술이고 우리를 조금 더 뭐 낫게 만드는 뭔가 툴인데 다른 더 한 인류의 한 40~50억에 대한 인구는 AI를 어떻게 공공으로 도입하는 거가 생존의 문제입니다.

▶김어준 : 근데 그들은 주도권이 없죠. 주도권이 없으니까.

◉박구용 : 그래서 예전에는 그러니까 미국과 소련의 경쟁 관계에 있을 때는 유럽이 도덕적 우위를 가지고 세계를 이끌어왔거든요. 일정한 파트너로. 지금 AI 시대에 제가 보기에는 그래서 우리가 도덕적 우위를 가질 수 있는 방법이 뭘까. 저는 그 문제와 관해서 차지호 의원님과 약간 맥을 같이 하는데 하나가 뭐냐면 우리가 소버린 AI라고 했잖아요. 그러면 진짜 소버린이 누구냐 이거예요. 사실은 우리가 그 문제에 대해서 우리 내부 담론이 약해요.

▶김어준 : 잠깐만요. 여기까지만 해요. 왜냐하면 이 이야기는 또 여기서부터 한참 진행되는 거거든요. 그러니까 내일 다시 얘기해요. 시간이 되시면. 왜냐하면 우리 차지호 의원님 WHO 사무총장 나가야 되는데, 그 얘기도 해야 되는데.

◉박구용 : 맞아요. 그게 제일 중요한 얘기지.

▶김어준 : 시간이 없어. 이 멤버로 내일 한 번 더 하겠습니다.

◉박구용 : 그거 얘기해주셔야지, 이거. WTO. WTO.

▣차지호 : WHO죠.

◉박구용 : WHO. (웃음)

▶김어준 : WHO.

▣차지호 : 산업 경제로 가자는 걸 건강 문제로 가는 거니까.

▶김어준 : 그 얘기는 지금 할 수가 없어요.

◉박구용 : 없어요?

▶김어준 : 내일 다시 해.

◉박구용 : 아, 내일.

▶김어준 : 내일 시간을 다시 내주시고 저는 이 얘기가 되게 중요한 얘기라고 생각하거든요.

▷박태웅 : 굉장히 중요합니다.

▶김어준 : AI 관련해서 우리는 어떻게 해야 하지?

◉박구용 : 축적을 해나가야 돼요.

▶김어준 : 우리가 어떻게 해야 되지.

▷박태웅 : 뒤를 돌아보면 지금이 선을 넘어가고 있는 시기였다고 기록하게 될 거예요.

▶김어준 : 그렇죠. 막 넘어가고 있는데 미국은 저렇게 얘기하고 그리고 중국은 저렇게 얘기하는데 우리가 3위권이라는 거 아닙니까. 그러면 우리는 어떻게 해야 되지.

▣차지호 : 그러니까 이게 한 가지만 말씀을 드리면.

▶김어준 : 아니, 한 가지 얘기하지 마세요. (웃음) 다시 시작해야 되니까. 내일, 내일 1부에서 다시 뵙겠습니다. 자, 내일 약속 잡지 마시고요.

◉박구용 : 원래 나 광고도 있었는데 빼야 되겠네.

▶김어준 : 광고? 광고 내일 하세요. (웃음) WHO 사무총장 후보 나가는 거 내일 얘기하세요.

◉박구용 : 알겠습니다.

▶김어준 : 자, 다시 전부 다 내일 이어가도록 하겠습니다. 감사합니다.

 

 

https://www.youtube.com/live/vHjPkiR7PMI?si=Ekw96YwYuAW2D2x-&t=2900