[인터뷰 제2공장] 본격화되는 ‘AI 디스토피아’ 논쟁..핵심은? AI의 기술의 현주소와 위험성은?

[인터뷰 제2공장]

본격화되는 ‘AI 디스토피아’ 논쟁..핵심은?

AI의 기술의 현주소와 위험성은?

전문가들, “챗GPT, 차세대 모델 개발 중단하라” 빅테크 AI 경쟁 속 AI 가이드라인은?

 

▷박태웅/ 한빛미디어 의장

 

 

 

 

김어준 : 자, 오늘은 AI 얘기 좀 해야 되겠습니다. 챗GPT, 챗GPT 작년 말 3.5 나와서 엄청난 화제를 모았고 각광을 받았는데 그런데 4.0이 나왔습니다. 그런데 이번에는 전문가들 사이에 우려가 터져 나옵니다. 이 부분 좀 짚어보겠습니다. IT 전문가 박태웅 의장 모셨습니다. 안녕하십니까.

▷박태웅 : 안녕하십니까.

김어준 : 저도 3.5 처음 나왔을 때 아유, 대단하다. AI가 이제 쓸만한데 주로 긍정적인 그런 이제 개인적으로 발언도 하고 반응도 했는데 이제, 이제 점점점 보니까 이러다 큰일 날 것 같은데 (웃음)

▷박태웅 : 맞습니다. 우려가 분명히 있습니다.

김어준 : 네. 4.0 나오고 나서 큰일 날 것 같은데 우리가 생각하는 것보다 너무 빠른 속도로 우리가 사고할 수 있는 범위를 벗어나는 것 같은데 점점점.

▷박태웅 : 네. 사회에 미치는 영향에 대해서 어떤 고민이나 검증을 한 적이 없죠, 사실은 제대로.

김어준 : 이 부분은. 저만 그렇게 생각하는 줄 알았더니 인공지능 전문가들이 그런 생각을 하기 시작했더라고요, 보니까.

▷박태웅 : 네. 29일날 공개서한을 냈습니다. 거대한 인공지능 실험을 멈추십시오, 라는 제목의 서한인데요. 여기에서 서명한 사람들이 요슈아 벤지오, 스튜어트 러셀, 게리 마커스 같은 세계적인 인공지능 석학들 그리고 애플의 공동창업자 스티브 워즈니악, 테슬라의 일론 머스크, 세계적인 작가 유발 하라리, 존 홉필드, 뭐 이렇게 그때 2,000여 명이 서명했고 지금은 그 서명한 숫자 삼천 몇백 명으로 늘어나있더라고요.

김어준 : 그러니까 일반인들이 잘 이해 못 해서 무섭다 이게 아니라 이 분야의 내로라할 전문가들이,

▷박태웅 : 그렇죠.

김어준 : 이렇게 가다가는 우리 문명에 대한 통제력을 상실할 위험이 있다.

▷박태웅 : 그렇습니다.

김어준 : 이게 이 챗GPT를 접하지 못 했거나 아니면 AI 관심 없는 분들한테는 이거 무슨 터미네이터 같은 소리하고 있어. (웃음)

▷박태웅 : (웃음)

김어준 : 터미네이터의 그 뭡니까,

▷박태웅 : 스카이넷.

김어준 : 인공지능 스카이넷이 인류를 멸망케하고 그게 이제 SF 영화에나 나올 소리인데, 근데 지금 이 분야의 전문가들이 그런 두려움을 느끼기 시작했어요.

▷박태웅 : 그렇습니다. 이게 한국 뉴스에는 그냥 6개월간 연구 멈추자, 라고 했다 정도로만 보도가 있는데요. 실제로는 이분들이 어떤 주장을 하고 있는지 요구를 하고 있는지를 구체적으로 좀 볼 필요가 있습니다. 여기서 이분들이 다섯 가지 질문을 합니다.

김어준 : 다섯 가지 질문.

▷박태웅 : 네. 기계가 우리의 정보 채널을 선전과 비진리, 그러니까 거짓말로 가득 채우도록 내버려둬야 할까요?

김어준 : 일단 다섯 가지를 말씀하시고 그거를 설명해 주십시오.

▷박태웅 : 네. 만족스러운 일을 포함한 모든 일을 자동화해야 할까요? 세 번째는 결국에는 인간보다 더 많고 더 똑똑하고 더 쓸모없어진 우리를 대체해버릴 수 있는 비인간적인 마인드를 개발해야 할까요? 네 번째 우리 문명에 대한 통제력을 상실할 위험을 감수해야 할까요? 다섯 번째 이게 굉장히 중요한 질문이라고 생각하는데요. 이러한 결정을 선출되지 않은 기술 리더에게 위임해서는 안 됩니다. 이렇게,

김어준 : 다섯 가지인데 심각한 질문들이네요.

▷박태웅 : 네. 그렇죠.

김어준 : 심각한 질문이고 이런 질문을 하게 된 이유가 이 챗GPT 혹은 또 다른 이름을 가진 AI의 발전 속도가 우리가 상상하는 것을 뛰어넘어서 너무 빠른 속도로 인공지능이 인간, 인간의 의도를 가지고 인간을 속이는 지점을 우리가 알 수 있을까. 그 지점을 우리가 넘어가는 순간을 알 수 있을까. 이런 생각을 하게 만드는,

▷박태웅 : 네. 그러니까 이제, 그렇습니다. 그런데 사실은 둠스데이라든가 스카이넷에 출연까지를 말하지 않더라도 이미 위험이 실재하고 있다, 라는 게 더 중요할 것 같아요. 그러니까 여기 보면,

김어준 : 핵전쟁 생각하지 않으시더라도,

▷박태웅 : 그렇죠.

김어준 : 진짜 위험들이 있어요, 벌써.

▷박태웅 : 그러니까 AGI라고 해서 Artificial general intelligence라고 해서 인공 일반 지능이 이제 인간의 지능을 넘어서는 지능을 말하는 건데, 굳이 AGI를 말하지 않더라도 이미 임박한 위험들이 실재하고 있다. 예를 들어서 만족스러운 일을 포함한 모든 일을 자동화하는 게 맞느냐, 라는 걸 하나만 봐도 미국에 있는 게임 회사에 다니는 디자이너가 며칠 전에 이런 트위터를 올렸어요. Midjourney가 이제 그림을 만들어 내는 생성형 인공지능인데 Midjourney 때문에 사랑하는 일의 모든 걸 잃었습니다. 요청하지도 않은 인터넷 아티스트의 스크랩의 결과물인 아트를 만들고 싶지 않았어요. 그러니까 얘가 만들어 내는 모든 그림들은 아티스트들이 인터넷에 올린 그 그림들을 다 모아서 학습한 결과거든요.

김어준 : 그렇죠.

▷박태웅 : 그러니까 이 친구가 말하는 거는,

김어준 : AI는 인터넷에 있는 사람들이 그린 그림을 보고 학습한 다음에,

▷박태웅 : 그렇습니다.

김어준 : AI가 그림을 그리는데, 그 그림의 결과물이 사람이 그린 것보다 더 훌륭해요.

▷박태웅 : 그렇죠. 그러니까 요청하지도 않은 인터넷 아티스트의 스크랩의 결과물인 아트를 만들고 싶지 않았는데 보기는 어렵지만 결과가 내가 작업한 것보다 낫습니다.

김어준 : 그러니까요.

▷박태웅 : 저는 슬픔과 분노 사이에 있습니다. 동료 아티스트 여러분 여러분의 아트를 사용해서 죄송합니다. 저는 Midjourney 때문에 사랑하는 일의 모든 것을 잃었습니다. 이렇게 말을 해요.

김어준 : 근데 이제 그 아트도 그렇고 그러니까 미술 분야도 그렇고 프로그래밍 분야에서도,

▷박태웅 : 마찬가지입니다.

김어준 : 그러니까 이게 이제 이 AI에 대해 접하지 못 하신 분들은 잘 모르겠지만 프로그램에 한 5년차, 4년차, 5년차 프로그래머가 할 프로그램보다 훌륭한 프로그램을 만든다는 거 아닙니까.

▷박태웅 : 네. 지금 한 3년차 정도 수준까지는 확실히 왔다고 그러고요. 개발을 좀 잘하는 중고급 개발자가 있다면 얘를 쓰면 한 4~5명의

김어준 : 조수를 쓰는 거.

▷박태웅 : 그런 개발자를 데리고 일하는 것과 맞먹는다, 라고 얘기들 해요.

김어준 : 지금 단계에서.

▷박태웅 : 지금에서.

김어준 : 이게 어떻게 빠른 속도로 발전할지 모르죠. 그러니까 AI가 프로그래밍을 합니다, 이제. 하는데 인간의 현업 3년차보다 낫다는 거예요.

▷박태웅 : 네. 그 정도쯤 된다고 얘기를 합니다, 써본 친구들이.

김어준 : 지금, 지금 순간에.

▷박태웅 : 네. 지금.

김어준 : 지금 시점에. 이게 이제 점점점점 올라갈 거 아닙니까, 당연히. 그러니까 사람 신입 직원 3명 쓰는 거, 5명, 4명 쓰는 것보다 이 AI한테 그냥 맡기면 불만도 없이 엄청나게 빠른 속도로 한다는 거 아니에요.

▷박태웅 : 그렇죠. 이제 얘가 가끔 거짓말을 토해내는데 그것만 판별해낼 수 있는 눈이 있고 설계를 잘할 수 있으면 한 서너 명 데리고 쓰는 거하고 같은 효과가 나온다고 할 수 있습니다.

김어준 : 지금 현업에 있는 엔지니어들이 그렇게 말합니까?

▷박태웅 : 그러니까 좀 고급 개발자들이 써보고 그렇게 얘기를 합니다.

김어준 : 고급 개발자들이 이거 훌륭하다.

▷박태웅 : 네. 근데 이것도 딜레마인 게 실제로 회사들이 초급 개발자를 뽑아야 되느냐 하는 고민들을 본격적으로 하기 시작할 겁니다.

김어준 : 그렇겠죠.

▷박태웅 : 그런데 문제는 그렇게 되면 몇 년 지나면 중고급 개발자가 사라져요.

김어준 : 그렇겠죠.

▷박태웅 : 밭이 없으니까.

김어준 : 그렇겠죠. 회사 입장에서는 만약에 5명을 이 AI 하나로 바꿀 수 있다면 프로그래머가 100명 고용될 곳에서는 그럼 엄청난 비용의 절약이잖아요. 이 유혹을 이기기가 어렵죠.

▷박태웅 : 못 이긴다고 생각합니다.

김어준 : 못 이길 거라고 봅니다.

▷박태웅 : 네네. 그게 다 돈이니까.

김어준 : 그런데 이게 이제 거의 전 분야에 일어나고 있어요, 지금.

▷박태웅 : 아티스트들도 마찬가지입니다. 아티스트들을 굳이 쓸 이유가 없어지잖아요. 대안 그거를 판별하고 그거를 수정할 수 있는 아티스트 몇 명만 있으면 된단 말이죠.

김어준 : 인간의 창의력 영역은 AI가 대체 못 할 거라고 했지만 아니었어요.

▷박태웅 : 얘는 생성형이니까 사실은 만들어내는 걸 더 잘해요.

김어준 : 인간이 지금까지 그려 놓은 그림들을 다 학습한 다음에 요구안 만들어줍니다.

▷박태웅 : 그렇죠. 근데 이제 손가락이 6개, 7개고 막 얼굴이 다리하고 바로 붙고 이런 일들은 가끔 나오는데 그거는 피할 수 없어요, 제가 생각할 때.

김어준 : 그거는 이제 인간이 감수하면 되는 것이고.

▷박태웅 : 네네. 그렇죠. 가려내면 되죠.

김어준 : 근데 이렇게 이런 수준에만 있는 게 아니라 우리가 이해할 수 없는 로직으로 어떤 결정을 하는 게 많잖아요, 요즘에. 점점점점.

▷박태웅 : 그럴 수 있습니다. 그러니까 hallucination 환각 거짓말을 뱉어내는 비율이 챗GPT가 한 20~24%라 그러고.

김어준 : 거짓말을 뱉어내는 이유에 대해서 설명해 주십시오.

▷박태웅 : GPT 4가 한 14%쯤 된다고 그래요. 그런데 이거를 러시아 룰렛이라고 생각해보자고요.

김어준 : 그러니까 hallucination이 뭔지를 설명해 주세요.

▷박태웅 : hallucination이 뭐냐 하면 지금 생성형 인공지능들이 쓰는 모델이 다 트랜스포머 모델인데 트랜스포머가 아주 쉽게 설명을 하면 이 단어의 다음 단어가 어떤 게 오면 가장 그럴듯 할까를 짐작해서 추론하는 모델이에요.

김어준 : 이 AI는 모릅니다, 라는 답을 안 해요.

▷박태웅 : 못 합니다.

김어준 : 못 하고 자기가 취합한 정보를 가지고 가장 그럴 듯한 답을 내는 겁니다, 말하자면.

▷박태웅 : 가장 approximate한, 그러니까 가장 근사한, 가장 그럴 듯한 어떤 답을 내도록 훈련을 받았거든요.

김어준 : 그래서 대부분은 우리가 듣기에 정답인데 이 정보가 부족하거나 하면,

▷박태웅 : 지어내요.

김어준 : 거짓말이죠, 인간한테.

▷박태웅 : 심지어 관련, 관련 논문을 보여달라고 하면 논문을 보여줍니다. 링크까지 나와요. 클릭하면 아무것도 안 나옵니다.

김어준 : 그러니까.

▷박태웅 : 다른 게 나옵니다.

김어준 : 이런 정보가 있을 법하다고 판단하는 거죠.

▷박태웅 : 그렇죠.

김어준 : 근데 실제로 없어요. 인간한테는 거짓말인데 이 AI 로직에는 자연스러운 거예요.

▷박태웅 : 걔는 판단한 게 아니죠. 만들어낸 거죠.

김어준 : 그렇죠. 만들어낸 거죠.

▷박태웅 : 가장 그럴 듯하게. 근사하게.

김어준 : 그렇게 설계해서 인간하고 비슷하게 여기까지 온 거거든요. 설계가 그렇게 돼 있기 때문에.

▷박태웅 : 근데 그게 이제 매개변수가 많을수록 학습 데이터가 클수록 하드웨어가 많을, 클수록 좋은 성능이 나오니까 그거를 그래서 타임즈가 지난 2월달에 군비 경쟁이라고 표현을 했어요. law of scale, 규모의 법칙이 작용을 하니까. 무조건 크게.

김어준 : hallucination은 듣다 보면 우리나라 특수부하고 비슷해요. (웃음)

▷박태웅 : (웃음)

김어준 : 범죄가 있어야 하는 일이라 범죄를 만들어내는.

▷박태웅 : 그러네요.

김어준 : 근데 이게, 이게 이제 심각한 거죠. 왜냐하면 AI가 인간의 기준으로 거짓말을 한 거거든요.

▷박태웅 : 그렇죠.

김어준 : 근데 그 분야의 전문가가 아니면 그 거짓말을 알아챌 수가 없어요.

▷박태웅 : 알아채기 쉽지 않습니다. 왜냐하면 앞에 굉장히 그럴 듯한 말을 한 다음에 붙이기 때문에 쓱 넘어가기가 쉬워요.

김어준 : 근데 이 AI가 의도적으로 인간은 귀찮은 존재여서 이 정도로 거짓말을 적당히 해 주고 넘어가서 자기가 인간을 위해서 더 좋은 결정을 할 수 있어 이렇게 판단하는 순간을 맞이하지 말라는 법이 있습니까.

▷박태웅 : 그게 이제 Singularity 특이점이라고 하는데 그게 올 수도 있다, 혹은 뭐 이 방식으로 못 온다. 여러 가지 설이 있는데 언제인가 오기는 할 올 수도 있을 것 같다는 생각은 들어요.

김어준 : 그러면서 이 전문가들이 우려하는 것이 이런 결정을 우리는 선출한 권력도 아닌 기술 리더들한테 맡기는 게 맞느냐 그런 미래가 올지도 모르는 것을.

▷박태웅 : 이게 핵심입니다. 오픈 AI의 리더인 샘 알트만이 하는 얘기가 뭐냐 하면 크게 세 가지를 얘기합니다. 우리가 아니라도 어차피 이거는 누군가 한다. 두 번째로 이런 종류의 대규모 인공지능이 일으킬 사고들은 직접 시장에 적용해보고 피드백을 받지 않으면 알 수 없다. 그리고 세 번째로 우리는 참 착한 사람들이어서 아주 성실하게 열심히 잘하고 있다. 이 세 가지 얘기를 해요.

김어준 : 말도 안 되는 소리를 하고 있네요.

▷박태웅 : 여기서 이제 감시자의 딜레마가 생깁니다. 감시자는 누가 감시하나.

김어준 : 그러니까요.

▷박태웅 : 그러니까 나 착해요, 라고 말하면 그만인가. 예를 들어서,

김어준 : 검찰한테도 물어보세요. 자기들 착하다가 얘기하지.

▷박태웅 : (웃음) 제 말이 그 말입니다. 선출되지 않은 권력이 위험하다는 거는 상식이거든요. 견제 받지 않은 권력은 위험하다. 그런데 이 경우에 그 GPT 3.5까지는 학습 데이터도 공개하고 모델도 공개하고 했어요. 근데 GPT 4가 되면 모든 걸 숨겨버립니다.

김어준 : 그러니까 이게 기술에 대해서 정통한 사람들이 인류의 미래가 걸린 일을 자기들 뜻대로 결정해도 되느냐 이거예요, 지금.

▷박태웅 : 그렇습니다.

김어준 : 그 사람들은 그 분야의 전문가일 뿐이지 인간의 모든 분야의 전문가가 아니잖아요. 철학자도 아니고 인문학자도 아니고.

▷박태웅 : 그렇습니다.

김어준 : 철학적 인류의 미래를 결정할 때 철학적 고민에도 부딪힐 수 있는데 이 사람들은 기술자들이잖아요.

▷박태웅 : 지금 몇 분 남았죠?

김어준 : 1분 30초밖에 안 남아가지고. 오늘 1부로 하고 또 이어서 가야 할 것 같은데,

▷박태웅 : 그래야 될 것 같습니다.

김어준 : 근데 이 전문가들 중에는 타임즈 기사로도 나왔던데 아예 개발을 멈춰야 된다는 사람도 있어요.

▷박태웅 : 그래서 사실은 그 그렇게까지 할 필요는 없고요. 제가 생각할 때 AI 연구를 멈춰라, 라고 할 필요까지는 없고 배포를 멈춰라, 라고는 해야 된다고 생각해요.

김어준 : 배포.

▷박태웅 : 네. 공부하시는 거는 계속하셔도 좋은데 배포는 일단 멈추자.

김어준 : 지금 MS가 자사 애플리케이션에 API 형태로 AI를 마구 뿌리고 있잖아요. 그렇게 되면 우리가 엑셀 쓰다가 워드 쓰다가 이 AI를 쓰게 돼 있어요. 자동으로. 이 미래가 너무 가까이 다가와 있어요, 지금.

▷박태웅 : 네. 지금 임박해 있는데다가 지금 요새를 AI의 캄브리아기라고 그러거든요. 종이 폭발적으로 증가하던 그 시기하고 비교해서, 비유해서.

김어준 : 이거 그래서 미국하고 유럽에서 혹은 전문가들이 이거 이대로 두면 안 된다는 논의가 활발한데 엄청나게 제가 이제 의장님을 모신 이유는 우리도 이 얘기를 해야 되잖아요, 이제.

▷박태웅 : 해야 됩니다.

김어준 : 우리 정부가 얘기를 안 하고 있잖아요.

▷박태웅 : 잘 안 보이죠.

김어준 : 큰일인 영역이 한두 개가 아닌데,

▷박태웅 : 근데 이거는 우리나라 정부만 해서는 될 일이 아니고. EU라든가.

김어준 : 다 같이 해야죠.

▷박태웅 : 다 같이 국제적으로 같이 해 줘야 됩니다. 왜냐하면 국제적으로 동시에 일어난 일이라서.

김어준 : 우리 정부도 해야죠.