인류문명이 한번 더 뒤집어 질 예정 (feat. GPT 언어모델)

어제 우리 카페 형들에게도 공유했던 내용이다. 블로그에도 옮겨와서 소개를 해본다. 일잘러 장피엠님의 영상이다. ChatGPT를 이용해서 블로그 글을 자동으로 작성한다. 그리고 그것을 기반으로 패시브 소득을 올린다. 그 방법에 대해서 공유한 영상이다.

세상의 변화에 대해 민감한 사람은 이미 ChatGPT를 보고 기대와 공포를 동시에 느꼈을 것이다. 그리고 이 영상을 보고 나서도 마찬가지의 기분을 느꼈을 거라 생각한다.

짧은 영상이지만 ChatGPT의 놀라운 가능성과 활용도를 보여 준다. 글 수십개를 몇 초만에 작성한다. 그것도 AI가 자동으로 작성한다. 그리고 모두 블로그 포스팅을 해버린다. 우리는 이런 시대에 살고 있다. 나는 지금 이 포스팅을 쓰면서 문장 몇개를 쓰는데도 벌써 10분이 소요되었다. 속도와 양에서 AI에게 압도적 패배다. 질적인 건 어떻냐고? ChatGPT에게 정교하게 질문만 잘 던지면 질에서도 보통의 인간들에게 밀리지 않는 수준이라고 본다.

위의 영상에서 나타난 것만으로도 몇가지 큰 파급효과가 생기리라 유추해 볼 수 있다.

• 인간의 기획력이 필요없다. AI가 포스팅 주제를 스스로 설정한다.
• 영어를 못해도 된다. 알아서 영어 문서를 작성해 준다. 심지어 번역기 돌린 티도 안난다. 완벽한 문장을 구사한다.
• 구글 등 검색엔진 크롤러들은 폭발적으로 생성될 저런 문서들을 어떻게 크롤링하고 인덱싱 할 것인가?
• 구글 등 검색엔진은 AI가 작성한 문서를 걸러낼 수 있을까?
• 종국에는 광고 수익을 노린 행위이므로 애드센스 등 광고상품들은 저런 행위에 어떻게 대항할 수 있을것인가?
• 컴퓨터 다루는데 능숙하지 못한 스팸 블로거들은 굶어 죽을까?
• 저런식으로 새로운 문서가 엄청난 숫자로 생성될 경우, 그 문서들을 기반으로 다음 버전 언어모델들이 학습을 하면 결국에는 자기파괴적 행위가 될 것인가?
• 앞으로 인터넷 광고 시장은 어떤식으로 변화할까?
• 소설가, 기자, 블로거 등 글쟁이들의 미래는 어떻게 될까?
• 마케팅은 어떤식으로 대응하고 변화할까?

쓰다가 보니 끝도 없다. 여기까지만 쓰자.

GPT-3를 구글 스프레드시트와 결합하여 활용하는 영상이다. 예전 같으면 값을 하나씩 찾은 후, 검증해서 손으로 입력을 했을 터였다. 하지만 GPT-3 익스텐션을 적용하면 값들은 자동으로 입력이 된다.

이런식으로 GPT를 활용하는 방법은 무궁무진하다.

불행한 점은 이런 대규모 언어모델은 기존의 빅테크 기업만 소유할 수 있다는 점이다. 학습을 한번 시키는 데만 해도 엄청난 자원과 비용이 들어간다. 부와 지식의 독식은 갈수록 더 심해질 것이 자명하다. 우리 문명은 이미 특이점이 오고 있다. 하지만 더 강력한 특이점이 오기 전에 빨리 부자가 되어야 한다. 나중에는 신분이 공고히 나눠질지도 모른다. AI를 소유한 사람과 아닌 사람.

한편, 다행인 점도 있다. ChatGPT를 만든 OpenAI는 자사의 서비스를 오픈API형태로 판매한다고 밝혔다. 따라서, 위에서 본 영상들과 같이 다양한 방법으로 응용할 수 있는 방법들이 있는 것이다. 개인의 창의력에 달렸다. 이게 왜 다행이냐고 하면, 컴퓨터를 모르는 사람도 조금만 공부하면 해당 API를 자유자재로 활용할 수 있기 때문이다. 몬테카를로 트리 서치 알고리즘이니 자료구조이니, CNN이니 RNN이니 제로샷이니 원샷이니 하는 이상한 것들(?)을 몰라도 된다는 소리다.

화이트 칼라, 본격적으로 위협을 받기 시작하다!
1) GPT-3 언어모델은 미국의 의사면허 시험을 통과하였다. (https://arxiv.org/pdf/2207.08143.pdf)

2) 또한, 의학교육에서 GPT 모델이 큰 도움을 줄 수 있는 것이 검증되었다. (https://www.medrxiv.org/content/10.1101/2022.12.19.22283643v2.full)
3) DoNotPay는 GPT를 이용해서 법정에서 변론을 할 수 있는 서비스를 제공중이며, 대법원에서 교통범죄 관련 재판에 참여하여 피고측 변론을 맡을 예정이다. (https://gizmodo.com/donotpay-ai-offer-lawyer-1-million-supreme-court-airpod-1849964761)

"인간 피고인이 법정에 서 있다. AI 변호사가 변호를 하고, AI 판사가 판결을 내리는 그런 시대에 곧 살게 될지도 모른다."

나도 ChatGPT를 이미 내 업무에 다방면으로 활용하고 있다. ChatGPT와 친해진지 한달 남짓 되었다. 이제는 얘가 없으면 안되는 지경에 이르렀다. 처음에는 의심하는 마음으로 ChatGPT와 한참을 놀았다. 하지만 이제는 ChatGPT를 믿고 일을 맡긴다.

100조 개의 파라미터와 멀티모달로 무장한 GPT-4 기반의 서비스가 곧 나온다는 루머가 있다. 이때를 기점으로 우리 문명은 강력한 특이점이 올 것이라고 확신한다. 우리의 삶의 방식, 노동방식, 사고 방식 등 모든 것이 뿌리부터 흔들릴 것이다. 아직은 결함이 있는 GPT-3.5 베이스의 서비스도 이토록 강력한데, 다음 버전은 얼마나 강력할지 상상도 되지 않는다. 그것을 두려워만 할 것인지, 적극적으로 나의 수족으로 활용할 것인지는 전적으로 우리 자신에게 달려있다.

한편, 현재 버전의 ChatGPT를 보고 큰 두려움을 느낀 분들이 많았다. 특히, 수십년째 변함없는 구닥다리 학교교육을 받은 아이들의 미래에 대해서 부모님들의 걱정이 많았다.

'산 사람 목에 거미줄 안 친다'라는 말이 있다. 문명의 대변혁이 생겨도 우리는 어떻게든 살아가지 않겠는가? 하지만, '주인으로 현명하게 살아가는가?', '노예로 비참하게 살아가는가'하는 차이는 있을 것이다.

참! 커다란 기술 변혁이 있을 때, 그것을 최초로 선보인 회사는 당연히 주목을 받는다. 하지만 기술이 보편화 되고 영글었을 때에도 그 회사가 살아 있을지, 혹은 여전히 독보적인 위치에 있을지는 아무도 모른다. 

대중적으로 성공한 최초의 웹브라우저인 모자이크는 당시에는 충격으로 다가 왔다. 하지만 이제 웹브라우저를 보면서 누구도 놀라지 않는다. 마음만 먹으면 너도 나도 웹브라우저를 만드는 시대다. MP3가 그랬고, 스마트폰이 그랬고, 거의 모든 기술이 그랬다. 

GPT 언어모델이 Generative AI 분야에 작은 공을 하나 쏘아 올렸다. 하지만 시간이 흐르면 비슷한 회사와 서비스들은 쏟아져 나올 것이다. 그리고 시간이 더 흐르면 누구나 그것을 구현할 수 있는 수준까지 갈 것이다. 우리가 생각할 것은, 그런 시대가 왔을 때 사람들의 생활상이 어떻게 변해 있을지를 상상해 보는 것이다. 장기투자자라면 거기서 기회를 보고 미리 선점을 해야 한다. 

요즘처럼 ChatGPT와 관련도 없는 이상한 AI회사들이 급등한다고 따라 다니면 안된다. 물론 ChatGPT와 관련이 조금 있는 회사라도 마찬가지다. 그런 식으로 투자를 해서는 안된다.

2023년 1월 21일

송종식

고도문명의 취약점

며칠 전, KT 전국망이 89분간 마비됐다. 유무선망이 모두 마비돼 통화는 물론 패킷을 이용하는 여러 서비스들도 일시적으로 이용불능상태가 되었다.

하필 점심 시간대라 문제는 더 컸다. 상점들의 카드 결제가 멈췄다. 질병청 서버도 멈춰서 백신 접종 확인 여부도 체크가 불가능 했고, 입구에서 찍고 들어가는 QR코드 증명시스템도 마비가 됐다. 단타 매매를 하는 주식투자자들도 HTS, MTS 이용이 불가능 해서 큰 불편을 호소했다.

처음에는 북한에서 DDOS 공격이 들어와서 전국 통신망이 마비됐다고 알려졌다. 그러나 나중에 KT에서 공식적으로 발표하길 부산국사에서 기업망 라우터를 교체하면서 EXIT 명령어 하나를 누락해서 발생한 일이라고 했다. 

이번 일은 물리적 라우터에서 벌어졌지만 요즘 세상은 대부분 소프트웨어 기반으로 돌아간다. 소프트웨어는 또 어떤가. 코드에 점 하나, 괄호하나, 띄어쓰기 하나만 틀려도 버그가 생기거나 오류를 뱉어낸다. 수만~수백만줄의 코드에 오타만 하나 있어도 그 코드는 사용불능이 된다.

물론, 그런 상황을 방지하기 위해 다양한 도구를 도입하여 사용하기는 한다. 개인 개발자 단계에서 코드를 잘 테스트 한 다음, 테스트 환경에서 코드를 돌리고, 실제 서비스에 내보내기 전과 동일한 환경에서 마지막 테스트를 한번 더 거친다. 그리고 다양한 오류 검출도구와 디버깅 도구를 사용한다. 마지막으로 사람 테스터들이 투입되어 최대한 오류가 없도록 테스트 단계를 거친다.

차라리 오류가 검출이라도 되면 다행이다. 검출되지 않지만 시스템에 잠재하는 리스크는 수도 없이 많다.

게다가 이번 KT사태와 같이 어느 한 부분에서 구멍이 뚫리면 이런 단계들은 얼마든지 무용지물이 될 수 있는 여지가 크다.

지금은 기본적으로 셀 수 없이 수 많은 코드와 통신망이 서로 긴요하게 맞물려 데이터를 주고 받으며 돌아가는 세상이다. 아주 사소한, 정말 사소한 오류 하나로 세상이 멈추거나 큰 사고로 이어질 수 있다.

물론, 내가 하드웨어를 잘 모르기 때문에 하드웨어에 대한 이야기는 하지 않았지만 하드웨어 분야도 비슷할 것이다. 전기, 전자분야든, 화학 분야든 안 그런 것이 없을 것이다. 정밀을 요하는 분야는 더욱 그럴것이고. 

전체 시스템의 99.99%가 옳게 만들어져 있어도 나머지 0.01%의 실수나 잘못으로 시스템은 엉망이 될수가 있다.

이것이 인간이 만든 고도문명의 큰 취약점 중 하나이다.

우리 몸도 여러 장기가 각자 역할을 충실히 한다. 그러면서 한명의 사람이 살아가는 것이다. 그러나 사람 몸은 어디 한 곳에 생채기가 난다거나 심지어 장기 한두개가 없다고 해서 죽지는 않는다. 그리고 자연치유 능력도 갖고 있다. 그러나 인간이 만든 문명과 기술은 그렇지 못하다. 거대한 기계의 나사 하나가 누락되어서, 큰 소프트웨어를 구성하는 코드의 점 하나 때문에 대참사가 일어날 수 있다.

약한 고리들이 느슨하게 연결되어 돌아가는게 현대사회다. 수 많은 고리 중 하나가 끊겨서도 안된다.

좀 생뚱맞은 이야기를 하자면 그러하기에 5단계 완전 자율주행은 과연 우리가 살아 있는 동안 구현이 가능할까 싶은 회의감이 크다. 비행기의 자동항법장치나 원자력 발전소를 운영하는 것과는 결이 다른 이야기다. 이번 KT망 오류에서 보듯이 자율주행차들이 5G망에 붙어서 상호통신을 하며 달려야 한다면 이번과 같은 통신장애 발생 시 도로위에 올라와 있는 모든 차량이 교통사고가 일어나는 초유의 상황을 맞이할 수도 있다.

물론, 그런 기초적인 것들이야 회피할 방법을 찾을 것이고 구더기 무서워서 장을 못 담그진 않을테니 인류는 어떤식으로든 진보는 하겠지만.

덧. 끊김없이 공급되는 전기와 그것을 관리하는 한전에 늘 감사하다. 사실 현대문명의 베이스는 전기라 해도 과언이 아닌데, 전기가 끊기면 정말 지옥문이 열리는 것이기에.