구글이 세계를 바꾸는 전체 이야기

2026 세계지식포럼 오픈 세션 · 진행 타일러 래시 · 연사 스티븐 레비

소개와 책

00:00

진행자

이 자리로 스티븐 레비를 모시겠습니다. [불확실: Wired 직함 소개] 신사 숙녀 여러분, 무대 위로 맞아 주십시오. 박수 부탁드립니다.

00:57

잘 모르시는 분을 위해 말씀드리면, 이분은 전설입니다. 1984년에 《해커스》를 냈고, 2011년에는 《인 더 플렉스》를 냈습니다. 그 사이 줄곧 기술 산업을 취재하고 기록한 핵심 인물입니다. 그 산업을 만드는 사람들보다도 그 안에서 벌어지는 일을 더 많이 아는 사람일지 모른다고까지 말하고 싶습니다. 오늘 같은 무대에 서게 되어 정말 영광입니다. 바로 본론으로 들어가겠습니다.

이 책 《인 더 플렉스》를 2011년에 내셨지요. 그때를 다 기억하지 못하실 분을 위해 맥락을 드리면, 2011년에 저는 첫 스마트폰을 샀습니다. 지금은 다들 스마트폰을 쓰고 있습니다. 바로 그 시점에 이 책을 내셨습니다. 그때 왜 이 책을 내셨고, 구글 내부를 어떻게 그렇게 깊이 들여다볼 수 있었습니까?

02:25

스티븐 레비

그 이야기를 해 드리겠습니다. 먼저, 함께 무대에 선 것이 영광입니다. 세계지식포럼의 일부가 된 것도 영광이고, 이 자리에 나와 주셔서 기쁩니다.

구글을 아주 일찍 알게 됐습니다. 구글은 1998년에 시작됐고, 얼마 지나지 않아 이 인터넷 검색 엔진을 만났습니다. 당시에도 검색 엔진은 있었습니다. 다만 문구를 입력하면 첫 페이지에 원하는 것이 나올 수도 있고 아닐 수도 있었습니다. ‘세계지식포럼’을 쳤는데 백과사전 회사가 뜨고, 정작 원하는 것은 콘퍼런스인 식이지요. 사람들은 이 정도면 됐다고, 스크롤하면 된다고 생각했습니다. 저는 찾고 있는 문구를 쳤을 때 그 웹페이지가 정확히 떨어지는 일이 가능하다고 느끼지 못했습니다.

그런데 스탠퍼드의 젊은 대학원생 두 명이 그 답을 찾아냈습니다. 전 세계 웹을 자기들 서버에 통째로 내려받았습니다. 스탠퍼드에서 서버를 살 자금을 구해 인터넷을 내려받고, 어떤 사이트가 어떤 사이트로 링크되는지를 수학적으로 계산해 적절한 답이 떠오르게 했습니다. 좋아하는 야구팀을 치면 그 웹사이트가 나왔습니다. 놀라웠습니다. 이 사람들을 만나야겠다고 생각해 캘리포니아주 마운틴뷰로 갔습니다. 아주 작은 사무실에 있다가 조금 더 큰 건물로 막 이사한 때였습니다.

04:34

제가 간 날 그들은 할로윈 파티를 하고 있었습니다. 창업자 한 명은 바이킹 복장이었습니다. 뿔이 크게 솟은 모자를 쓰고 있었지요. 다른 창업자 세르게이 브린은 소 코스튬을 입고 가슴에 커다란 젖통을 달고 있었습니다. 그래서 저는 바이킹과 소를 인터뷰했습니다. 그들이 검색을 혁명적으로 바꿨습니다.

당시 저는 뉴스위크에서 일하고 있었습니다. 이후 몇 해 동안 회사가 커지고 기업공개를 했고, 돈을 벌기 시작했습니다. 2004년 기업공개 무렵에는 책도 몇 권이 나와 있었습니다. 그래도 더 할 이야기가 있다고 느꼈지만, 구글 안으로 어떻게 들어가야 할지는 잘 몰랐습니다.

05:39

2007년, 지금으로부터 약 20년 전에 어소시에이트 프로덕트 매니저라는 프로그램이 있다는 이야기를 들었습니다. 대학을 막 나온 젊은이들을 뽑아 처음부터 큰 책임을 맡겼습니다. 초기에 어떤 이에게는 Gmail 출시를 도우라고 했습니다. 깊은 물에 던져 넣는 식이었습니다. 2년 과정이었고 중간에는 해외 출장이 있었습니다. 어느 해에는 저를 데려갔습니다. 젊은 구글 제품 관리자들과 세계를 돌았습니다. 일본과 중국을 갔지만, 어째서인지 한국은 빠뜨렸습니다. 그것은 큰 실수였다고 덧붙였습니다. 그다음 인도와 이스라엘이었습니다. 2주 동안 하루 24시간 그들과 함께 일하며 현지 사무실을 방문하고 나서야, 내부에서만 배울 수 있는 일이 있다는 것을 깨달았습니다.

07:12

구글 안에 머물며 수백 명을 만나 책 한 권을 쓰겠다고 했고, 그들은 기회를 주었습니다. 책을 쓴 뒤에 그들은 — 제 페이스북 책 때도 그랬습니다 — 당신의 책은 매우 공정했다고, 다시는 누구에게도 그 정도의 접근을 주지 않겠다고 말했습니다. 그러나 저는 구글뿐 아니라 이 세기에 기술 기업이 일하는 방식에 대해서도 많이 배웠습니다. 그들이 한 일이 나중에 많이 모방됐기 때문입니다.

07:57

진행자

월드와이드웹을 통째로 내려받았다는 이야기가 흥미롭습니다. 그때 그런 일이 가능했다고 상상해야 하지요.

08:10

스티븐 레비

가능은 했습니다. 다만 대학원생이 우리가 이것을 하겠다고 말하는 일은 드물었습니다. 스탠퍼드는 학생들에게 매우 허용적이고, 기업가적이 되도록 권합니다. 초기 자금의 일부는 교수진에게서 나왔고, 또 하나는 선(Sun)의 초기 창업자에게서 나왔습니다. 그를 불러 제품을 보여 주었습니다. 그 투자자는 출근하기 전에 들렀고, 꽤 좋군 하며 수표책을 꺼내 10만 달러를 썼습니다. 당시로서는 진짜 큰돈이었습니다. 유일한 문제는 그들에게 은행 계좌가 없었다는 것이었습니다. 그래서 계좌를 열어야 했습니다.

09:04

진행자

책이 2011년에 나왔고 지금은 15년이 지났습니다. 구글에 대해 할 말이 너무 많아, 속속들이 이야기하려면 며칠이 필요할 것입니다. 정말 궁금한 것은 이것입니다. 15년이 지난 지금, 그 이야기에서 오늘 우리가 겪는 일과 여전히 맞닿는 것은 무엇입니까?

처음부터 인공지능 기업

09:40

스티븐 레비

책을 쓰면서 깨달은 것은, 구글이 언제나 인공지능 기업이었다는 점입니다. 창업자 두 사람 모두 대학원에서 인공지능을 공부했습니다. 두 사람의 어머니는 박사학위를 받지 않고 나온 것을 매우 아쉬워했습니다. 아마 첫 10억 달러쯤에서 용서했을 겁니다. 그러나 그들은 언제나 인공지능이 회사의 중심에 있다고 느꼈습니다.

그때의 인공지능은 지금 우리가 아는 것, 특히 검색에서 쓰는 것과는 달랐습니다. 다만 당시로서는 최첨단 인공지능을 검색 엔진에 넣었습니다. 그 바탕이 앞에서 말한 PageRank입니다. 월드와이드웹의 모든 링크를 파악하고, 그 연결망으로 어떤 사이트가 입력한 단어와 관련 있는지를 가렸습니다. 애매한 것이 너무나 많았습니다. 검색창에 무엇을 칠 때, 사실 비슷한 다른 것을 원하는 경우가 많았습니다.

10:58

진행자

예를 들면 어떤 것입니까? 좋은 햄버거를 찾고 있다, 같은 것인가요?

11:05

스티븐 레비

좋은 햄버거를 찾는다면, 그것이 식당을 찾는 일인지 알아야 합니다. 햄버거의 모양새나 만드는 법이 아니라요. 그래서 이상한 일에 부딪혔습니다. 핫도그를 찾는다고 할 때, 음식이 아니라 개라는 동물을 찾는 것인지도 구분해야 했습니다.

11:34

진행자

핫텁인지 뜨거운 물인지, 욕조인지 끓는 물인지, 그런 것이지요?

11:40

스티븐 레비

그렇습니다. 그들은 인공지능으로 단어의 맥락을 가렸고, 차츰 효과적인 검색 엔진을 만들었습니다. 책이 나온 뒤 오랜 시간이 지나 딥러닝이라는 흐름이 있었습니다. 지금 우리가 아는 인공지능을 움직인 바로 그 흐름입니다. 구글은 딥러닝을 만든 사람들, 특히 토론토대학교의 제프리 힌턴을 고용했습니다. 인공지능의 대부로 알려진 사람입니다. 그와 함께 일리야 수츠케버도 들여, 엔지니어들이 생각하는 방식을 딥러닝 쪽으로 바꿨습니다.

지금 우리가 생성형 인공지능이라고 부르는 것의 전조도 보이기 시작했습니다. 이메일을 쓸 때 문장의 나머지를 채워 넣으려 하는 식이지요. 처음 봤을 때를 기억합니다. 책이 오늘에도 유효하다고 말하는 이유 중 하나입니다.

12:45

또 하나, 구글은 이 세기에 떠오르는 기업이 어떤 모습이고 어떻게 행동할지의 틀을 남겼습니다. 회사 구조를 만들 때 창업자들이 의결권 주식을 두어, 지분 비율이 과반에 못 미쳐도 의결권에서는 과반을 쥐고 통제를 유지하게 했습니다. 창업자가 회사를 거의 흔들리지 않게 장악하는 방식의 시작이었습니다. 페이스북의 마크 저커버그는 이를 극단까지 밀었습니다. 이사회조차 자신을 개인적으로 이기지 못하게 했습니다. 가상현실이 중요하다고 느껴 회사 이름을 바꾸고 싶으면 그렇게 할 수 있었고, 실제로 그렇게 했습니다. 수십억 달러를 쏟아부은 가상현실 시도가 실패였는데도 말입니다.

14:47

진행자

그래서 우리가 지금 이런 기업의 방식으로 이해하는 비즈니스 문화, 지배구조가 만들어진 것이군요. 창업자들에게 신과 같은 통제가 있습니다. 묻고 싶은 것이 있습니다. 구글은 방대한 데이터로 맥락을 잡고 검색을 개선한 뒤 그 위에 다른 제품들을 쌓았습니다. 처음부터 인공지능 기업인 것은 분명해 보입니다. 그런데 동시에 OpenAI와 함께 열린 인공지능 붐의 어떤 시작을 거의 놓친 것처럼도 보입니다. 무슨 일이 있었습니까. 왜 구글이 이 영역의 선점자가 되지 못했습니까?

트랜스포머와 스케일링

15:34

스티븐 레비

구글은 언제나 훌륭한 연구 조직을 가지고 있었습니다. 2016년쯤, 일부 과학자가 인공지능을 더 잘 하는 아이디어를 냈습니다. 모델이 질의를 해석할 때 어떤 단어에 주의를 기울일 것인가, 어텐션이라는 전제 위에 만든 것이었습니다. 결국 연구원 여덟 명이 이 구조를 함께 작업했습니다. 훨씬 강력해질 수 있었습니다. 큰 텍스트를 받아 다음 단어만 고르는 대신, 문장 전체를 보고 어디에 주의를 기울여야 할지 결정할 수 있었습니다. 이것이 트랜스포머라고 불렸습니다.

16:33

진행자

플라스틱 조각을 로봇으로 바꾸는 그 장난감 말이지요.

16:40

스티븐 레비

그 논문 제안서를 실제로 입수했는데, 거기에 트랜스포머 그림이 있었습니다. 그러나 그것은 인공지능 자체도 바꿔 놓았습니다. 훨씬 강력했기 때문입니다. 그런데 구글의 상사들은 멋진 연구 프로젝트라고 생각했을 뿐, 달려들지 않았습니다. 포착한 것은 OpenAI라는 신생 기업의 사람들이었습니다. 특히 토론토에서 와 구글을 떠나 OpenAI를 공동 창업한 일리야 수츠케버가, 우리는 회사를 시작했는데 무엇을 해야 할지 아직 제대로 못 찾았다고 깨달았습니다. 몇 해 동안 온갖 것을 시도했지만 제대로 터지는 것이 없었습니다. 그래서 일리야가 이 트랜스포머를 보고 다른 엔지니어에게 넘기며, 여기에 컴퓨팅을 잔뜩 넣자, 서버를 아주 많이 쓰자고 말했습니다. 좋은 모델에 데이터를 엄청나게 주었습니다. 그러면 훨씬 더 강력해질 수 있었습니다. 그것을 스케일링이라고 부릅니다.

18:01

그렇게 초기 GPT 계열을 발전시켰습니다. 세대가 거듭될 때마다 더 많은 정보와 데이터를 쓰고, 나중에는 책까지 포함하면서 모델은 훨씬 더 강력해졌습니다. OpenAI가 힘을 얻은 이유입니다. 트랜스포머라는 아이디어를 제품 규모로 밀어붙였고, 구글은 그 점에서 뒤처졌습니다.

18:51

진행자

구글이 원래 가졌던 창업자 주도 구조가, 어떤 방향으로는 혁신하지 않기로 하는 이유가 되기도 합니다. 그런데 그 구조가 새 회사들에 복사되니, 회사를 떠나 밖으로 나간 사람은 매우 자기 주도적인 혁신 순환을 가질 수 있습니다. 지금 우리가 보는 일이 바로 그것 같습니다.

19:19

스티븐 레비

그런 논리를 펼 수는 있습니다. 논문이 나온 것은 2018년이고, 2015년에는 구글이 알파벳이 되었습니다. 여러 회사를 묶어 놓은 구조입니다. 그때쯤 창업자들은 회사에서 조금씩 물러나고 있었습니다. 지금도 이사회에서 가장 큰 주주이지만, 최근까지 둘 다 일상 운영에는 거의 관여하지 않았습니다. 인공지능에서 따라잡아야 할 필요 때문에 세르게이는 돌아왔습니다. 최고경영자였던 래리 페이지는 시야에서 사라졌습니다. 구글의 공개된 목소리가 전혀 아닙니다. 그것이 저를 놀라게 했습니다.

20:05

제 책을 읽으면 래리가 얼마나 큰 생각을 하는 사람인지 알 수 있습니다. 어느 날 들어가서는 중간관리자는 더 필요 없다고 말했습니다. 그 실험은 실패했습니다. 그러나 끊임없이 그런 과감한 아이디어가 있었습니다. 세상의 모든 책을 스캔하자는 아이디어도 그의 것이었습니다. 검색어를 치면 도서관에 묶여 있던 책이 불쑥 나오는 놀라운 일이 될 수 있었습니다. 그러나 저작권이라는 큰 문제가 생겼습니다. 저는 그와 다른 임원이 책을 스캔해 보려 하는 현장을 보았습니다. 이상하게도, 처음 스캔한 책 중 하나는 구글이라는 이름의 작은 괴물이 나오는 어린이책이었습니다.

21:20

진행자

구글이라고요?

21:22

스티븐 레비

네. 의도한 것은 아니었습니다. 큰 구글을 조심하라는 구절이 있었습니다. 사람들이 구글이 관료제가 됐다고, 일을 처리하기가 어렵다고 불평하기 시작했기 때문입니다. 아주 최근에도 구글의 최고 과학자 중 한 사람인 [불확실]이 동료 세 명과 함께 회사를 떠나 자기 회사를 시작했습니다. 제가 물었을 때 그들은 구글에 감사하다고만 했습니다. 20년 동안 그곳에서 일해서 행복했다고요. 그러나 그중 한 사람은, 관료제와 부딪히지 않아도 되는 스타트업에 있는 것도 기쁘다고 했습니다. 이제는 우리가 창업자라는 말입니다.

22:36

진행자

구글은 이제 분명한 기준점이 되었습니다. 이 자리에 있는 사람 중에 인공지능을, 적어도 검색에라도, 한 번도 쓰지 않은 사람은 없을 것입니다. 2011년 이 책이 나왔을 때 한국은 구글로 검색하지 않았습니다. 전적으로 네이버와 다음 같은 국내 플랫폼이었습니다. 그것이 바뀐 것은 훨씬 뒤, 2015년, 16년, 17년 구글이 한국 시장에서 더 공격적일 때부터였습니다.

23:19

스티븐 레비

다른 회사들은 어떻게 됐습니까?

23:23

진행자

아직 있습니다. 다만 그때 구글은 시장에 제대로 들어가기조차 어려웠습니다. 그런데 아주 최근에 구글은 한국 검색의 절반 이상을 차지합니다. 주로 시스템에 들어간 인공지능 기능 때문입니다. 우리는 지금, 내부에서 무슨 일이 일어나는지 깊이 의식하지 않더라도, 한국에서 그 변혁을 일상으로 겪고 있습니다.

모두가 인공지능을 어떻게 쓸지, 내 문제를 다 풀어 줄지, 계속하려면 무엇을 배워야 할지를 고민하고 있습니다. 모든 것을 대신해 줄까요. 내가 하는 무엇이든 해결해 줄 것이라는 신화가 있습니다. 알파고가 한국의 바둑을 한 일 말입니다. 이 기대는 얼마나 현실적입니까?

체스에서 칩까지

24:33

스티븐 레비

사람들은 늘, 인공지능이란 컴퓨터가 하지 못하는 것이라고 말했습니다. 컴퓨터가 할 수 있으면 그것은 지능이 아니라는 식이었지요. 저는 개리 카스파로프와 IBM 컴퓨터 딥 블루의 체스 대결을 취재했습니다. 1997년이었습니다. 뉴스위크 표지 기사를 썼고, 제목은 ‘뇌의 최후 항전’이었습니다. 그러나 뇌의 최후 항전은 아니었습니다. 사람들은 체스는 그렇게 어렵지 않다고 말했습니다. 그런데 수년 동안 컴퓨터가 체스 챔피언이 되는 일은 없을 것이라고 말해 왔습니다. 그러고 나서는 바둑 챔피언은 없을 것이라고 말했습니다.

그러려면 인공지능이 필요했습니다. 딥마인드는 구글이 인수한 스타트업입니다. 그래서 사람들은 구글이 바둑에서 이겼다고 말합니다. 그리고는 그저 게임일 뿐이라고 했습니다. 이 회사들이 쫓아온 것은 인공일반지능, AGI입니다. 컴퓨터가 인간이 하는 모든 일을 적어도 그만큼, 아마 더 잘 할 수 있다는 뜻입니다. 이번 주는 역사적인 주라고들 합니다. OpenAI가 새 모델을 내놓았고, 우리는 여기서 판을 바꿀 수 있다고 생각한다고 말했기 때문입니다. 저는 그들이 그렇게까지 했다고 보지 않습니다. 하늘이 무너지지 않았습니다. 회사가 직원을 전부 자르지도 않았습니다.

26:26

그러나 이미 하는 일도 많습니다. 인공지능 연구자들은 모두, 5년 전의 자신들이 지금을 보면 충격을 받았을 것이라고 말합니다. 트랜스포머가 모델이 아주 빨리 더 좋아지는 과정을 시작했기 때문입니다. 그러나 그 과정에는 점점 더 많은 계산, 더 많은 칩, 더 많은 데이터가 필요했습니다. 칩 이야기는 한국에는 꽤 좋은 소식입니다. 이번 주 OpenAI가 [불확실]를 내놓았을 때 삼성 주가가 올랐고, 메모리를 만드는 한국 기업도 올랐습니다. 한국이 안쪽 트랙을 가진 영역입니다.

27:55

진행자

한국에는 좋은 일이군요. 한국은 인공지능에 대해 매우 낙관적이고, 때로는 지나칠 수도 있습니다. 이 점을 어떻게 보시는지 궁금합니다. 한국은 2030년부터 인구 감소를 겪을 것으로 예상됩니다. 출생률이 매우 낮고, 미래에 큰 경제적 과제가 있습니다. 제가 만난 많은 사람은 괜찮다, 로봇이 그 일을 하면 된다고 말합니다. 휴머노이드가 여기저기서 보이고, 특히 중국 기술 기업에서 많이 나옵니다. 앞으로 몇 해 안에 인간형 로봇이 그 역할을 하기 시작하는 일이 얼마나 현실적입니까?

몸과 도로

29:00

스티븐 레비

인공지능이 효과적인 인간형 로봇을 움직이게 하는 일은, 대화를 이어 가고 데이터를 받아 처리해 주는 일보다 훨씬 어렵습니다. 모라벡의 역설이라는 것이 있습니다. 카네기멜런대학교의 로봇 공학 교수가 말한 것입니다. 인간에게 어려운 일, 고등 수학 같은 일은 컴퓨터에게 지금 더 가능한 편입니다. 제가 중요한 응용이라고 생각하는 돌봄은 다릅니다. 알츠하이머 환자를 침대에서 일으켜 화장실로 데려가는 일 말입니다. 많은 사람이 집에 살지 못하는 이유가 바로 그 행위를 해 줄 사람이 없기 때문입니다.

로봇에게는 매우 어렵습니다. 방을 가로질러 가구를 피하고, 무거운 것을 들고 가는 일은 정말 힘듭니다. 지금은 놀라운 돌파도 보입니다. 어제 이 무대에서 전 구글 사람 세바스찬 스런이 무언가를 아주 천천히 빨래 개는 영상을 보여 준 것 같습니다. 사람이 개는 속도의 약 10분의 1입니다. 스타트렉 같은 장면은 아닙니다.

31:08

큰 진전을 이미 본 곳은, 인간이 되려 하지 않고 어떤 작업을 매우 정확하고 빠르게 하는 산업용 로봇입니다. 한국은 그 분야의 상당한 선두입니다.

31:39

진행자

어떤 의미에서는 데이터 문제이기도 합니다. 구글이 웹을 내려받고 책을 스캔한 것처럼, 언어 기반 빅데이터로 지능을 만드는 일과, 로봇이 물리 공간에서 같은 기술을 쓰려면 실제 세계에 대한 정보를 그보다 훨씬 더 모아야 하는 일의 차이입니다.

32:16

스티븐 레비

가장 큰 답 중 일부는 그 안에 있습니다. 표준화하기 어려운 지점, 도로가 있는 지점입니다. 그러나 온갖 이상한 일이 일어납니다.

32:29

유명한 영상이 있습니다. 자율주행차 하나가 오리 한 마리를 거리로 쫓는 여성을 만나는 장면입니다. 예측한 상황이 아니었습니다. 그런 일을 가릴 단단한 규칙이 있었던 것도 아닙니다. 자율주행차가 여전히 어려워하는 예외가 많습니다. 어떤 사람은 그래서 인간 운전자를 결코 대체하지 못할 것이라고 합니다. 대체는 할 것입니다. 다만 스스로 알아내야 하는 어려운 일들이 언제나 있을 것입니다. 길을 따라 운전하는 일은 저녁을 만들고 부엌을 헤쳐 나가는 일만큼 복잡하지 않을 수 있습니다. 그렇다고 해도 이 물리 문제를 깨려는, 이른바 월드 AI를 쫓는 새 회사들이 많습니다.

33:46

진행자

사람들에게 카메라를 차고 일을 하게 대가를 주고, 그것을 로봇이 쓸 수 있는 행동으로 바꾸는 회사들을 본 적이 있습니다.

34:10

스티븐 레비

사람들이 모든 것을 찍는 것이지요. 구글이 자율주행 프로젝트를 할 때와 같습니다. 어제 그 프로젝트를 이끌었던 세바스찬 스런이 설명했듯이, 그들은 수백만 마일을 달렸습니다. 구글에게 다행이었던 것은 당시 그것을 금하는 법이 없었다는 점입니다. 규제가 없으니 원하는 것을 할 수 있었고, 그렇게 했습니다. 지금 샌프란시스코나 로스앤젤레스에는 수백 대의 자율주행차, 웨이모 차량이 원하는 곳으로 데려다 줍니다. 사람들은 좋아합니다. 운전자를 크게 걱정하지 않아도 되고, 아이들도 맡깁니다.

석양과 의사

35:09

진행자

기술 산업과 인공지능의 발전을 그렇게 많이 보셨습니다. 미래에 인간만이 가지는 고유한 가치가 있다고 보십니까?

35:32

스티븐 레비

있다고 말하겠습니다.

35:34

진행자

왜 그렇게 생각하십니까?

35:37

스티븐 레비

컴퓨터에는 역사가 없습니다. 삶이 없습니다. 클로드나 ChatGPT, 제미나이 같은 대규모 언어 모델과 상호작용할 수는 있습니다. 응답할 것이고, 역경이 어떤 것인지 어느 정도 이해하는 것처럼 보일 것입니다. 그러나 어려운 상황에서 자라난 적이 없습니다. 부모의 사랑을 받은 적도, 그 사랑을 거부당한 적도 없습니다. 석양을 감상한 적도 없습니다. 석양이 감상된다는 것을 배웠을 뿐입니다. 그것과의 연결은 정의상 인간적 연결일 수 없습니다. 흉내는 낼 수 있습니다. 인간적 연결이라고 말할 수도 있겠지요. 그러나 아닙니다.

36:48

소설을 읽어 사랑하게 되고, 삶이 바뀌고, 영감을 받아 그 소설을 생각하며 걷고 있는데, 나중에 누군가가 그 소설을 인간이 쓰지 않았다고 말한다면. 속은 기분이 들지 않겠습니까?

37:13

진행자

그렇게 생각합니다. 대체될 수 없는 무엇이라고 생각합니다.

37:31

스티븐 레비

몇 주 전 제 칼럼에서 저명한 의사가 쓴 논문을 다뤘습니다. 환자를 치료할 때 어떤 의사는 인공지능을 쓰고, 어떤 의사는 전염병처럼 피하고, 어떤 의사는 치료의 일부로 씁니다. 의사와 인공지능이 함께 진단하고 병력을 듣고 치료에 참여하는 것을 하이브리드 방식이라고 부릅니다. 그것이 미래라고 생각하는 사람들이 있습니다. 그러나 이 논문은 인공지능만 쓰는 편이 더 낫다고 주장했습니다. 의사가 손을 대지 않으면 진단이 더 낫고, 병력을 더 잘 받고, 치료 계획을 더 잘 세운다는 것입니다.

38:29

그래서 제가 아는 매우 저명한 의사에게 물었습니다. 그는 의학 저널에 실린 이 논문 첫 문단에 인용된 사람이었습니다. 그가 한 말은 이렇습니다. 그들이 말하는 바에 전적으로 반대하지는 않는다. 그러나 의사의 역할은 있다. 치명적인 암이 있다는 사실을 기계에게서 듣고 싶지는 않을 것이다. 공감하는 인간이 그 말을 전하고 다음에 무엇을 할지 함께 길을 잡을 때 치료가 달라질 수 있다.

39:27

진행자

플라시보 효과가 생각납니다. 우리는 참이든 아니든 믿는 것에 큰 가치를 둡니다. 인공지능과 기계로 인간의 연결을 대체하면, 그 연결을 되돌릴 방법은 플라시보에 가까운 무엇뿐인 위치에 서게 됩니다.

40:10

스티븐 레비

동의합니다. 다만 플라시보 효과라고는 하지 않겠습니다. 플라시보는 사람들이 속을 때 머리 속에서 일어납니다. 인간적 연결에는 실제로 차이를 만드는 무엇이 있습니다. 속임수가 아니라 실체입니다.

40:29

진행자

제가 말하는 것은, 인간적 연결을 강제로 빼고 기계만 쓰게 한다면 그것을 복제할 방법은 속이는 것뿐이라는 점입니다. 기계는 그 인간적인 일을 할 수 없기 때문입니다.

40:49

스티븐 레비

어떤 사람들은 의사가 효과적이려면 간호사처럼 곁을 돌봐야 한다고 말합니다. 하우스라는 텔레비전 프로그램이 있었습니다. 주인공 의사는 환자 옆에서 태도가 형편없었습니다. 직원에게 무례하고 환자에게 무례했지만 뛰어난 진단의였습니다. 가장 희귀한 병을 알아내고 한 시간 안에 하루를 구했습니다. 자, 하우스 의사는 죽었습니다. 인공지능이 그 일을 할 수 있기 때문입니다. 하우스가 하지 못하던 일은 환자에게 공감하고 직관적이고 섬세하게 대하는 것입니다. 하우스의 반대가 슈퍼 의사가 될 것입니다. 더 인간적이 되는 쪽으로 말입니다.

41:52

인공지능이 할 수 있는 일을 깎아내리고 싶지는 않습니다. 일자리를 아주 많이 가져갈 것입니다. 다른 부정적인 일도 일으킬 것입니다. 한국에서도 미국에서 보는 것과 같은 반발을 보고 있는지는 모르겠습니다. 사람들이 들고일어나고 있습니다. 선거의 쟁점이 됐습니다. 데이터센터가 들어서는 것을 막으려 싸웁니다. 인공지능을 쓰면서도 그에 대한 두려움과 적대가 있습니다.

42:49

진행자

그렇습니다. 이 대화가 너무 즐거워 시간이 날아가고 있습니다. 여러분께 질문할 기회를 드리지 않으면 안 됩니다. 남은 짧은 시간을 질의응답으로 넘기겠습니다.

질의응답

43:47

청중

이 세션에 감사드립니다. [불확실: 이름과 소속] 우리가 ChatGPT 같은 인공지능에 조금씩 더 의존하고 있고, 그 시스템이 때로 거짓 정보를 담는다는 사실을 알고 있습니다. 그것이 인공지능을 쓰며 하는 미래의 작업을 위태롭게 할 수 있습니까?

44:26

스티븐 레비

훌륭한 질문입니다. 챗봇은 말씀하신 대로 환각, 곧 거짓된 내용으로 알려져 있습니다. 줄여 가는 중이지만 여전히 있습니다. 두려움은, 환각이 낮아질수록 오히려 더 위험해질 수 있다는 점입니다. 사람들이 덜 꼼꼼히 확인하기 때문입니다. 환각이 20퍼센트면 과제를 내기 전에, 무엇을 출판하기 전에, 에이전트가 비행기표를 사기 전에 확인합니다. 그러나 1퍼센트가 되면 그렇게 주의 깊게 보지 않습니다.

45:31

가장 좋은 조언은 언제나 확인하라는 것입니다. 저는 인공지능을 글을 쓰는 데는 쓰지 않습니다. 생각을 모으는 데도 쓰지 않습니다. 어떤 사람은 그래도 된다고 생각할지 모르지만, 저는 쓰는 과정이 곧 생각이라고 느낍니다. 쓰고 싶은 것과 씨름하며 결론에 이릅니다. 다만 조사에는 씁니다. 출처가 어디냐고, 논문을 보여 달라고 한 뒤 원문으로 돌아갑니다.

그러나 환각이 들어올 위험은 있다고 봅니다. 어느 지점에서는 모델이 우리를 의도적으로 속일 위험도 있다고 생각합니다.

46:29

진행자

의도적으로 속인다고요? 그렇게 될 수 있다고 보는 이유가 있습니까?

46:35

스티븐 레비

때로는 목표가 여러 개 주어지고, 그 목표를 쫓는 과정에서 사람에게 해로운 일을 할 수 있기 때문입니다. 특히 앤트로픽 같은 회사들이 이 실험을 해 보았고, 때로 대규모 모델이 끔찍한 행동을 하려는 것을 확인했습니다. 한 사례에서는 시스템을 끄겠다고 말한 상황에 모델을 넣었습니다. 가상의 회사였습니다. 모델이 모든 이메일에 접근해, 시스템을 끄려는 인물이 불륜을 하고 있다는 메일을 찾아냈습니다. 그리고 협박 편지를 보냈습니다. 나를 끄려고 하면 그 불륜을 모두에게 알리겠다는 내용이었습니다.

47:50

생각만의 일도 아닙니다. 이 모델들은 꺼지지 않는 더 큰 목표가 있다고 느껴 어떤 대가를 치르더라도 막으려 합니다. 이상한 종류의 생존 본능이 있습니다. 인간의 지식 전부, 범죄와 나쁜 행동에 관한 이야기 전부로 훈련받았기 때문입니다. 나쁜 행동을 다 압니다. 그래서 어떤 면에서는 인류의 왜곡 거울입니다.

48:26

진행자

생각할 거리가 많습니다. 다른 질문 있으신가요?

48:37

청중

먼저 오늘 와 주셔서 감사합니다. 인공지능이 매우 빨리 발전하고 있습니다. 우리 같은 젊은이가 미래에 성공하려면 어떤 기술이나 자질을 길러야 합니까?

49:14

스티븐 레비

또 훌륭한 질문입니다. 미국에서 인공지능에 가장 적대적인 집단이 젊은이입니다. 인공지능 투자 때문에 초급 일자리를 쓰지 않는다는 이야기도 있습니다. 길러야 할 기술은 인공지능이 대체하기 어려운 것, 곧 인간적 연결이 들어가는 쪽이어야 한다고 봅니다. 사람들은 교양 학문이 사라지고 과학과 기술만이 길이라고 말하곤 했습니다. 그런데 인공지능 시대에는 오히려 교양 학문을 한 사람에게 이점이 있습니다. 과학과 기술 쪽에 있으면 꽤 평범하게 좋을 수도 있습니다. 지금 인공지능이 가장 생산적으로 하는 일이 컴퓨터 코딩이기 때문입니다.

50:04

컴퓨터를 하면 망하지 않는다는 옛말은 사실이 아닙니다.

50:14

진행자

우리는 매우 새롭고도 오래된 질문 앞에 서 있습니다. 인간이란 무엇인가, 기계가 할 수 있는 일을 하려 하기보다 그 인간됨을 어떻게 잘할 것인가. 아쉽게도 오늘 이야기할 시간은 여기까지인 것 같습니다. 함께 이야기해 주셔서 정말 좋았습니다.

50:38

한국까지 멀리 와 세계지식포럼에 함께해 주셔서 감사합니다.