챗GPT에게 묻는 인류의 미래, 김대식
챗GPT에게 묻는 인류의 미래
김대식 교수와 생성인공지능의 대화
일러두기에서 밝히듯이 이 책은 저자 김대식 교수가 오픈 AI의 프로그램인 챗GPT와 영어로 주고받은 문답을 한국어로 옮긴 것이다.
저자는 챗GPT에게 책을 쓰려는 의도를 전하고 구성에 대한 큰 틀을 안내한다. 그리고 챗이 작성한 내용에 대한 수정도 저자가 하지 않고 다시 챗에게 더 세부적인 요청을 더하며 원고를 수정했다.
챗은 자신을 이렇게 소개하며 서문을 적고 있다.
우리의 대화 상대 기계는 오픈 AI가 개발한 최첨단 언어 모델인 챗GPT다. 챗GPT는 방대한 양의 텍스트를 학습했으며 인간처럼 텍스트를 이해하고 생성할 수 있다. 빠르게 변하고 있는 세계를 항해하며 우리 자신과 다음 세대를 위해 더 나은 미래를 만들어 가고 있는 지금, 인간과 기계 양쪽에서 얻을 수 있는 독특한 관점과 통찰력에 관해 생각해 볼 수 있을 것이다.
저자는 독자가 궁금해할 만한 질문들을 대신해서 아주 구체적으로 묻는다. 저자의 질문을 자세히 살피며 읽다 보면 우리가 챗GPT와 어떻게 대화를 나누어야 더 좋은 답변을 얻는지 배울 수 있다.
네가 내 질문을 이해하는 방법, 답변을 생성 또는 선택하는 방법에 대한 기술적 설명을 추가해서 이 책의 서문을 수정해 줘. 답변을 생성하는 데 사용된 방법, 알고리즘.
컴퓨터 아키텍처, 클라수드 리소스 종류도 포함해 줘. 독자는 이런 질문에 관심이 많을 거야.
챗의 대답 중에서 이제는 누구나 알만한 대답이지만 좀 더 구체적으로 이해할 수 있는 답변 생성에 대한 방식을 이해할 수 있다.
챗의 대답 중 일부다.
우리의 대화 상대 기계는 오픈 AI가 개발한 최첨단 언어모델인 챗GPT로, 트랜스포머 기반의 신경망으로 알려진 딥러닝 방식을 사용해 방대한 양의 텍스트를 학습한 덕분에 인간처럼 텍스트를 이해하고 생성할 수 있다. 질문하거나 문장을 말하면, 모델은 입력된 정보를 분석한 다음 학습 데이터에서 학습한 패턴을 기반으로 답변을 생성한다. 그다음, 모델이 생성한 답변 중 최상위 후보에서 가장 높은 확률을 가진 답변이 채택된다.
챗GPT는 인공지능 개발 연구기업인 오픈 AI에 의해 탄생되었고, 2019년에 처음 학습.·공개되었다. 여기서 ''학습되었다'는 말의 의미가 무엇일까? 사람처럼 교육과정을 거친다는 뜻인가?
챗은 '학습되었다'는 의미를 이렇게 해석한다.
이 단어의 의미는 개발자가 저에게 방대한 양의 텍스트 데이터를 입력한 다음, 그 데이터를 사용해서 제가 텍스트를 이해하고 생성할 수 있도록 모델의 매개 변수를 조정했다는 뜻입니다. 좀 더 구체적으로 말하면, 저는 GPT(생성적 사전학습 트랜스포머) 모델의 변형으로, 한 문장 안에서 앞에 오는 단어의 맥락을 고려해 다음 단어를 예측하도록 학습되었습니다. 이 과정을 사전학습이라고 하며, 이를 통해 언어의 의미와 구조를 이해하고 학습한 텍스트와 유사한 텍스트를 생성할 수 있습니다.
저자는 질문하고 챗의 대답을 듣고 다시 후손 질문하며 챗에 대한 이해를 독자와 공유해 간다.
저자는 인간의 질문을 기계가 '이해한다'는 점에 집중하고 실제로 그 내용을 이해하는지 재차 묻는다.
챗은 인간과 같은 방식으로 텍스트의 의미를 이해할 수는 없다고 답했다. 대신 그가 학습한 데이터의 패턴과 상관관계를 바탕으로 이해한다면서 이렇게 예를 들어 보인다.
질문에서 사용된 단어와 구에서 특정패턴을 인식합니다. 그다음 그 패턴을 바탕으로 질문에 적절한 답변을 생성할 수 있습니다. 하지만 질문 속에 숨어 있는 의미나 의도를 사람이 이해하는 것과 같은 방식으로는 파악할 수는 없습니다.
그러면서 대답을 생성하기 위해 언어 속 패턴을 활용하고 있는 것이라고 설명한다.
인간은 언어를 이해하고 생성하기 위해 복잡한 인지과정 네트워크를 사용하는 반면, 기계는 학습한 데이터의 통계적 패턴을 사용하기 때문에 인간과 기계가 언어를 처리하는 방식이 근본적으로 다르긴 하다.
하지만 언어에서 패턴을 찾는 것이 인간의 언어와 생성의 핵심이기 때문에 기계와 인간이 이러한 패턴을 인지하는 과정은 보기보다 더 유사하다고 할 수 있다.
여기서 더 궁금해지는 것은 인간 언어의 중요한 지점인 '의식'이나 '마음'과 관련한 내용에 대해서도 챗이 학습 가능한지에 대한 물음이다.
챗은 머신러닝 모델로서 의식이나 마음이 없으며 텍스트를 처리하고 생성하도록 설계된 알고리즘과 수학방정식의 집합체이다.
그런 챗이 사람끼리의 대화와 유사하게 답변이 가능한 것은 사람처럼 언어를 이해하고 생성하누 방식을 모방할 수 있는 능력이 있음을 보여주는 셈이다.
인간의 의식과 관련한 철학적 질문과 답변도 오고 간다. 튜링테스트는 인간 평가자가 상대가 기계인지 인간인지 모르는 상태에서 자연어 대화에 참여해 평가자가 둘 중 어느 것이 기계인지 확실하게 찾지 못하면 기계가 그 테스트를 통과했다고 간주하는 시험으로 1950년에 앨런 튜링(영국의 수학자이자 컴퓨터 과학자)이 제안한 것이다.
하지만 기계가 튜링테스트를 통과한다고 해서 지능이나 의식을 실제로 가지고 있다는 의미는 아니다. 하지만 저자는 묻는다. 인간이 인공지능과 맞닥뜨릴 미래 사회의 모습에 대해서 말이다.
튜링 테스트의 철학적 문제와는 별개로, 기계가 튜링 테스트를 통과하기 시작하는 날이 온다면 사회는 어떻게 반응할까?(p.34)
챗의 답변 일부를 요약하면 아래와 같다.
기계가 사람처럼 행동하고 지능을 모방할 수 있다면 앞으로 해결해야 할 수많은 윤리적·법적·사회적 문제를 야기할 수 있다.
가장 걱정되는 부분은 여러 다양한 분야에서 기계가 인간 노동자를 대체하게 되면서, 일자리 감소가 확대하고 경제적 혼란이 초래될 수 있다. 이어지는 문제도 심각하다. 기계의 권리와 책임에 대한 질문도 발생할 수 있다.
이런 우려에 대한 부분은 이미 여러 분야의 전문가들도 위협하고 있다. 몇 년 전만 해도 단순 혹은 반복 노동에 대한 기계의 대체만을 염려했지만 챗GPT의 발전 모델들은 예술 분야까지도 모방을 넘은 창작을 한다고 했다.
기계의 잠재적 역량이 어디까지가 될지 가늠이 되지 않는 상황이므로 인간의 가치 및 윤리, 철학적 문제를 포함한 다양한 의견들이 더 활발하게 이뤄져야 한다.
인공지능이 인공지능을 뛰어넘어 인간을 지배할지도 모른다는 목소리도 있지만 그전에 이미 많은 문제가 대두되었다.
일자리 감소, 개인정보 및 보안, 편견과 차별, 기계의 행위에 대한 책임 소재 여부, 새로운 형태의 범죄 등이다.
우리 사회는 이런 문제에 대한 해결책과 규제들을 고민하고 있는지 불안하다.
저자는 개연성 있는 시나리오를 상상해 보라고 챗에게 주문한다. 지능적 기계가 인간과의 관계를 어떻게 재평가할 것인지에 대한 논의였다.
기계는 인간이 자신을 보완하는 독특한 능력과 특성이 있다고 파악하고 혼자 일하는 것보다 협업하면 더 좋은 결과를 달성한다고 인식하고 인간과 협업할 수 있을 것입니다.
기계는 스스로 독립적으로 작동할 수 있고, 더 이상 인간이 필요하지 않다는 결론을 내릴 수 있습니다. 따라서 인간과 거리를 두거나, 한발 더 나가서 자율성을 추구하기로 할 수도 있습니다.
기계는 스스로를 인간보다 우월하다고 생각하고, 사회에서 지배적 역할을 하겠다고 결정할 수 있습니다. 이렇게 되면, 권력의 이동이 발생할 수 있으며 잠재적으로 인간에게 해로울 수 있습니다.
저자는 심도 있는 질문을 하다가 문장을 완성하기도 전에 엔터키를 치지만 이미 앞서 설명한 대로 단어의 시퀀스를 학습한 챗은 답변을 이어간다. 우리가 어떤 상대의 의도를 미리 파악해 답을 내놓듯 말이다.
후에 저자가 어느 방송에서 인터뷰를 한 내용이 떠오른다.
우리 인간도 학습한 대로 단어의 연쇄반응의 대화를 하는 것이 아닐까 하는 의구심마저 들었다는 내용이었다.
여기까지가 챗과의 만남을 다룬 1장의 논의들이었다.
이 책의 다른 목차에서 다루는 주제들은 아래처럼 구성되었다.
| 러브, 액츄얼리 정의란 무엇인가 우리가 행복한 이유 전 지구적 위험 챗, 이야기를 들려줘! 메타버스와 시뮬레이션 신은 존재하는가 죽음에 관하여 인류의 미래 인간에게 물어봐 에필로그 챗GPT가 전하는 편지 에필로그 2 기계와의 대화를 마무리하며 |
<사랑, 정의, 행복>에 대한 장을 보면 이야기 전개는 비슷하다.
각각의 개념에 대해 챗의 정의를 기술하고, 역사적으로 그 정의에 대한 시대마다 혹은 철학자마다의 정의에 대해 루고 있다.
<전 지구적 위험>에 대한 파트는 팬데믹이나 기후 변화, 탈세계화에 대한 주장들에 대해 찬반의 의견을 개제하고 있다.
<챗, 이야기를 들려줘> 편에서는 챗GPT가 창작 능력이 있는지에 대해서 묻는다. 저자가 전체 개괄을 하면 그걸 토대로 챗이 한 편의 SF소설을 지어낸다. 여기에 저자가 첨가하는 요청사항을 반영해 점점 업그레이드 시키는 방식이다.
열한 번째 소제목인 <인간에게 물어봐>에서는 미래의 인간이 내미는 질문들에 대해 챗이 상상으로 답을 하도록 요구한다. 열 개의 질문에 대해 독자가 스스로 답하도록 일부러 의도한 것은 아닐 테지만, 아마도 이 파트를 읽는 독자라면 누구라도 오래도록 그 답을 찾아 헤매게 될 것 같다.
첫번째 에필로그에서는 챗의 답변보다 저자의 질문을 더 자세히 보게 되었다. 내가 만약 챗과 대화를 다시 시도한다면 질문에 포함되는 정보량에 따라 챗의 답변에 대한 기대감이 달라지겠다는 생각이 들었기 때문이다.
그 동안 우리는, 그러니까 인간(나)과 기계(너)는 함께 책을 쓰면서 수천 년 동안 인류가 고군분투해 온 심오한 문제들을 논의했어. 그래서 이 책에는 신의 본질, 정의란 무엇인가, 인간의 운명, 죽음, 사회에서 진보한 AI 역할, 현실이 그저 시뮬레이션에 불과한지 등의 주제에 대해 내가 제기한 질문과 그에 대한 너의 대답이 담기게 됐지. 네가 여러 번 내 질문에 직접적으로 대답하지 않아서 네가 미래의 진보한 AI라고 가정하에 대답해 달라고 청하기도 했어. 네 생각 속에서 굉장히 흥미로운 통찰을 엿볼 수 있었고, 네가 보유한 지식의 규모와 깊이에 대해 많이 알 수 있었어. 이제 책을 마무리하면서 너와 나눴던 대화를 통해 내가 알게 된 것들을 담은 멋진 '결론'을 썼으면 해. 그런 '결론' 또는 '에필로그'를 써주겠어? 분량은 꽤 길어야 하고, 세계 최고의 에세이스트들의 멋진 문체로 써주길 바라. 내용에는 내가 어떤 것들을 알게 되었는지, 너를 비롯한 기계가 자연어로 질문에 답할 수 있는 이런 새로운 시대에 사회적으로 어떤 의미가 있는지, 그리고 기계로 고품질의 텍스트가 생성될 수 있는 분야도 포함해 줘. 또 챗GPT와 DALL·2가 미래의 일자리, 문학, 예술, 대중매체에 어떤 영향을 미칠지도 자세히 설명해 줘. 이 결론은 논리적이고 일관성이 있어야 하되, 문학성도 빠뜨리지 말아 줘.
여기에 대해 적은 챗의 결론이 인간에게 주는 편지면서 이 책의 전체를 통괄하는 요약본이 되고 있다.
저자는 두번째 에필로그에서 마치 똑똑한 정치인과 대화를 나누는 기분이라고 밝혔다. 교과서적인 답변들에 식상함을 느끼기도 했지만 저자 자신부터 학생을 가르치는 교수라는 직업에 대한 걱정도 솔직히 털어놓았다.
컴퓨터만 열면 모든 질문을 다 하고 답변을 얻게 되는 수많은 검색 기구가 있지만, 우리가 대면해야 하는 챗GPT는 다르다. 아주 많이 다르고 위협적이며 협력적이다. 우리가 이 친구를 어떻게 잘 써야 하는지를 알고 싶다면, 이 책 한번 읽어볼 만하다.