공상) Chat GPT는 스카이넷 초기모델인가?

사과맛요플레 작성일 23.04.10 16:21:24 수정일 23.04.10 16:36:13
댓글 11조회 155,694추천 18

 

 

Chat GPT가 화제인 모양이다,

sns을 열어도

브라우저를 열어도

한번도 검색 조차 안 해본 이 앱이 어디가나 관련 광고가 뜨고

주위 관련업계 종사자들은 만나기만 하면 입에 침을 튀기며 이 얘기를 한다.

 

 

Chat GPT는 한국 대중에게는 알파고를 통해 잘 알게된 딥러닝 프로그램과 원리적으론 다를 바가 없다고 할 수 있다.

다만, 알파고는 말 그대로 Go 즉 바둑의 기보를 딥러닝하는 프로그램이었다면

Chat GPT는 말 그대로 채팅, 그것도 최대한 실제 사람처럼 가능한 대화가 목표인 프로그램인 만큼

알파고 처럼 한 분야에 묶여있지 않다.

 

개발 단계에선 개발자와 소위 강화 학습 트레이너와 대화를 통하여 정보 그 자체보단 채팅에 있어서 자연스러움을 더욱 추구 하였으나

계속되는 개발 진행으로 여러가지 “플러그인” 업데이트를 통하여 인터넷 전체는 아닐지라도 상당한 분야의 인터넷상의 데이터가 주입되었다고 한다.

 

이 앱이 무료로 공개된 것도 이유가 있다.

사람들이 대화를 하면 할 수록 그 대화 역시 데이터가 되어 이 프로그램 진화에 도움이 되는 것이다.

 

 

 

그러니 요약하자면

최대한 인간처럼 행동하는 프로그램에게 인터넷 엑세스를 주었고

사람들이 자발적으로 이 프로그램의 성장을 돕고 있다는 얘기다.

 

이거 어디서 이미 많이 본 풍경 아니었던가?

 

95e46a25fc3a91b5c1b35a01bc2e88a4_237242.jpg

 

 

 

 

 

실제로 이미 스카이넷으로 가는 판도라의 상자가 열렸다고 우려하는 전문가들부터

그건 아니지만 여러가지 사회 부작용이 우려된다는 전문가들도 있고

인류에게 이로운 ai의 첫 걸음이 시작되었다고 환영하는 전문가까지 있지만

 

모두 공통적인 것은 이 프로그램은 기존의 딥 러닝 프로그램과는 차별화된다는 점이다.

 

 

 

 

 

우선 가장 현실적으로 직면한 문제가 있다.

 

바로 아무나 그럴싸하게 전문가인 척 하기가 너무나 쉬워졌다는 점이다

 

이미 넘처나고 또 너무 빠르게 재생산되는 정보 시대의 덕분에 

박사니 석사니 하는 학위들의 권위가 날이 갈 수록 추락하고 있는 마당이다.

 

 

 

실제로 Covid-19 팬데믹을 겪으면서 

의사학 박사들이라는 인간들이 백신 무용론을 들고 나오질 않나

의사학 박사라는 것들이 사회적 거리두기가 필요 없다고 하질 않나

아니면 반대로

이미 코로나에 걸린 경험이 있는 사람이 새로운 변종 대비가 전혀 안 된 기존 백신을 계속 다시 맞아야 한다고 하질 않나

 

우린 자칭 전문가라는 사람들이 얼마나 엉터리 소리를 할 수 있는지

이 전염병이 창궐했을 때 직접적으로 경험할 수 있었다.

 

c6f82d46dacc8c631f95d6103d77023f_760920.jpg
그저 정치논리만 기반으로 거리두기 방역을 비판하던 의학계 종사자도 많았음

 

 

 

 

문제는 Chat GPT 같은 앱의 도움? 없이도 이런 개소리를 자기 필요에 따라 편집, 재생산 하는 시대인데,

Chat GPT의 등장으로 더욱 그럴싸 한 “아는 척” 을 할 수가 있게 되었다는 점이다.

 

지금 당장도

어떠한 주제로 2500자 에세이를 써달라고 입력하면

꽤 그럴싸한 글이 생성 된다.

 

이것을

“코비드 19과 백신의 무용론을 주제로..” 라고 주문자가 애당초 잘못된 전제로 주문을 해도 결과값은 나온다는 것이다.

 

지금도 약간 그런 기능이 있고 앞으로도 추가될 것이라 하지만

애당초 잘못된 전제로 주문을 하면, 예를들어 위 사례를 대입하자면

 

“백신은 코비드 19같은 질병에 유용합니다. 질문이 잘못되었습니다." 라고 반응을 보일 수 있지만

결국 사용자의 변형된 질문 학습을 통하여

 

“알아, 하지만 만약 무용하다면…” 이라는 전제를 삽입하여 결국 원하는 값을 도출 할 수 있다는 점이다.

 

 

꼭 이런 의도적 “악용”이 아니라도

 

대학수업을 하나도 듣지 않은 학생이 수업을 열심히 듣고 자작한 에세이 보다

Chat GPT를 활용하여 더 월등한 결과값을 낸다면 현재의 고등교육의 평가 시스템 근간 자체를 흔들 수 있다.

 

 

 

 

 

 

그렇다면 당장의 문제보다 인류의 존속이 걸린

속칭 “Chat GPT 스카이넷화" 문제는 어떠한가?

 

일단 그동안 여러가지 문학 작품이나 과학 이론으로 탐구되고 연구되어왔던 “자아”의 접근법 부터 생각해봐야한다.

 

 

 

 

여기 이런 도형이 있다.

 

52b925ebf8a9750a28d4a617db3e92ac_702570.jpg

 

이 도형을 뇌기능의 모듈이라 한다면

 

이 도형이 이렇게 배치가 되었을 때

 

87d79633972f8eff22af930dbc08b5f4_518261.jpg

 

우리는 모듈 여러개 위치와 각도가 바뀐 것만 보는게 아니라

중앙의 네모 도형의 형체를 인식하게 된다.

 

이것이 결국 의식이라고 설명하는 것이

뇌 모듈이론과 의식 번들이론이다.

 

즉, 실체한다고 보기 어렵지만 저 모듈 하나는 기억, 하나는 신체적 감각 등등이라면 결국 그 기관 혹은 모듈이 배치되어 있을 뿐인데 존재하는거 처럼 보이는 저 중앙의 네모와 마찬가지로 “의식”이라고 실체 하는 듯하게 느끼게 한다는 것이다.

 

 

이 이론에 따르면 지금 나의 육체를 분자구조 수준으로 똑같이 복제를 한다면 그 복제된 나 자신 또한 나를 나라고 생각하는 의식을 그대로 가지고 있을 것이라는 예측이다.

 

10009ecafcd88c30d26c9975f29e30d8_210212.jpg
의식 번들이론을 꽤 잘 녹여낸 작품인 원작의 공각기동대

 

뇌 활동을 아무리 스캔해봐도 자의식이 발현되었다 할 만한 구역이나

종교에서 흔히 말하는 “영혼”의 흔적 따위는 발견되지 않았다.

 

과거 사람이 죽는 순간 21그램이 줄어든다며 영혼의 무게는 21그램이라며 책도 내고 심지어 영화도 제작 되었고

지금도 "영혼의 무게" 라고 검색하면 수 많은 사이비들과 유사과학 신봉자들이 이게 마치 과학적으로 증명된 것인냥 떠들어댄 쓰레기들이 넷상에 넘처흐르지만 

 

정작 이 1907년에 이 실험을 한 던컨 의사 자신도 이 실험으로 영혼의 무게가 21그램이라고 단정 짖는 것은 성급한 오류라고 지적하였고

과학계에선 선택 편향, 즉 답정너 실험의 표본으로 거론된다고 한다.

 

ef2a758b8b4ea766589a4949bb47280a_816704.jpg

 

 

그러나 일명 “서프라이즈” 식 팩트는 뒷전인 흥미위주식 방송이나

종교인들, 주로 기독교 중심의 소위 창조과학론자들이 영혼의 증거라며 자주 들먹이는 사례로 악용되고 있다.

 

 

 

 

 

 

그렇다면 “나를 나” 로서 인식하게 만드는 것은 무엇일까?

9b787f4ecbc064d79cffb32c5d2aa5cb_462769.jpg

 

인간의 육체?

 

인간의 육체 조차도 사람에 따라 약간의 차이가 있지만 보통 7년이면 나를 구성하고 있는 모든 구성 물질은 새로운 것으로 교체가 된다고 한다.

그렇다면 사람은 매 7년마다 새로운 의식이 생기냐면 당연히 그렇지 않다.

 

 

 

정리하자면,

 

영혼이라는 것의 존재는 증명이 된 바 전혀 없고

의식조차 현대 과학은 환상이라는 접근에 다다르고 있다.

 

 

 

 

왜 갑자기 이 “의식”에 대한 얘기인가 하면

의식은 생각보다 쉽게 발생 할 수 있다는 결론에 도달하면,

 

 

Chat GPT는 이미 의식발현을 위한 모든 기초적인 조건이 다 충족 되었다는 점이다.

 

물리적 육체만 빼놓는다면 말이다.

 

124774b3b1fa9e524525670b70c7d39e_646673.jpg

 

브렛 웨인스테인 박사 처럼 Chat GPT의 위험성을 경고하는 학자들이 늘어나는 것은 단순히 관종이라서가 아니라

이번 만큼은 좀 다른 딥러닝 프로그램이 등장했기 때문이다.

 

 

 

 

 

많은 SF 작품에서도 인간은 스카이넷 같은 재앙을 창조해 놓고도 자각하지 못하고 당하고 말았다.

사과맛요플레의 최근 게시물

짱공일기장 인기 게시글