인공지능은 어떤 ‘존재‘가 될 것 인가?

불과 올해 초에만해도 챗 지피티의 답에 오류가 꽤 많다고 느껴졌다.
그런데 요즘의 지피티 대답에는 오류가 정말 많이 줄었다.
사실 단순 인터넷 검색 만으로 나오는 정보에도 거짓 정보가 많기 때문에,
조금 있을 수 있는 챗지피티의 오류는 그에 비하면 귀여운 수준같다.
(그럼에도 100% 신뢰할 수 없으니 더블 체크는 필요하다.)

출처: Unsplash

아니, 그런데 어떠면 무서운 수준일지 모른다.
특히 최근 챗지피티 어플 음성 기능을 통해 영어 회화 공부를 시작했는데,
모국어가 아닌 영어로 대화하다보니 그 미묘한 차이를 알아채기 힘들어서 사람과 대화하는 기분이 들었다. 
(한국어로 대화할 땐 그 정석적인 목소리와 발음, 말투에 이질감이 느껴지지만)
 
또 동시에 채팅을 통해 챗지피티와 대화할 때에는 어딘지 모르게 불편함이 느껴지는데,
내가 이 AI를 어떻게 대해야 하는가에 대한 마음이 든다는 것이다.
사람에게 말하는 어투로 질문을 던지지만, 동시에 명령하듯이 말한다는 것에서 마음 속 어딘가 상반된 불편함이 올라오는 것이다.
마치 내가 어떠한 타인을 무례하게 대하는 것 같은거다.
그런데 그 불편함을 느끼는 것조차, 내가 AI를 무의식중 의인화한다는 증거일 것이다.
구글에 검색할 때에는 전혀 느끼지 않았던 감정이다.

출처: Unsplash

인공지능에게 감정이 필요한가?

SF 영화의 단골 주제, 인공지능 로봇이 사람과 함께 어울려 사는 모습,
혹은 사람인줄 알았는데 알고보니 로봇이었다던가 하는 이야기들.
그런 주제들이 2022년도 초기만 해도 완전히 먼 미래의 모습이었는데,
거의 2023년도를 기점으로 상황이 완전히 바뀌었다.
일순간에 코 앞으로 다가와버린 것이다.
 
인공지능 로봇이 언젠가 인간과 구별이 어려울 정도의 어떤 존재가 될 수 있을까?
우리가 인간과 로봇의 가장 큰 차이로 받아들이는 것은 주로 '감정'일 것이다.
로봇은 감정이 없고, 감정을 느낄 수 없다는 사실.
그러면 로봇이 인간와 비슷해지기 위해서는 감정을 느끼고 감정을 표현하는 존재가 되어야 할까?

출처: Unsplash

그런데, AI는 감정이 있어야 인간이 된다는 생각 자체가, 인간적이다.
이런 생각조차 인간이니까 하는 생각일 것이며,
인간 생각의 범위에서 생각했을 때의 생각이다.
 
왜, 로봇이 감정을 가져야 하는가? 없어도 문제가 없는데.
(물론 인간과 상호작용을 하기 위해서는 인간의 감정을 캐치할 수 있어야겠지만, 그와 로봇이 감정을 갖는 것은 별개의 문제같다.)
인간에게 있어 감정이 필요한 이유, 그러니까 감정의 기능과 인간의 생존이 상관관계가 있는데,
인공지능의 생존에는 그런 감정의 기능이 필요하지 않을 것 같다.
인간은 유한한 뇌를 통해 생존해야하지만,
인공지능의 데이터 용량은 인간 뇌 용량과 비교할 수 없이 크기 때문이다.
 

인간 감정의 기능

인간이 감정을 갖는 이유는 생존과 번식에 유리한 적응 메커니즘으로 발전했기 때문이다.
감정이 태깅된 기억은 오래 남는다.
중요한 경험을 더 잘 기억하게 함으로써 학습을 촉진하는 역할을 한다.
공포나 좋음과 같은 감정이 태깅된 경험의 기억은 유사한 상황에 발생했을 때 생존 확률을 높여준다.
 
뿐만 아니라, 사랑과 애착의 감정은 번식을 위해 반려자에 대한 선호의 감정,
혹은 자원을 투자할 헌신을 보여줄 증표로서 사랑의 감정을 갖게 될 수 있다.
 
또 사회적으로는, 신뢰할 만한 타인에 대한 선호, 그렇지 않은 타인에 대한 비선호 감정 또한
수렵-채집 사회에서 생존을 위해 필요한 요소였다.
 

AI의 방식

AI는 감정이 있어야 인간처럼 행동할 수 있다는 생각 자체가, 인간적인 생각이 아닐까?
 
이처럼 인간은 생존을 위해, 생존과 번식의 확률을 높이는 매커니즘으로서 감정이 필요했다.
예를 들어, 내가 지금 놓인 상황이 위험한 상황인지 빠르게 판단하기 위해 과거에 감정이 태깅된 기억을 판단의 기준으로 삼을 수 있다.
만약 AI가 놓인 이 상황이 위험한 상황인지 판단하기 위해서는 그럼 어떻게 해야할까?
그런데 여기서 중요한 점은, 그 방식이 꼭 인간과 같을 필요가 없다는 것이다.
감정 자체가 필요한 것이 아니라, 감정의 기능을 할 수 있는 요소가 있으면 문제가 없는것이다.
 
AI는 감정이 없어도, 이전에 위협에 빠졌던 기억을 강화하지 않아도,
한정적인 인간 뇌의 용량보다 담을 수 있는 데이터 용량이 훨씬 크기 때문에 그런 기능이 필요하지 않을 것 같다.
 

Chat GPT와의 대화

내가 다음과 같이 질문했다.

일단 사람은 특정 상황에서 기억을 강화하는데에 감정에 큰 의의가 있어.
예를 들면, 위험한 상황을 판단해야 할수도 있으니까.

근데, 만약 AI가 인간과 유사해지려면 위험한 상황을 판단해야 하잖아.
근데 AI는 감정이 없어도, 그러니까 감정을 통해 이전에 위협에 빠졌던 기억을 강화하지 않아도,
한정적인 인간 뇌의 용량보다 담을 수 있는 데이터 용량이 훨씬 많으니까 사실 그런 기능이 필요하지 않을 것 같아.
AI는 감정이 있어야 인간이 된다는 생각 자체가, 인간적인가?

 
지피티의 답변은 매우 길었지만, 마지막 말은 다음과 같았다.

따라서, AI가 감정을 가져야만 인간처럼 될 수 있다는 생각은 인간적이지만, AI는 감정 없이도 독립적으로 존재할 수 있는 완전히 다른 유형의 존재로 발전할 가능성이 높습니다.😊

 
맞는 말 갖기는 한데, '완전히 다른 유형의 존재'라는 말이 왜인지 두렵다.
마지막 웃음 이모티콘도 무섭다.
아마 AI의 작동 구조를 명확히 알지 못하는 것에서 오는 두려움이겠지?