AI가 닿을 수 없는 인간의 세렌디피티(Serendipity)

지금 우리가 사는 시대는 ‘최적화(Optimization)’의 시대입니다. 단순한 공학적 용어를 넘어, 현대 문명을 지배하는 그런 개념입니다. 아침에 눈을 뜨는 순간부터 잠들 때까지, 우리는 보이지 않는 알고리즘의 안내를 받으며 살아갑니다. 스마트폰 내비게이션은 출근길의 교통 체증을 피해 가장 빠른 경로를 붉은 선으로 그려주고, 유튜브의 추천 알고리즘은 내가 무엇을 보고 싶어 하는지 나보다 더 빨리 파악하여 화면 가득 영상을 띄워줍니다.

이 모든 시스템의 목표는 단 하나, 바로 ‘낭비의 제거’입니다. 시간의 낭비, 비용의 낭비, 그리고 무엇보다 ‘고민’이라는 정신적 에너지의 낭비를 없애는 것입니다. AI는 이 효율성의 정점에 서 있는 도구입니다.

AI에게 있어 이상적인 세계란 무엇일까요? 그것은 출발점에서 목표점까지를 잇는 수만 가지 경로 중, 오차(Error)가 가장 적고 비용(Cost)이 가장 낮은 단 하나의 ‘직선’만이 존재하는 세계가 아닐까요….. 어쩌면, AI 세계에서 직선은 선(善)이며, 구불구불한 곡선이나 막다른 길은 시스템의 실패이자 제거해야 할 노이즈(Noise)에 불과할 수 있습니다.

하지만 여기, 우리가 잊고 있는 아주 중요한 사실이 하나 있습니다. 인류 역사를 통틀어 문명을 비약적으로 발전시킨 위대한 발견들은, 결코 매끈하게 닦인 고속도로 위에서 탄생하지 않았다는 점입니다. 대부분 길을 잃고 헤매다가, 혹은 실수로 발을 헛디딘 진흙탕(?) 속에서 태어났습니다.

기술적으로 볼 때, 인공지능의 학습은 ‘손실 함수(Loss Function)’를 최소화하는 과정입니다. 딥러닝 모델은 학습 과정에서 정답과 예측값 사이의 오차를 줄이기 위해, 산 정상에서 골짜기 바닥을 찾아 내려가듯 파라미터를 조정합니다. 이를 ‘경사하강법(Gradient Descent)’이라고 부릅니다. 이 알고리즘의 핵심은 가장 가파른 경사를 찾아, 가장 빠르게 가장 낮은 지점(Global Minima)에 도달하는 것입니다.

AI는 매 순간 계산합니다. “어디로 가야 정답에 0.0001%라도 더 가까워지는가?” 그렇기에 AI에게 ‘삼천포로 빠진다’는 것은 손실 값이 커지는 최악의 상황을 의미합니다. AI에게 엉뚱함이란 교정되어야 할 버그(Bug)이자 실패한 학습의 증거일 겁니다,

그러나 우리 인간의 역사를 돌아보면 조금 이야기는 달라집니다. 인간은 끊임없이 최적 경로에서 이탈했고(그게 매력……), 바로 그 이탈한 지점에서 보물을 주워 돌아왔습니다. 우리는 이것을 세렌디피티(Serendipity), 즉 ‘완전한 우연으로부터 얻은 중대한 발견’이라 부릅니다. (세렌디피티 하면, 영화에서 5달러 지폐에서 연락처를 발견하는 장면이 떠오르긴 하지만….)

1928년, 알렉산더 플레밍의 연구실을 떠올려 보죠. 휴가를 떠나며 배양 접시 뚜껑을 닫지 않은 것은 명백한 실수였고, 직무 태만이었습니다. 만약 AI가 실험을 수행했다면, 이 상황을 ‘데이터 오염(Data Corruption)’으로 분류하고 즉시 해당 샘플을 폐기 처분했을 것입니다. 오염된 배양 접시는 학습에 방해가 되는 노이즈이기 때문입니다.

하지만 인간적인(?) 플레밍은 그 오염된 혼돈 속에서 기묘한 패턴을 읽어냈습니다. “재미있군(That’s funny).” 그가 내뱉은 이 한마디는 인류를 감염병의 공포에서 구원한 페니실린의 발견으로 이어졌습니다. 이것이 바로 인간과 AI의 결정적인 차이입니다. AI는 오차를 줄이려 하지만, 인간은 오차 속에서 새로운 의미를 발견합니다.

그러면, AI에게도 무작위성(Randomness)을 부여하면 되지 않을까요?

실제로 LLM과 같은 생성형 AI에는 Temperature라는 하이퍼파라미터가 존재합니다. 저도 올라마를 통해 많이 활용하곤 합니다. 이 값을 0에 가깝게 설정하면 AI는 가장 확률이 높은 단어(Token)만을 선택하여 일관되지만 뻔한 대답을 합니다. 반대로 이 값을 1 이상으로 높이면, AI는 꽤 엉뚱하고 창의적으로 보이는 문장을 생성해 냅니다. 할루시네이션 또는 창의성이죠.

하지만 이건 진정한 의미의 ‘창의성’이라기보다는 ‘계산된 난수의 나열’에 가깝습니다. AI의 엉뚱함과 인간의 엉뚱함 사이에는 건널 수 없는 강이 존재합니다. 그 강의 이름은 바로 욕망과 Embody 입니다.

우리 인간이 딴짓을 하는 근본적인 원인은 우리의 신체와 감정에 있습니다. 우리는 기계와 달리 지칠 줄 모르는 배터리가 없습니다. 우리는 지루함을 느낍니다. 반복되는 작업에 싫증을 느끼고, 꽉 짜인 시스템에 반항하고 싶어 하며, 때로는 너무 피곤해서 무의식중에 실수를 저지릅니다.

“이거 계속하니까 너무 지겨운네, 그냥 대충 섞어보면 안 될까?”, “하지 말라고? 그럼 더 해보고 싶은데?”

이런 지극히 인간적이고 비효율적인 감정들이 우리를 정해진 경로에서 이탈하게 만듭니다. 반면 AI는 지루함을 느끼지 않습니다. AI에게는 “이 계산은 너무 지겨우니까 다른 걸 해볼까?”라는 내적 동기가 없습니다. AI가 내놓는 엉뚱한 답은 확률 통계의 끝자락에 있는 데이터를 선택한 결과일 뿐, 그 이탈을 통해 어떤 쾌감이나 해방감을 느끼지 않습니다. 욕망이 없는 존재에게 ‘일탈’은 그저 또 다른 형태의 연산일 뿐일 겁니다.

더 결정적인 차이는 ‘결과를 해석하는 능력’에 있습니다. AI 기술의 핵심 중 하나는 RLHF 입니다. 이는 AI가 내놓은 대답에 대해 인간이 “좋아요” 혹은 “나빠요”라고 점수를 매겨, AI가 인간이 선호하는 방향으로 행동하도록 훈련시키는 과정입니다.

문제는 여기서 발생합니다. AI는 스스로 무엇이 가치 있는 실수인지 판단하지 못합니다. 오직 인간이 보상을 줘야만 그것이 가치 있다고 학습합니다. 물론, 앞으로는 자기보상형, 자기진화형이 등장하겠지만 아직은 주류는 인간의 보상입니다.

포스트잇의 사례를 봅시다. 3M의 연구원 스펜서 실버는 강력 접착제를 만들려다 실패하여 ‘잘 떨어지는 접착제’를 만들었습니다. 접착제의 본질은 ‘붙는 것’입니다. 그러니 잘 떨어지는 접착제는 목적 함수(Objective Function)의 관점에서 보면 완벽한 실패작이자 마이너스 점수를 받아야 할 대상입니다. 만약 AI가 스스로 학습했다면, 이 결과물은 가중치 업데이트 과정에서 ‘성능 미달’로 폐기되었을 것입니다.

하지만 역시나 인간적인(?) 아서 프라이는 그 실패작을 보고 자신의 경험(찬송가 페이지 표시)을 연결해 ‘떼었다 붙였다 할 수 있는 메모지’라는 새로운 가치를 발견했습니다. 이게 인간 지성의 핵심입니다. 인간은 의도한 정답을 찾지 못했을 때 좌절하는 대신, 우연히 마주친 오답을 새로운 정답으로 바꿔버리는 유연성을 지녔습니다. (물론 좋게보면….)

“삼천포로 빠졌는데, 여기가 원래 목적지보다 경치가 더 좋네? 그럼 여기를 목적지로 하자!”

라고 선언할 수 있는 뻔뻔함과 직관. 이런건 데이터의 정합성을 따지는 알고리즘은 결코 흉내 낼 수 없는 영역입니다. AI에게 실수는 데이터 손실(Loss)이지만, 인간에게 실수는 새로운 차원으로 이동하는 포털(Portal)일 수도 있는겁니다.

——

AI가 고도화될수록 세상은 점점 더 매끄러워질 것입니다. 모든 불확실성은 제거되고, 비효율은 멸균처리 되서 사라지고, 어쩔때는 질문을 던지기도 전에 최적의 정답을 받게 될 것입니다. 실패할 확률이 0%에 수렴하는 세상. 그것은 유토피아처럼 보이지만, 사실은 끔찍하게 지루한 디스토피아일지도 모릅니다.

완벽한 자율주행 자동차는 목적지까지 가장 안전하고 빠르게 우리를 데려다줄 것입니다. 하지만 그 완벽한 주행 속에서 길을 잘못 들어 우연히 발견한 낯선 해변의 노을을 볼 기회를 영영 잃게 됩니다. 내비게이션이 가리키지 않는 어디 산골의 허름한 노포 식당에서 인생의 맛을 찾는 기쁨도 사라질 수도 있습니다.

어떻게 보면, 진짜 대발명은 효율적인 고속도로가 아니라, 길을 잃고 헤매던 덤불 숲속에서 일어나기도 합니다. 우리가 AI보다 우월할 수 있는 유일한 지점은, 역설적이게도 우리의 ‘불완전함’ 속에 있습니다.

그래서, 뭐 아직인 인공지능이 인간을 넘어서거나 대체하기가 만만치 않고, 안심하고 있는 이유가 저는 바로 ‘인간의 엉뚱함’ 에 있다고 생각합니다.

우리는 더 적극적으로, 더 치열하게 엉뚱해져야 합니다.

AI가 확률적으로 가장 높은 정답을 내놓을 때, 우리는 질문 자체를 비틀어야 합니다.

AI가 최단 거리를 그릴 때, 우리는 일부러 둘러가는 길을 택해야 합니다.

AI가 완벽한 논리를 들이밀 때, 우리는 말도 안 되는 농담을 던져야 합니다.

우리는 계속해서 삼천포로 빠져야 합니다.

그 낭비와 잉여, 비효율과 오차의 틈새야말로 알고리즘이 결코 계산해 낼 수 없는, 인간성 또는 창의성이라는 이름의 꽃이 피어나는 유일한 땅이기 때문입니다

좀더 낭만적으로 얘기하자면,

인공지능이 답을 내는 기계라면, 인간은 질문을 품고 길을 잃는 여행자입니다. 그리고 위대한 발견과 발명은 언제나, 길을 잃은 자들의 몫이었습니다.

(라고…위안을 삼습니다. 인공지능 너무 빠릅니다. ㅠㅠ)