인공지능의 화려한 껍데기를 벗기면 '수학'이 나온다: 우리가 몰랐던 AI의 진짜 얼굴

1. 서론: 인공지능이라는 거대한 '블랙박스'를 해부하다

 

인공지능(AI)이 일상을 지배하는 시대입니다. 하지만 우리 중 누구도 AI가 실제로 어떻게 생겼는지 본 적은 없습니다. 챗GPT에 질문을 던지면 마법처럼 답이 돌아오니, 대중에게 AI는 그저 복잡한 소스 코드가 얽힌 거대한 '블랙박스' 혹은 신비로운 매직 박스처럼 보일 뿐입니다.

 

하지만 이 화려한 껍데기를 한 꺼풀 벗겨내면, 그 안에는 정교한 톱니바퀴처럼 맞물려 돌아가는 '수학'의 세계가 자리 잡고 있습니다. 카이스트 김정호 교수는 AI를 이해하는 과정을 '줌인(Zoom-in)'과 '줌아웃(Zoom-out)'에 비유합니다. 겉모습만 만지는 '코끼리 다리 만지기'식의 접근이 아니라, 핵심적인 수학적 원리로 줌인할 때 비로소 우리는 AI의 진짜 얼굴을 마주할 수 있습니다.

 

 

2. AI의 심장은 '행렬'과 '벡터'다: 20고개의 예술과 안경의 마법

 

우리가 입력하는 모든 단어, 사진, 영상은 컴퓨터 내부에서 **'벡터(Vector)'**라는 숫자의 뭉치로 변환됩니다. 컴퓨터는 '소년'이라는 단어를 이해하지 못하지만, 이를 좌표 위의 특정 점(숫자들의 모음)으로 표시하면 비로소 인지하기 시작합니다.

 

여기서 핵심은 **'직교성(Orthogonality)'**입니다. 효율적인 AI일수록 서로 간섭하지 않는 독립적인 정보를 조합해 데이터를 표현합니다. 이는 똑똑한 아이와 하는 '20고개'와 같습니다.

 

• 똑똑한 아이: "동물입니까?", "포유류입니까?"처럼 정보가 중복되지 않는 효율적인 질문(직교하는 벡터)을 던집니다.

• 멍청한 아이: "동물입니까?", "털이 있습니까?", "다리가 네 개입니까?"처럼 이미 포함된 정보를 묻는 비효율적인 질문을 던집니다.

이렇게 잘 설계된 데이터(벡터)에 어떤 관점을 투영하느냐를 결정하는 것이 바로 **'행렬(Matrix)'**입니다. 행렬은 일종의 '특수 안경' 혹은 **'필터'**입니다. 똑같은 데이터를 두고도 어떤 행렬(안경)을 곱하느냐에 따라 키를 보기도 하고, 몸무게를 보기도 하며, 이 동물이 고양이인지 호랑이인지 판별해냅니다.

 

"인공지능 뒤에서 돌아가는 수학의 원리... 그게 행렬의 원리를 이용한 것이다."

 

 

3. 엔비디아가 승리한 이유: 40년 전 수학과 GPU의 '운명적 만남'

 

오늘날 엔비디아가 세계를 제패한 것은 우연이 아닌 수학적 필연입니다. AI가 백과사전 한 권 분량을 처리하려면 단어들 사이의 관계를 전부 계산해야 합니다. 만약 단어가 100만 개라면, 100만 곱하기 100만 사이즈의 거대한 행렬이 만들어집니다. 이를 처리하려면 한 번에 **1조 바이트(1TB)**급의 연산이 필요합니다.

 

과거의 CPU는 천재 한 명이 문제를 순서대로 푸는 구조라 이 거대한 행렬을 감당하기 벅찼습니다. 반면 GPU는 수만 명의 평범한 계산원이 동시에 달려들어 문제를 푸는 '병렬 컴퓨팅'에 특화되어 있었죠. 수천 년 전부터 존재했던 행렬이라는 수학이, 마침 병렬 계산에 능한 GPU라는 몸을 만나 불꽃을 일으킨 것입니다.

 

여기서 **HBM(고대역폭 메모리)**이 필수적인 이유도 명확합니다. 아무리 GPU 코어라는 100명의 계산 천재가 동시에 계산을 마쳐도, 그 결과를 적어낼 종이(메모리)가 한 장뿐이라 순서를 기다려야 한다면 전체 속도는 느려질 수밖에 없습니다. 이 병목 현상을 해결하기 위해 데이터를 동시에 쏟아붓는 통로가 바로 HBM입니다.

 

"뒷단에서 돌아가는 수학이 하필 행렬이라서, 운명적으로 행렬이라서" 엔비디아와 HBM의 시대가 열린 셈입니다.

 

 

4. AI는 '근면성실한 바보'다: 무식함이 만들어낸 확률적 천재성

 

우리는 AI가 인간처럼 깊이 고뇌한다고 믿고 싶어 하지만, 사실 AI는 지극히 단순 반복에 의존하는 '근면성실한 바보'에 가깝습니다. AI가 문장을 만드는 과정은 인간의 직관과는 거리가 멉니다.

 

예를 들어 "아빠가 놓고 가신 물건"이 무엇인지 맞힐 때, AI는 모든 단어를 행렬로 곱해봅니다.

• "아빠 + 호랑이?" (확률 낮음)

• "아빠 + 통조림?" (확률 낮음)

• "아빠 + 손수건?" (확률 높음!)

 

AI는 이 무식한 대입 과정을 초고속으로 반복하며 가장 1에 가까운 확률을 골라낼 뿐입니다. 인간은 빵 하나만 먹고도 직관적으로 답을 찾지만, AI는 수만 대의 반도체가 엄청난 전기를 먹으며 24시간 내내 행렬을 곱해서 겨우 답을 흉내 냅니다.

"되게 단순 반복을 반복하는 거예요. 엄청난 수학도 아니다... 열일하는 거는 반도체고."

 

 

5. 틀렸다면 '미분'하라: AI가 실수를 바로잡는 길잡이

 

AI가 학습을 통해 똑똑해지는 과정(역전파, Backpropagation)의 주인공은 **'미분'**입니다. AI가 내놓은 답이 정답과 다를 때, 그 오차를 줄여나가는 '눈'의 역할을 미분이 수행합니다.

 

학습은 오차라는 이름의 포물선 골짜기에서 가장 낮은 바닥(오차가 0인 지점)을 찾아가는 여정입니다. 이때 미분은 AI에게 "지금 기울기가 플러스니 왼쪽으로 가라", "마이너스니 오른쪽으로 가라"고 말해주는 가이드가 됩니다. 미분이라는 도구가 없다면 AI는 암흑 속에서 어디로 움직여야 할지 모르는 장님과 다를 바 없습니다. 우리가 고등학교 때 배운 미분은 사실 AI가 진실을 향해 나아가게 하는 가장 실용적인 나침반이었던 것입니다.

 

 

6. 결론: 수학이라는 언어로 AI 시대를 항해하는 법

 

인공지능의 실체는 거대한 지능이 아니라, 행렬과 미분이라는 견고한 수학적 토대 위에서 쉼 없이 돌아가는 계산의 집합체입니다. 컴퓨터가 인간보다 압도적으로 잘하는 '단순 반복과 행렬 계산'의 영역을 이해한다면, 우리는 더 이상 AI를 막연한 공포의 대상으로 볼 필요가 없습니다.

 

오히려 우리는 컴퓨터가 흉내 낼 수 없는 인간 고유의 가치에 집중해야 합니다. 바로 '소통'과 '질문'의 가치입니다. AI는 정해진 확률 안에서 답을 찾지만, 새로운 방향을 제시하고 의미 있는 질문을 던지는 것은 오직 인간만이 할 수 있는 영역이기 때문입니다.

 

수학은 자연과의 대화이고, 코딩은 컴퓨터와의 대화입니다. 당신은 인공지능이라는 이 거대하고도 성실한 계산기 앞에서, 어떤 질문과 언어로 대화를 시작하시겠습니까? 수학이라는 지도를 들고 AI 시대라는 바다를 항해할 준비가 되었는지 스스로에게 물어볼 때입니다.