AI 이야기 #6 - AI가 잘하는 것과 못하는 것

AI를 오래 곁에 두고 보면 특이한 모양새가 보인다.
어떤 일에는 사람보다 훨씬 더 잘하지만, 조금만 맥락이 바뀌면 어린아이처럼 서툴다.
그 극단적인 능력의 차이가 때로는 경이롭고, 때로는 실망스럽다.

우리는 흔히 “AI가 똑똑하다”라는 말을 쓰지만, 사실 똑똑하다는 건 특정 영역에서만 해당되는 이야기다.
잘하는 것과 못하는 것이 너무 분명하게 갈라져 있는, 이상한 전문가 같은 존재가 바로 지금의 AI다.

AI가 잘하는 건 우선 반복과 계산이다.
인간은 똑같은 사진을 만 번 보여주면 지쳐서 대충 보게 되지만, 기계는 끝까지 똑같은 속도로 처리한다.
숫자 계산도 그렇다. 방대한 데이터를 통계적으로 분석하고, 수천 개의 가능성을 동시에 탐색하는 일은 기계의 무대다.

확률적 패턴을 찾는 데 능숙하기 때문에, 바둑이나 체스처럼 경우의 수가 많은 게임에서는 인간의 직관을 넘어선 수를 던지기도 한다.
인간 두뇌가 초당 몇십 번의 신경 발화를 처리한다면, GPU 위의 기계는 초당 수십억 번의 연산을 거침없이 실행한다.

이 속도의 차이가 곧 능력의 차이다.

또 하나 잘하는 건, 패턴을 기억하고 재활용하는 능력이다.
AI는 데이터에서 패턴을 추출한 뒤, 그 패턴을 새로운 입력에 적용하는 데 주저함이 없다.
의심도 망설임도 없이, 배운 대로 답을 내놓는다.

그래서 추천 시스템은 내가 본 영화와 비슷한 영화를 귀신같이 찾아내고, 번역기는 문장 속 규칙을 재빨리 짚어낸다.
특히 인간이 쉽게 보지 못하는 고차원의 패턴, 예를 들어 주식 시장의 미세한 변동이나 MRI 영상 속 희미한 그림자 같은 것도 집요하게 잡아낸다.
인간은 피곤해지고 주의가 흩어지지만, 기계는 피곤이라는 감정을 모른다.
오직 데이터와 규칙만 따라간다.

그렇지만 AI의 못하는 영역을 들여다보면, 그 무대는 의외로 넓다.
가장 대표적인 건 상식(common sense: 인간이라면 당연하게 여기는 맥락적 지식)이다.

아이에게 “컵을 엎으면 물이 쏟아진다”라고 굳이 설명할 필요가 없지만, 기계에게는 이 단순한 맥락조차 가르치기 힘들다.
학습 데이터에 컵과 물과 엎어진 상황이 충분히 담겨 있지 않으면, AI는 그 인과관계를 모른다.

또 감정의 맥락을 이해하는 데도 약하다.
웃는 사진 속 사람이 반드시 행복한 건 아니고, 눈물이 슬픔만을 의미하지 않는데도, AI는 겉모습 그대로를 해석한다.

창의성 역시 비슷한 맥락이다.
AI가 그림을 그리고 시를 쓰는 걸 보면 대단해 보이지만, 사실은 방대한 데이터에서 본 조각들을 재조합하는 데 가깝다.

새로운 조합을 내놓을 수는 있지만, 그 속에는 의도나 자기 경험이 없다.
인간이 느끼는 “이건 나만의 아이디어야”라는 감각은 AI에게 없다. 기계는 자기 안의 데이터와 확률만을 끌어내기 때문에, 전혀 경험해보지 못한 상황에서는 쉽게 흔들린다.

AI는 또한 맥락 전환이 약하다.
고양이와 개를 구분하던 모델은 번역을 할 수 없고, 번역을 잘하는 모델은 자율주행을 못 한다.

인간이라면 직관적으로 분야를 넘나들 수 있지만, AI는 학습된 영역 밖으로 나가면 아무것도 못 한다.
그래서 우리는 여전히 AI를 “좁은 지능(Narrow Intelligence)”이라 부른다.
잘하는 틀 안에서는 대단히 유능하지만, 한 발짝만 벗어나면 어처구니없는 실수를 저지른다.

더 근본적인 한계는, AI가 자기 자신을 모른다는 점이다.
자신이 틀렸다는 걸 자각하지 못하고, 틀린 답을 내놓으면서도 확신에 차 있다.
이른바 환각(hallucination: 그럴듯하지만 사실은 틀린 답변) 현상이 대표적이다.

인간이라면 모른다고 솔직히 말할 수 있지만, AI는 설계상 “답을 내는 것”이 의무이기 때문에, 틀려도 멈추지 않는다.
이 특성 때문에 우리는 늘 AI의 답변을 검증해야 한다.

결국 AI의 잘하는 점과 못하는 점은 동전의 양면처럼 붙어 있다.
패턴을 잘 찾지만 맥락을 이해하지 못하고, 계산은 빠르지만 의미를 해석하지 못한다.

그래서 AI를 제대로 쓰려면 이 한계를 똑똑히 아는 게 중요하다.
잘하는 일을 맡기면 사람을 능가하지만, 못하는 일을 맡기면 낯설 만큼 허술하다.

나는 가끔 AI를 현미경에 비유한다.
현미경은 눈으로 볼 수 없는 세포와 세균을 정확히 보여준다. 하지만 현미경만 들여다보고 있으면, 방 안에서 무슨 일이 벌어지는지 알 수 없다.

AI도 그렇다. 보통 사람의 눈에는 안 보이는 데이터 속 패턴을 드러내 주지만, 그 패턴을 사회적 맥락이나 인간의 정서와 연결시키는 일은 서툴다.
현미경은 세계를 넓혀주지만, 동시에 시야를 좁힌다.
AI도 그렇게, 우리가 보지 못하는 세상을 보여주면서 동시에 다른 차원의 맹점을 드러낸다.

AI가 잘하는 것과 못하는 것은 결국 우리가 어떻게 함께 살아갈지를 묻는 기준이 된다.
기계가 강한 부분을 인정하고 맡기는 동시에, 약한 부분을 인간이 보완해야 한다.
서로의 장단이 겹치면서 비로소 균형이 만들어진다.

기계의 차가운 능력과 인간의 따뜻한 직관이 서로의 빈틈을 채워갈 때, 그 조합이야말로 진짜 지능의 풍경에 가까울지 모른다.