인공지능 시스템에 대한 수학적인 분석과 한계, 그리고 전망
인공지능 시스템에 대한 수학적인 분석과 한계, 그리고 전망
  • 김덕태 디티웨어 대표
  • 승인 2018.03.07 14:05
  • 댓글 0
이 기사를 공유합니다

인공지능의 정의
지능이란 “지식을 사용하여 문제를 해결하는 능력”이라고 정의할 수 있다. 지나치게 제한된 정의라고 생각될 수도 있지만, 우리 각자의 삶이란 최대 행복 추구라는 커다란 문제를 푸는 과정이라고 볼 수 있으며, 그 과정에서 발생하는 하위 문제들을 푸는 과정의 연속이라고 볼 수 있다. 또한, 우리의 공동체적 삶도 최대 다수의 최대 행복 추구라는 사회의 궁극적 문제를 푸는 과정이라고 볼 수 있다. 따라서, 지능을 “지식을 사용한 문제 해결 능력”으로 정의하는 것으로 충분하다.


몇 줄의 덧셈 프로그램도 지식(덧셈 알고리듬)을 사용하여 덧셈 문제를 해결한다. 모기도 선천적, 후천적 지식을 사용하여 자신의 생존 문제를 해결한다. 지식을 이용하여 문제를 처리하는 모든 존재가 지능이 있다고 말할 수 있다.

 


따라서, 지능은 있느냐, 없느냐의 문제가 아니다. 어느 영역의 문제를 얼마나 잘 해결할 수 있느냐가 중요한 것이다. 따라서, 지능의 평가가 지능의 정의만큼 중요해진다. 지능은 문제 영역(혹은 분포) D의 문제 x에 대한 해결책 solution(x)의 성과의 기댓값으로써 다음과 같이 정의할 수 있다. 성과의 기댓값이므로 능력과 상관없이 우연히 좋은 성과가 나오거나 나쁘게 나오는 요인은 자연스럽게 제거되어 순수한 능력치를 측정할 수 있다.

 

기계학습과 기계추론
앞에서의 인공지능 정의는 광의의 정의, 근본적인 정의로써 적합하다. 그러나, 일반적인 지능의 의미는 높은 지능에 초점이 맞춰져 있고 따라서 문제 해결력이 높아야 한다. 이를 위해서는 환경에 적응해서 환경에 대한 경험이 쌓일수록 더 좋은 성과를 내고 습득한 경험과 지식을 더 효과적으로 활용할 수 있어야 한다. 이 때문에 수많은 인공지능의 정의들을 조사해보면 많은 경우 공통적으로 학습과 추론이 포함된다. 따라서, 지능의 일반적 정의는 “학습과 추론에 의한 문제 해결 능력”으로 다소 좁혀서 정의할 수 있다. 인공지능 기술은 학습에 중점을 둔 기계학습과 추론에 중점을 둔 기계추론 기술로 나누어 볼 수 있다.


Tom M. Mitchell은 “컴퓨터 프로그램이 작업 종류 T와 성능 지표 P에 대하여, 경험 E가 늘수록 성능이 향상될 때 경험 E로부터 학습한다고 말한다”라고 기계학습을 정의하였다. 이는 지능을 어떤 영역(혹은 분포)의 문제들에 대한 해결책의 성과의 기댓값으로 평가하는 관점과 합치한다. 그래서, 기계학습에서 가장 기본적으로 사용되는 성능 지표인 정확도는 테스트 오차로부터 구해지며, 테스트 오차는 일반화 오차의 근사치를 얻기 위한 것이고, 일반화 오차는 데이터의 확률 분포함수를 알고 있다는 가정하에, 그 분포에 따른 예측값과 실제값과의 오차의 기댓값이다.


기계학습의 일반적 정의는 범위를 좀 더 좁혀서 귀납 학습을 의미한다. 즉, 기존 경험이나 데이터를 분석하여 일반적인 규칙을 추출하는 것이다. 그렇기 때문에 경험이 쌓이고 데이터가 쌓일수록 좀 더 잘 맞아 떨어지는 일반적인 규칙을 찾아낼 수 있게 된다.


추론은 “합리적인 수단을 사용하여 전제(혹은, 관찰, 가정)로부터 새로운 결론을 도출해내는 과정”으로 정의된다. 추론의 형태에도 연역 추론, 귀납 추론, 귀추 추론, 유비 추론, 통계적 추론 등 다양한 형태의 추론이 존재하지만, 기계 추론의 일반적인 형태는 연역 추론이다. 이는 논리적으로 확실한 결론을 끌어내는 과정이다.

 

인공지능의 한계
기계학습이든 기계 추론이든 인공지능은 알고리듬으로 구현된다. 따라서, 알고리듬으로 구현될 수 없는 것은 인공지능이 아무리 발전해도 구현될 수 없다.


괴델은 1931년 불완전성 정리를 완성했다. 이 정리에서는 자연수 기초 이론인 페아노 산술만큼 강력한 임의의 형식 이론에서는 결정이 불가능한 참 명제가 존재한다. 즉, 맞는 명제임에도 불구하고 그 명제가 맞다는 것을 자동적으로 검증할 수 있는 알고리듬을 만들 수 없다는 것이다.


프로그램을 짤 때 자주 발생하는 버그 중의 하나가 무한 루프에 빠지는 것이다. 정지 문제란 주어진 프로그램이 주어진 입력에 대하여 유한한 시간 내에 답을 돌려줄 것인지 무한히 실행될 것인지 알아내는 문제이다. 하지만, 놀랍게도 이를 항상 판정할 수 있는 알고리듬은 존재할 수 없다는 것이 증명되었다.


알고리듬이 존재하더라도 처리 가능성 문제가 생긴다. 시간 복잡도가 지수적으로 증가한다면 계산 가능하더라도 너무 오래 걸려서 실제로는 계산 가능하지 않기 때문이다. 많은 인공지능 문제들이 항상 맞는 답 혹은 최적 답안을 내어야 한다면 시간 복잡도가 NP-완전 문제의 시간 복잡도 이상(사실상 지수 시간)인 문제들이다.
또한, 계산 속도는 빛의 속도를 능가하지 못한다. 이미 현대의 컴퓨터는 클럭을 높이는데 한계에 이르렀고 그래서 멀티 코어나 분산 컴퓨팅, GPU 컴퓨팅으로 병렬화를 한다. 그러나, 1965년 발표된 암달의 법칙에 의해 아무리 병렬화해도 병렬화되지 않는 부분에 의한 성능 한계가 존재한다.


기계 학습은 귀납 추론에 기반해 기존의 경험이나 데이터를 더 잘 설명하는 규칙을 찾아내려는 시도일 뿐 찾아낸 규칙이 확실히 맞다 거나 최적이라는 보장이 없다. 아이러니하게도 그렇기 때문에 기존에 알지 못했던 새로운 일반적인 규칙이나 원리를 찾아낼 수 있고, 얼굴 인식과 같이 복잡한 작업을 빠른 시간내에 처리할 수 있다. 이는 인간의 지식 체계에도 동일하게 적용된다. 가령, 고전역학은 이 세상의 모든 물리적 현상을 설명하는 것처럼 보였고 한때 세상 사람들은 절대 진리로 여기기도 했다. 그러나, 이는 상대성 원리에 의해 부정확하다는 것이 드러났고, 그 이후 양자역학에 의해 또다시 부정확하다는 것이 드러났다. 기계학습뿐만 아니라 인류가 오랫동안 쌓아 올린 놀라운 지식 체계들도 결국은 불완전한 귀납 학습에 크게 의존하며, 확실히 맞다는 보장이 없고, 그래서 틀렸었던 것이다. 경험이 쌓일수록 좀 더 세상을 잘 설명할 수 있는 원리를 고안해낼 수 있을 뿐, 우리에게 절대 진리의 보장은 주어지지 않았다.


추론은 논리적으로 확실한 결론을 내리므로 가정이 확실히 맞으면 결론도 확실히 맞다. 그러나, 연역 추론은 새로운 사실, 즉 원리를 만들어내지는 못하며, 확실히 맞는 답안을 제시할 수 있는 문제는 알고리듬의 한계에 걸려 매우 제한적이다.

 

인공지능의 향후 전망

▲[그림 1] S curve
▲[그림 1] S curve
▲[그림 2] Quantum jump
▲[그림 2] Quantum jump
▲[그림 3] Quantum s curve
▲[그림 3] Quantum s curve

레이 커즈와일은 그의 저서 “특이점이 온다”에서 무어의 법칙을 예로 들며 처리 속도가 기하급수적으로 증가했음을 주장하므로 인공지능도 기하급수적으로 증가하며, 초지능적 기계가 자신보다 나은 기계를 설계하는 ‘지능의 폭발’이 발생하고, 이로 인해 인간 스스로가 만들어 낸 기술을 이해하지 못하거나 따라잡지 못하는 지점이 온다고 하였으며 이를 “특이점”이라고 칭하였다.


그러나, 본 연구에서는 이와 같은 주장을 여러 가지 면에서 부정한다. 자연의 성장 곡선은 장기 발전 패턴인 로지스틱 함수이다. 지금까지 모든 기술은 그림 1과 같은 S자 곡선을 따랐다. 인공지능의 뚜렷한 한계들은 발전이 한계에 이르는 S자 곡선이 될 수밖에 없음을 의미한다. 또한, 기존의 인공지능 역사는 어떠한 새로운 기술이 나오면 이를 다양하게 응용하면서 급속히 발전하다가 기술적 벽에 막혀 더 이상 발전하지 못하는 퀀텀 점프 현상을 보여왔다. 그림 2는 이를 설명한다. 본 연구에서는 이 두 가지를 모두 잘 설명할 수 있는 인공지능 발전 패턴으로 그림 3 모양을 제시하며, 현재 시점은 가운데 부분 어디인가에 있다고 본다. 인공지능이 인간 수준의 가치 높은 범용 지능으로 발전하려면 앞으로도 여러 번의 퀀텀 점프가 필요하며, 이는 단순히 처리 속도가 빨라진다고 해결될 문제가 아니다.


인공지능이 발전 한계에 이르기 전에 인간의 지능을 훨씬 더 능가할 가능성도 고려해볼 수 있다. 그러나, 인공지능 기술이 발전할수록 인간은 인공지능을 적극적으로 활용하거나 뇌와 인공지능 보조 프로세서를 연결하여 인간의 지능을 크게 높일 것이기 때문에 인간과 독립적인 인공지능 기술이 인간 지능을 크게 앞지를 것으로 보기 어렵다.


결론적으로, 우수한 인공지능은 어려운 문제들을 적절한 시간 이내에 해결할 수 있어야 하고, 따라서 알고리듬의 한계를 벗어나기 위해서는 항상 맞거나 항상 최적의 답안을 만들어낼 수가 없다. 즉, 불완전할 수밖에 없고 그래서 인간은 인공지능이 제시하는 해답을 검증하거나 최소한 때로는 엉뚱한 답안을 걸러낼 수 있어야 한다. 또한, 인간의 중요한 결정들은 가치 판단에 의존한다. 이러한 부분까지 전부 인공지능이 알아서 판단하도록 맡길 수는 없다. 또한, 인간의 지적 능력은 지속해서 증가한다. 따라서, 미래에는 서로 충돌하는 가치들과 다양한 관점을 종합하는 종합 판단력과 논리적 사고력, 인성, 철학이 더욱더 중요해질 것이다.


(c)김덕태 & (주)디티웨어 <i@deogtae.com>


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.