2016/03/11 09:03

컴퓨터의 능력 Views by Engineer

  심리, 감정; 사람이 만들 수 있을까(2007년 12월)

  워낙 극적인 순간이라 재탕도 괜찮을 듯.  8년이 넘었으니까.

  "어느 순간부터인가, 컴퓨터가 우리를 놀라게 하기 시작했습니다. 처음에 우리는 계산에 필요한 변수들을 일일이 손으로 입력하면서 작업을 했기 때문에 어떤 상황에서든 컴퓨터의 모든 동작을 미리 예견할 수 있었습니다. 그런데 갑자기 컴퓨터가 체스를 두는 로봇처럼 혼자서 돌아가기 시작했습니다. 컴퓨터는 자신이 '학습했던' 모든 방법들을 하나씩 적용해 나가면서 계산을 했고, 어떤 때는 사람보다도 현명한 판단을 내리곤 했습니다. 그 이후로 우리는 계산을 어떻게 진행해야 할지 컴퓨터에게 배우는 신세가 되었습니다. 어떤 면에서 볼 때 컴퓨터는 계산 능력뿐만 아니라 지적인 능력까지도 자신의 창조주인 인간을 능가하고 있었습니다."

-
사이먼 싱'페르마의 마지막 정리(Fermat's last theorem)', 박병철 역, 영림카디널, p.368

(100년 이상 수학계에서 해결되지 않던 문제였던
'4색 문제'(four-color problem)를 대형 컴퓨터를 1200 시간 이상 돌려서 해결한 수학자 Kenneth Appel과 Wolfgang Haken의 말)

   
  사실 여기서 흥미있는 것은 동료 수학자들의 반응이다.

 

  ... 그러나 이와 동시에 수학계는 무언가 불편한 마음을 떨쳐버릴 수가 없었다.  인간의 손으로는 컴퓨터의 증명을 검증할 방법이 전혀 없기 때문이었다.
  이들의 증명 결과가 'Illinois journal of mathematics'라는 학술지에 발표되기 전에, 학술지의 편집인들은 논문의 타당성을 자세하게 검증해야만 했다.  사람의 손이나 머리만으로는 검증이 불가능했으므로 그들은 하켄과 아벨의 프로그램을 다른 컴퓨터에서 실행하여 같은 결과가 나오는지를 확인하기로 했다.
  일부 수학자들은 컴퓨터가 실행한 계산을 컴퓨터가 검증하게 하는 것이 어불성설이라며 강력한 반대 의사를 표명했다.  컴퓨터의 심장부에 순간적인 과전류가 조금만 흘러도 논리상의 오류가 발생될 수 있다는 것이 그들의 주장이었다...

  수학자인 로널드 그레이엄(Ronald Graham)은 아직 증명되지는 않았지만 수학계에서 매우 중요하게 취급되고 있는 리만의 가설을 예로 들면서 컴퓨터를 이용한 증명은 신뢰하기 어렵다고 강조했다.  "리만의 가설이 맞는 것인지 컴퓨터에게 물어보았다고 합시다.  그런데 컴퓨터가 '네, 맞습니다.  그런데 그 이유를 설명한다 해도 당신은 이해하지 못할 겁니다.'라고 대답했다면 이 얼마나 황당하고 기죽는 일이겠습니까?"

- Ibid., p.369 & 372

   
   그런데 컴퓨터와 프로그램이 내놓는 결과를 사람이 예측하지 못하는 경우는 지금도 생각보다 매우 많다.  몇 번 써 먹었지만, Lotka-Volterra equation이 주는 결과를 예상할 수 있는 사람은 없다(아이추판다님의
좋은 설명).
 


  진짜 문제가 될 만한 것이라면, 컴퓨터가 실수를 할 때 - 원인이 하드웨어건 소프트웨어건 말이다 - 사람이 그를 가려낼 수가 없단 점이다.  어제의 알파고-이세돌 2국에서 알파고가 선택한 '프로라면 절대 두지 않는 수'가 실수인지 아닌지 프로들마저 확신을 갖지 못했다.  넓게 보아 위 수학자의 말처럼 컴퓨터가 내린 판단을 사람이 이해하지 못하거나, 잘못 이해할 가능성은 얼마든지 있다.  이런 가능성은 소설이긴 하지만 이미 1969년에 마이클 크라이튼이 'The Andromeda strain'에서 지나가는 투로 던져 놓았다(물론 더 전에 누가 암시했을 수도 있다.  내가 본 것 중 그것이 제일 빠를 뿐이다).

  사람의 입장에서 보면 기계에 맞서 인간의 역할을 바꾸는 일은 계속 있었다; 넓게 보면 산업 혁명 때부터 그렇고, 지금은 변화 속도가 더더욱 빠르다.  나는 내가 하고 있는 일이 컴퓨터에게 잠식당하지 않기를 바라는 것 말고는 할 수 있는 것이 별로 없고 그게 걱정이다.

  漁夫

  ps. 세계 챔피언이 진 이래, 이미 체스는 그렇게 된지 오래다.  아이폰에서 돌아가는 앱마저 사람을 능가한다(link).
 


핑백

덧글

  • 일화 2016/03/11 09:13 # 답글

    좋은 글 잘 봤습니다. 컴퓨터를 컴퓨터로 증명하는 것은 피할 수 없는 일로 보이고, 언젠가는 자연스러운 일이 될 수도 있을 듯 싶네요. 물론 그전에 안전성 문제가 해결되어야 하겠지만요.
  • 漁夫 2016/03/12 11:03 #

    심지어는 수학계에서도 중요한 문제 중 하나인 리만 zeta function의 성질을 이해하려는 데 컴퓨터를 동원하고는 있습니다. 이것은 (여기엔 인용하진 않았습니다만) 오작동이나 버그 문제도 어느 정도는 염려가 줄었다는 것이지요.
  • 위장효과 2016/03/11 09:35 # 답글

    이번 제 2국과 관련해서 홍차도둑님과 Kael님이 훌륭한 포스팅을 남기셨는데 한 번 참고해시기 바랍니다.

    그분들 멘트중에 기레기까는 것도 있어요. "프로기사도 생각못할..."운운이야말로 진짜 뭣도 모르고 한 소리라고.
  • 漁夫 2016/03/12 11:05 #

    네, 저도 두 포스팅을 봤는데, 기레기들의 말하곤 별개로 프로그램들이 더 세련되면 사람이 실력을 평가하기는 무리가 될 수 있습니다. 사실 체스를 보면 그런 날이 생각보다 그리 멀지 않았음을 암시하죠.
  • RuBisCO 2016/03/11 09:53 # 답글

    해당 영상은 설정값 책정의 실수로 인해서 생기는 현상 같군요.
  • 漁夫 2016/03/12 11:07 #

    시뮬레이션은 초기 입력값의 범위에 따라 '말이 되는 결과를 주는' 영역과 그렇지 않은 영역으로 갈라지는데, 많은 경우 수치 계산을 해 보지 않으면 사람이 수백 세대 앞을 예상하기란 무립니다...
  • 그게 2016/03/12 14:16 # 삭제

    시뮬레이션의 초기 입력값에 대해 수백 세대 후를 계산하여 예측하는 것은 인간은 할 수 없는 일입니다. 마치 수십억만 자리 숫자들끼리 곱하라고 하면 사실상 불가능한 것과 같은 이치지요. 수학자들은 그런 단순 계산을 하는게 아니라, 어떨 때 그런 현상이 발생하는지에 대한 근본적인 이유를 연구합니다. 사실 로트카-볼테라 방정식의 근사해들이야 인간이 아주아주 오래 살고 기력이 충분하다면 아주 충분한 시간을 들여 손으로 계산하여 얻어낼 수 있습니다. 단지 그런 미친 짓을 안할 뿐이지요. 컴퓨터가 훨씬 더 빨리 계산해낼 뿐이거든요.

    예를 들어 아주 복잡한 고차 다항식 방정식이 주어졌을 때 그 방정식을 손으로 풀어내는 것은 일반적으로 매우 어려운 일입니다만, 그 방정식의 해가 갖는 근본적인 성질을 분석해낼 수 있는 갈루아 이론 같은 것들은, 낱개의 방정식의 풀이에 목메다는 것이 아니라, 다항식 방정식 갖고 있는 성질들을 분석해 낼 수 있는 새로운 도구, 이론을 제공해 줍니다. 그 이론을 바탕으로 구체적인 계산을 해 내는 것은 또 다른 문제입니다만.
  • RuBisCO 2016/03/12 16:11 #

    아 링크를 자세히 봤더니 수백세대 진행했더니 갑자기 뜬금없이 전멸한거군요. 확실히 그러면 사람이 쉬이 생각해볼 수 있는 영역을 넘어서죠.
  • 漁夫 2016/03/12 19:06 #

    이건 단순한 시뮬레이션에 불과하지만, 리만 제타함수 같은 것은 그 성질을 컴퓨터로 연구하고, 결과를 수학자들이 연구에 반영하고 하더군요. 계산량이 너무 엄청나서 (...) 통상적으로는 도저히 안 되거든요. 와일즈가 페르마 대정리를 증명하기 전에도 컴퓨터를 사용하여 대략 n이 수백만 정도 이하에서 성립한다는 것은 이미 나와 있었다고 합니다.
  • 새벽안개 2016/03/11 10:02 # 답글

    소오오오오름! 이번 알파고는 너무나도 인간적이고 창의적이라서 정말 놀랍습니다. 특히 컴퓨터가 잘 따라하지 못할거라고 생각했던 모양에 의한 유불리의 가치판단과 같은 직관적 문제해결에 큰 진보가 있었다 생각됩니다. 마찬가지 원리로 가치판단에 적용한 방법을 컴퓨터의 감정에 연결시키는 것도 시간문제가 아닐까요?
  • 漁夫 2016/03/12 11:10 #

    현대의 computational theory of mind(ToM) 이론의 기본이 '인간의 마음은 계산이다'란 것이니, 데이터만 충분하다면 인간의 판단을 따라잡는 것도 불가능하진 않죠.

    '감정'은 전 약간 다르다고 보는데, 컴퓨터가 인간의 마음과 감정을 똑같이 가지려면 좀 귀찮은 조건이 - 인간의 감정은 자연 선택으로 다듬어진 거라서요. 컴퓨터는 이런 환경에 노출되지 않지 않습니까 ㅎㅎ
  • 긁적 2016/03/11 10:07 # 답글

    컴퓨터가 실수를 한다 쳐도 사람보다 더 좋은 성과를 내면 충분하지 않겠습니까 :)
    다만 현재 상황에서 컴퓨터는 이유를 제시할 능력이 없지요. 그냥 이 경우 저 경우 다 따져보는 것이지......
    그런 측면에서 컴퓨터의 정답이 있다 하더라도 더 좋은 정답을 이끌어낼 수 없다는 게 가장 큰 단점으로 보입니다.
  • 漁夫 2016/03/12 11:14 #

    네 ㅎㅎ 더 좋은 성과 내면 된다는 말씀은 맞는데, 문제는 그게 정말 될지 아닐지 사람이 확신을 못 갖는 수도 있어요. 이건 그리 단순한 문제는 아닙니다.

    반면 컴퓨터가 사람보다 나은 점이라면, 바둑에서 보듯이 사람은 일정한 범위 내에서 '국소영역 최선(local optimum)'을 주로 구합니다. 반면 컴퓨터는 훨씬 빨리 계산을 할 수 있기 때문에 전체적으로 조망이 가능하죠(global optimum). 전 S/W의 진보에 따라 후자에 매우 가까운 solution을 얻어내는 것도 이제 시야에 들어오고 있다고 추측합니다.
  • 인공신경망 2017/06/07 13:36 # 삭제

    인공신경망이 찾는 최적값은 대부분 local optimum 입니다. global을 찾으려는 시도가 많지만, 아직 제대로 된 방법이 없습니다.
  • 漁夫 2017/06/08 00:18 #

    인공신경망 님 / 그래서 이번 알파고의 알고리듬이 궁금합니다. 정말 훨씬 넓은 범위의 optimum을 찾았는지가 궁금하네요...
  • 키르난 2016/03/11 10:48 # 답글

    이번에 알파고가 모두 다 이기든 아니면 한 판은 내주든 간에..... 컴퓨터 인공지능의 무서움을 극단적으로 (SF소설을 들어) 예시하며 목소리를 높일 사람들이 나오지 않을까 하는 생각이 들었습니다.=ㅅ=
  • 漁夫 2016/03/12 18:26 #

    컴퓨터건 S/W건 이미 일상 생활 내에 깊숙히 들어와 있기 때문에, 만약에 그걸 과장한다면 뭔가 잘 모르는 사람이죠. 그리고 이미 매우 많은 사람들이 그 혜택을 매우 많이 누리고 있습니다.

    하지만 솔직히 내가 변화에 대응하기 전에는 컴퓨터가 내 일만은 뺏지 말았으면 합니다. ㅎㅎ
  • Ya펭귄 2016/03/11 11:10 # 답글

    사실 대부분의 컴퓨터 관련 작업이....

    '컴퓨터가 내놓은 결과가 의도치 않아서 의도한 방향으로 수정하는데 거의 대부분의 작업역량을 할당' 하고 있다는 점을 생각한다면....

  • 漁夫 2016/03/12 18:28 #

    물론 '말이 안 되는' 결과를 내놓는 경우는 사람이 수정해야 할 때도 있겠지요. 하지만 그런 경우까지 넣어 준다면 '자동 수정'이 가능할 테도, 체스 앱처럼 일부 경우에는 사람이 그 가부를 판단하기조차 어려울 때도 있을 겁니다.

    유창혁 왈 '알선생한테 잘 배웠네' 라나요? 진짠진 모르겠습니다만 ㅎㅎ
  • 홍차도둑 2016/03/11 17:39 # 답글

    어부님의ㅜ글에서 "컴퓨터가 내놓은 결과를 검증하기가..." 를 적나라하게 보여준 게 이번 알파고 대국을 해설한 한국 해설가들이죠.

    이전에 자주 두어졌던 수 인데도 "이런거 본적 없다" 라며 기억력과 살펴본 폭의 한계를 여지없이 드러냈으니까요
  • 漁夫 2016/03/12 18:42 #

    네 저도 홍차도둑님 글 읽었습니다.

    사실 좀 성급하게 글을 써서 이리 된 건 있습니다만, 제가 의도한 것은 이번 해설가들이 전례를 다 찾아낼 수 있었다 쳐도 어떤 경우 S/W의 '판단'이 실수인지 아닌지 알기는 어려웠을 것이란 점입니다. 실제 카스파로프가 딥 블루와 대국할 때 그런 상황이 있었다고 읽은 기억이 나네요. 아주 나중에 분석해 보니 단순히 컴퓨터의 실수였다나요 ㅎㅎ
  • 홍차도둑 2016/03/11 17:44 # 답글

    체스의 경우를 링크해 주셨네요. 놀라운건 가리 카스파로프라는 레전드오브전설인 체스마스터를 ibm의 딥블루가 꺾을 때 초대형 슈퍼컴이 동원되었는데 지금은 그것을 능가하는 성능을 휴대폰 앱에서 한다는거죠. 실제로 체스의 대륙 챔피언들도 휴대폰 앱에게 60% 이상의 승률을 올리기 힘들 정도라고 들었습니다
  • 漁夫 2016/03/12 18:43 #

    네. 페북에서 어느 교수님께서 "에너지 소모량이 이세돌에 비해 엄청나다"고 대략 계산했는데, 휴대폰 앱이라면 사람보다 훨씬 에너지를 덜 쓸 것 아니겠습니까. 에너지 소모면에서도 체스는 이제 완패 -.-
  • 그게 2016/03/11 22:53 # 삭제 답글

    첫번째 인용글에서 사색정리 부분은... 컴퓨터의 논리를 인간이 이해하지 못하기에 수학자들이 거부감을 느끼는 것이 아닙니다. 사색정리를 해결하기 위해 그 두 명의 수학자는 여러 수학이론을 이용하여 무한히 많은 경우들 중에서 확인해야하는 경우의 수를 2000개로 줄일 수 있다고 주장하였는데, 유한개로 줄일 수 있다고 증명하는과정 중에 컴퓨터를 사용하였습니다. 수학자들은 그저 굳이 컴퓨터를 사용해야만 하는가에서 만족하지 못하는 겁니다. 어려운 문제가 의미있는 까닭은 그 문제를 해결하는 과정 중에 새로운 이론이 등장하고 그것이 수학을 더 풍성하게 해 주거든요. 그런데 사색정리라는 그 오래된 문제가 이후에 더 연구해볼만한 어떠한 이론도 남기지 않은채 끝나버렸거든요. 그것이 맘에 들지 않는다는 겁니다.

    지금의 수학자들은 굉장히 많은 경우를 컴퓨터를 이용하여 처리하는 증명에 대해 아무도 거리껴하지 않습니다. 컴퓨터가 내놓은 결과를 검증할 수 없어 싫어하는 것이 아닙니다. 단지 만일 증명의 핵심이 컴퓨터의 계산일 뿐이라면, 그러한 논문들을 재미있다 여기지 않을 뿐입니다. 그 증명으로부터 얻어낼 수 있는 새로운 수학이 없을테니까요.
  • 漁夫 2016/03/12 18:58 #

    현재 상황을 친절히 알려 주신 것 감사합니다. 제가 일부만 인용해서 그런데, 지금 인용한 책의 뒷 부분은 말씀하신 상황을 대강 설명해 주고 있고, 리만 함수 연구에 컴퓨터를 사용하는 것을 아무도 뭐라 하지 않는 것을 알고 있습니다('소수의 음악'같은 데서 나오더군요).

    하지만 4색정리 증명에서 컴퓨터 방식이 처음 등장하던 당시 상황은 충분히 저런 우려를 표할 수 있었다고 봅니다. 물론 나중에 많은 실제 사례들 때문에(그리고 다른 컴퓨터에서도 재현이 됐다니까요) 불안감이 줄어들긴 했습니다만 말이죠.
    그리고 '직접 풀어 보기 전'에는 그 해가 새로운 파생 문제를 만들어낼지 알 수 없기도 하고, 더군다나 더 좋은(사람의 영감으로) 증명 방법이 나중에 나오지 말라는 법도 없고 말입니다. 방법이 뭐건 우선 '증명'됐다면, 최소한 해당 가정을 떨쳐버리고 다음 단계를 진행하는 정도의 공헌은 인정해야 하지 않을까요.
  • 그게 2016/03/11 23:14 # 삭제 답글

    로트카-볼테라 모델의 경우에도 그 모델을 세운 것이 중요하지, 시간에 따라 모델링이 어떻게 변화할지를 계산하는 것은 컴퓨터가 훨씬 더 잘하는 것은 당연하고, 그러한 계산이 필요할 경우 수학자들 또한 당연히 컴퓨터를 활용하여 계산을 합니다. 단지 순수수학의 입장에서라면 특정 파라메터를 설정하였을 때 특정한 시간에 멸종이 일어나는 수학적인 원인을 아는 것을 더 중요하다 생각하는 것이지요. 컴퓨터의 계산능력을 바탕으로 다양한 시뮬레이션을 해 보고 그 결과를 바탕으로 왜 그런 일들이 벌어지는지를 수학적으로 설명해내려는 과정이 수학자들이 하는 일입니다. 컴퓨터는 멸종이 일어나는 이유를 설명해주지 못하니까요. 단지 계산해보니 그랬다 뿐이잖아요. 사색정리때와 똑같이 그 해답으로부터 얻어낼 수 있는 새로운 지식이 없는, 그저 답만 얻고 끝나버리는 그런 수학을 싫어할 뿐입니다.
  • 2016/03/12 07:55 # 답글 비공개

    비공개 덧글입니다.
  • 2016/03/12 18:56 # 비공개

    비공개 답글입니다.
  • 2016/04/20 10:38 # 비공개

    비공개 답글입니다.
  • 2016/03/13 17:36 # 답글 비공개

    비공개 덧글입니다.
  • 2016/03/21 03:13 # 비공개

    비공개 답글입니다.
  • 2016/03/21 17:15 # 비공개

    비공개 답글입니다.
  • 2016/03/22 11:11 # 비공개

    비공개 답글입니다.
  • Minowski 2016/03/14 11:33 # 삭제 답글

    딥러닝 알고리즘+빅 데이터+클라우드 컴퓨팅으로 할 수 없는 것이 뭐가 있을까요?

    그리고 그동안 우리가 생각해보지 못한 어떤 활용이 가능할까요?

    개인적으로 볼 때, 일단 인공지능의 발전이 좋은 쪽으로든 나쁜 쪽으로든 인류를 노동으로 부터 해방시키고 있기는 한데, 요즘 보면 나쁜 쪽만 너무 강조하는 것 같습니다.
  • Minowski 2016/03/14 17:59 # 삭제

    갑자기 생각난건데 딥러닝으로 종교교전을 학습시켜 교리해설, 설교를 하도록 해보는 것도 재미있을 듯...

    가능하면 사이비나 부패한 종교인 일소의 기회도 되고 ^^
  • 漁夫 2016/03/21 03:16 #

    아직은 요리사의 일까지 대체하지는 못합니다만, 상해에서는 우동 만드는 로봇이 돌아간댑니다. 우동 만드는 것이 비교적 제한된 손놀림으로도 가능하기 때문에 나온 듯.

    기계가 인간을 쓸데 없는 노동에서 대체해 준다는 데는 이의가 없습니다. 단 사람이 다른 일을 찾을 만큼 시간 여유는 줘야 하는데, 요즘은 그게 너무 빨라 보인다는 점이 걱정이죠.

    종교 농담은 정말 깨네요 ㅎㅎㅎㅎㅎ
  • jimbo 2016/03/17 14:44 # 답글

    나중되면 '태초에 인공지능이 있었다.' 라던지, '인공지능 무오류설'이 나올지도... ㄷㄷㄷㄷ
  • 漁夫 2016/03/21 03:16 #

    아하하!!!
댓글 입력 영역
* 비로그인 덧글의 IP 전체보기를 설정한 이글루입니다.


내부 포스팅 검색(by Google)

Loading

이 이글루를 링크한 사람 (화이트)

826

통계 위젯 (화이트)

151151
980
1072669