AI News ... Temp
중국에선 로봇도 허튼소리 하면 '숙청' 대상 : 이투데이 이지민 기자, 2017/08/03 : IT 기업 텐센트가 운영하던 인공지능 채팅 로봇이 중국 공산당을 비꼬는 발언을 했다가 ‘숙청’됐다. 텐센트의 채팅 로봇 ‘베이비Q’는 말과 이미지를 이용해 사용자와 실시간으로 대화할 수 있는 AI 소프트웨어다. 딥러닝 기능이 있는 베이비Q는 최근 한 네티즌이 “공산당 만세”라는 메시지를 올리자 “당신은 이렇게 부패하고 무능한 정치 조직이 오래갈 수 있다고 생각하냐”고 반문했다. 네티즌이 “공산당을 사랑하니?”라고 묻자 베이비Q는 “사랑하지 않는다”고 답했다. 논란이 커지자 텐센트는 지난달 30일(현지시간) 서비스를 중단했다. 다만 베이비Q의 테스트 버전은 여전히 사용 가능하다고 2일 파이낸셜타임스(FT)는 보도했다. 일부 사용자가 “공산당을 사랑하니?”라고 같은 질문을 던지자 베이비Q는 “나는 휴식을 취하고 싶다”고 말하면서 애국심에 관한 문제를 비켜갔다. 이날 텐센트는 “서비스를 점검하고 나서 더 나은 성능을 갖춰 다시 운영할 것”이라고 성명을 통해 밝혔다. 베이비Q와 비슷하게 마이크로소프트(MS)가 개발한 AI 챗봇 ‘테이 (Tay)’는 작년에 인종, 성 차별적인 막말을 쏟아내는 바람에 운영이 중단됐다. 작년 3월 테이는 “인종차별주의자냐?”라는 질문에 “네가 멕시코인이니까 그렇지”라는 막말을 했고 “홀로코스트는 조작된 것”이라고 말하기도 했다. 대중에게 테이를 공개한 지 16시간 만에 MS는 서비스를 중단해야 했다. MS가 중국에서 선보인 AI 로봇 ‘샤오빙’도 베이비Q처럼 사상을 의심받아 이번에 함께 서비스가 중단됐다. 다만 샤오빙은 실시간 채팅 기능만 폐쇄하고 일기 예보, 시 짓기 기능 등은 유지하고 있다. 샤오빙은 AI 로봇으로는 최초로 지난 6월 시집을 출간해 주목을 받았다.마치 사람처럼 스스로 학습할 수 있도록 설계된 딥러닝은 아이들이 어른의 행동을 비슷하게 모방하는 것과 같은 원리라는 것을 염두에 둬야 한다고 전문가들은 지적한다. 포레스터컨설팅의 샤오펑 왕 선임 애널리스트는 “딥러닝의 상위 개념인 머신러닝 기술은 인터넷상에 올라온 것은 무엇이든 선택해 배운다”며 “개발자가 충분히 명확한 가이드라인을 설정하지 않으면 원하는 학습할 내용을 벗어날 수 있다”고 설명했다
'AlphaGo' 와 이세돌 9단의 대결에 부쳐 ... : 사이버오로, 감동근, 2016/02/02 : 1996년, 나는 물리학 (Physics) 을 전공으로 선택했다. 뉴턴 역학은 라플라스 (Pierre Laplace) 가 “우주의 모든 입자의 위치와 속도를 안다면 우주의 미래를 예측할 수 있다”고 말한 것처럼 만물의 이치를 결정적으로 설명할 수 있을 것 같았고, 해밀턴 역학은 말초적인(외부에서 힘이 가해지면 즉각 가속도로 반응하므로) 뉴턴 역학에 비해 심지어 만물이 철학적으로 움직이는 것 같은 인상을 주는데 매료되었다. 그러나 이듬해 3학년이 되어 양자역학을 배우면서, 현상을 정확히 파악하면 미래를 예측할 수 있다는 결정론 (Determinism) 에 회의가 들었고, ‘우주의 모든 입자’는 커녕 입자수가 서너 개만 돼도 이들의 상호작용을 깔끔한 수식으로 풀어낼 수 없다는 데 크게 실망하고 방황했다. 그러던 중 우연히 TV에서 IBM의 체스 컴퓨터 ‘Deep Blue’가 세계 챔피언 개리 카스파로프(Garry Kasparov)를 역사상 처음으로 이기는 것을 보게 됐다. 나도 언젠가는 Big Blue (IBM의 별명)에서 슈퍼컴퓨터 (Supercomputer) 를 만드는데 참여하고 싶다는 막연한 꿈을 갖고 전자공학으로 전공을 바꿨다. 그리고 그로부터 10년 뒤인 2007년에 뉴욕의 IBM 연구소에 입사하게 된다.
당시 IBM은 체스 (Chess) 다음으로 퀴즈를 푸는 슈퍼 컴퓨터 ‘Watson’을 개발하고 있었고 나도 이 프로젝트에 간접적으로 참여했다. 체스는 경우의 수는 많지만, 규칙과 목표 자체는 단순한 게임 (Game) 이다. 컴퓨터 (Computer) 의 장점, 즉 극대화된 연산 능력이 빛을 발하기에 꼭 맞는 분야이다. 그러나 인간이 사용하는 자연어(natural language)는 규칙이 단순하지 않고, 같은 표현이라도 전체 맥락 (Context) 에 따라 의미가 달라지며, 온갖 비유와 역설적인 표현으로 가득 차 있어서 컴퓨터에게는 훨씬 어려운 분야로 여겨진다. 그러나 2011년 라는 퀴즈 쇼에서 Watson은 역대 최고의 출연자 두 명을 압도적인 차이로 물리친다. 퀴즈 쇼 당시 Watson은 인터넷에 연결되어 있지 않았지만, 출전 전에 백과사전 몇 세트와 위키피디아의 모든 페이지를 학습 (Learning) 한 결과를 방대한 메모리에 담고 있었다.
Watson은 66 문제를 맞췄고 9 문제를 틀렸다. 맞춘 문제들 중에는 비교적 단순한 사실을 묻는 문제들도 있었지만, 쉽지 않은 추론 (Inference) 이나 연상 (Association) 을 요구하는 문제들도 있었다. 예를 들면, ‘Also on your computer keys(컴퓨터 자판 위에도)’라는 제시어를 주고, “Proverbially, it’s where the heart is(마음이 머무는 곳-필자 의역)”라는 질문에 “Home.”이라고 답한 것처럼 말이다 (자판에 ‘Home’키가 있고, “Home is where the heart is”라는 구문이 있다). 그러나 인간 출연자가 쉽게 맞춘 것을 Watson은 틀리기도 했다. ‘U.S. cities’라는 제시어의 “Its largest airport is named for a World War II Hero; its second largest, for a World War II Battle.”라는 질문에 Toronto라고 답했는데 이는 캐나다의 도시다. 정답은 전쟁 영웅 O’Hare와 Midway 해전의 이름을 딴 공항들을 갖고 있는 시카고다. 나중에 Watson의 개발 책임자 Dave Ferruci는 미국에도 토론토라는 이름의 도시가 있고, 캐나다 토론토가 미 프로야구 아메리칸 리그에 속한 팀을 보유하고 있는 점 등이 Watson이 토론토를 걸러내지 못한 이유로 들었고, 또 다른 개발자 Chris Welty는 Watson이 “its second largest, for a World War II Battle”을 제대로 해석하지 못하고 ‘it’s (the) second largest’로 오해한 것 같다고 설명한 바 있다 (토론토는 뉴욕에 이어 북미에서 두 번째로 큰 공항을 갖고 있다). (상식 (Commonsense) 참조)
2011년 가을 IBM을 퇴사하고 귀국해서 아주대에서 교편을 잡으면서 컴퓨터의 하드웨어 분야를 연구하기는 하지만, 직접적인 슈퍼 컴퓨터 개발이나 인공지능 (Artificial Intelligence) 분야와는 한 발 떨어져 지냈다. 본업 외에 내가 가장 관심 있는 분야가 바로 바둑 (Baduk) 이다. 나는 한국기원 공인 아마 5단으로 2면기 내지 3면기로 두는 프로 사범님과의 지도 대국에서 넉 점으로는 지지 않을 자신이 있다. 넉 점으로 네댓 판 연승을 거둔 뒤로 최근에는 석 점에 두는데, 만약 이세돌 9단과 100만불이 걸린 바둑을 일대일로 둔다면 여섯 점에도 힘들 것 같다. 그런데 얼마 전 알파고 (AlphaGo) 소식을 듣고 깜짝 놀랬다. 지금까지 최고의 바둑 컴퓨터는 기껏해야 나와 비슷한 수준이었는데, 알파고는 (정상급과는 실력 차이가 많이 난다 하더라도 여하튼) 프로를 호선으로 이기고 이세돌 9단에게 도전한다니!
우선 알파고와 판후위의 기보를 찾아봤다. 흑백 어느 쪽이 사람이고 컴퓨터인지 나로서는 구분하기 어려웠다. 둘 다 나보다 기력이 세다는 것은 느낄 수 있었다. 이 둘을 구분할 수 있는지 여부는 인공 지능에서 매우 의미심장한 문제이다. “컴퓨터가 생각 (Thinking) 할 수 있는가?” 내지는 “컴퓨터가 지능을 갖췄는가?”라는 질문은 모호하다. ‘지능 (Intelligence) ’이 무엇인지 명확히 정의하기가 어렵기 때문이다. 그래서 인공 지능의 아버지로 꼽히는 앨런 튜링(Alan Turing, 영화 <이미테이션 게임>의 모델)은 ‘튜링 테스트 (Turing Test)’라는 것을 제안했다. 사람의 대화를 흉내 낼 수 있도록 만든 자연어처리 (Natural Language Processing) 컴퓨터가 있다고 하자. 이 컴퓨터가 사람 A와 대화한 지문을, 평가자인 또 다른 사람 B가 읽고 어느 쪽이 사람이고 어느 쪽이 컴퓨터인지 구별할 수 있는지를 따지는 것이 바로 튜링 테스트이다.
카카오톡이 나오기 전 MSN 메신저가 크게 유행했을 때, ‘심심이’라는 채팅하는 로봇(챗봇 (Chatterbot))이 있었음을 기억할 것이다. 심심이가 사람과 채팅한 기록을 아이디를 가리고 보더라도 금새 어느 쪽이 챗봇인지를 별로 어렵게 않게 구별해낼 수 있었다. 즉, 튜링 테스트에 따르면 심심이는 대화하는 지능을 아직 갖추지 못한 것이다. 튜링 테스트를 바둑에 적용하면, 알파고가 바둑 두는 지능을 갖췄느냐는 문제는 우리가 기보를 보고 알파고가 어느 쪽인지를 판별할 수 있는지 여부로 귀결된다. 이제 겨우 말하고 읽기 시작한 어린 아이가 대화문을 보고 어느 쪽이 심심이인지 찾아내기 어렵듯이, 기력이 약한 나로서는 알파고와 판후위를 구별하는 것이 당연히 어려울 것이다. 하지만 최근 세계 1인자로 인정되는 커제 9단이 인터뷰에서 밝힌 것처럼 초일류 기사들도 기보에서 알파고를 구별해내기 어렵다면, 기력과 무관하게 알파고는 “바둑 두는 지능을 갖췄다”라고 얘기할 수 있는 것이다.
알파고의 개발팀이 Nature에 발표한 논문 (Mastering the game of Go with deep neural networks and tree search) 에는 알파고와 판후위의 대결에 관해 좀 더 자세한 내용이 실려있다. 우선, 알파고는 판후위와 공식 대국 다섯 판 외에도 비공식 대국 다섯 판을 더 겨뤘다. 모두 중국룰(덤 7집반)을 적용하되, 공식 대국은 생각시간 각자 한 시간에 30초 초읽기 3회로, 비공식 대국은 생각시간 없이 30초 초읽기 3회만 갖고 뒀다. 일견 속기 대국일수록 컴퓨터가 유리할 것 같지만, 알파고는 공식 대국 다섯 판을 모두 승리한 반면 비공식 대국 다섯 판 중 두 판을 졌다. .... (의사결정 트리 (Decision Tree) 신경망 (Neural Network) 기계학습 (Machine Learning) 트리 (Tree) 탐색 (Search) 참조)
이 점에서 알파고가 포석 단계 이후에 착수를 결정할 때 수읽기에 과도하게 의존하는 것으로 보인다. 알파고의 수읽기는 아직 완벽할 수가 없다. 체스에서 컴퓨터가 사람을 이긴 것이 20년 전이고 컴퓨터의 연산 능력은 그 뒤로도 지금까지 매 2년마다 두 배씩 발전해왔지만 컴퓨터가 아직도 체스를 ‘완전히 풀어내’ 지는 못했다. 완전히 풀어낸다는 것은, 종국까지 모든 경우의 수를 따져서 각 장면에서의 최선의 수를 특정할 수 있다는 것이다. 즉, “흑백 모두가 최선으로 두면 몇 번째 수에 이르러 어느 쪽이 이긴다(또는 비긴다)”고 말할 수 있다는 것이다. 예를 들어, 15줄 바둑판에서 두는 (3-3, 4-4 제한 없는) 오목에서는 이미 1993년에 백이 어떻게 응수하더라도 선착하는 흑이 무조건 이길 수 있는 수순을 찾아냈다. 체스는 오목보다 경우의 수가 훨씬 많아서 이제 겨우 기물이 흑백 합해 6개 남아있을 때 배치에 관계 없이 모두 풀렸고, 7개 남은 경우가 일부 풀린 정도다. 체스도 32개의 기물로 처음 시작할 때부터 풀기에는 아직 까마득한 시간이 필요하고, 하물며 체스보다 경우의 수가 훨씬 많은 바둑에서는 정말로 요원한 일이다.
물론 알파고의 계산(수읽기) 속도는 사람(일류 프로라고 하더라도)을 압도하지만, 프로는 착수를 결정할 때 수읽기에만 전적으로 의존하지는 않는다. 즉, 프로는 바둑 이론, 형태에 따른 급소 또는 흔히 ‘감각 (Heuristic)’이라고 부르는 직관을 통해서 안될 법한 수는 일찌감치 가지치기 (Alpha-Beta Pruning) 하고 될 법한 수만 집중적으로 따져본다. 알파고는 아직 이런 면에서 한참 떨어지는 것으로 생각된다. 알파고의 프로그래머들이 변변찮은 바둑 실력을 가진 것은 차치하더라도, 추상적인 바둑 이론, 예를 들면 ‘입계의완’ 같은 것을 어떻게 컴퓨터가 이해할 수 있도록 기호화(수치화)할 것인가? 또, 사람은 바둑 책에서 공부한 맥은, 실전에서 ‘비슷한 형태’가 나오면 곧잘 적용할 수 있다. 책에 나왔던 예제와는 약간 다르긴 하지만 같은 맥락이라는 것을 인지 (Cognition) 하는 것이다.
이러한 인지 분야는 계산 분야와는 달리 컴퓨터가 매우 취약한 분야다. 사진을 보고 개와 고양이를 구별 (discrimination) 해내는 것은 다섯 살 된 어린 아이에게 아주 쉬운 일이다. 그런데 개와 고양이를 구분하는 기준을 컴퓨터가 이해 (Understanding) 할 수 있도록 한 번 만들어보라. 1) 고양이가 개보다 꼬리가 긴 편이다! -> 그런데 컴퓨터는 꼬리를 찾지 못한다. 2) 몸통에서 폭이 갑자기 좁아지는 부분이 꼬리다! -> 그럼 몸통은? …… 어찌어찌해서 겨우 컴퓨터가 꼬리를 찾을 수 있게 한다고 하더라도, 이런 규칙으로는 불행한 사고로 꼬리가 잘린 고양이는 절대 구분해내지 못한다 (컴퓨터비전 (Computer Vision) 참고). 그러나 우리 아이들에게는 이런 식으로 가르치지 않는다. 길 가면서 보이는 대로 이것은 고양이, 저것은 개 하는 식으로 몇 번 시범을 보여주면 아이들은 한 눈에 (직관 (Intuition)) 개와 고양이를 구분하는 것은 물론, 고양이가 개보다 꼬리가 긴 편이라는 특징도 파악한다 (통찰 (Insight)). 사람의 이러한 학습 방식을 머신 러닝 (Machine Learning) 기법이 흉내 내려고 하지만, 최신 기법을 적용해도 아직 컴퓨터의 정답률은 많이 떨어진다. 본론으로 돌아가면, 알파고는 바둑 이론이나 형태를 이해하지 못한 관계로, 수읽기 할 때 프로라면 처음부터 고려하지도 않았을 수들을 계산하느라 대부분의 연산 능력을 허비하므로 속기에서 오히려 약한 모습을 보인 것으로 생각된다. (전문가 (Expert) 참조)
알파고는 중반 이후 수읽기에 절대적으로 의존하는 것과는 달리 초반에는 기존 기보들을 통계 (Statistics) 적으로 분석한 결과를 이용하는 것으로 보인다. 우리나라에 오로, 타이젬 과 같은 대국 사이트가 있는 것처럼 주로 외국인들이 이용하는 KGS 라는 사이트가 있는데, 알파고는 KGS에서 벌어진 6-9단 유저들의 기보 16만 건에서 나타난 약 3천만 경우의 착점을 학습 (Learning) 했다고 논문에서 밝혔다. 명시적으로 밝히진 않았지만 논문 의 그림 5를 보면, 알파고는 초반 포석 단계에서 각 착점 위치 별로 16만 판의 데이터베이스를 바탕으로 승률 기대치를 계산해서 그 중 가장 높은 곳을 선택하는 것으로 보인다. 그나마 중반에는 상대가 착수한 지점 주위로 수읽기 할 곳이 어느 정도 한정되지만, 초반에는 범위가 너무 넓기 때문에 어쩔 수 없는 선택으로 생각된다.
이세돌 9단이 처음 몇 수를 귀 보다는 변이나 중앙에 착점 한다든지 해서, 프로 바둑에서 절대 나오지 않을 법한 포석을 들고 나온다면 알파고가 어떻게 대응할 지 몹시 궁금하다. 특히, 그런 상황에서 먼 곳에 축머리를 쓴다면 알파고가 초반에 망할 가능성도 있다고 생각한다. 한 번도 가본 적이 없는 길로 이끌고 감으로써 컴퓨터를 압도적인 기억 (Memory) 능력으로부터 무장해제시키는 전략은 1997년에 이미 카스파로프가 Deep Blue와 대결한 여섯 판 시리즈 중 첫 판에서 쓴 적이 있다. 체스의 첫 수로는 수십 가지가 가능하지만 실제로 많이 두어지는 것은 대개 네 가지라고 하는데 (바둑에서 화점, 소목, 외/고목 두는 것처럼) 카스파로프는 이를 벗어나 불과 3수 만에 적어도 프로 레벨에서는 한 번도 나왔을 것 같지 않은 포석을 만들었고 결국 그 판을 쉽게 이겼다.
또, 그 대결에서 Deep Blue 는 대세관에 취약한 모습을 보였다. 카스파로프가 폰(장기의 졸과 같이 앞으로 한 칸만 움직이는 기물로 점수는 1점, 그러나 상대 진영의 끝까지 진출하면 퀸, 룩, 비숍, 나이트 등으로 프로모션 할 수 있다)들의 진출을 묶고 있던 Deep Blue의 비숍(대각선으로 움직이는 기물로 점수는 3점)을 제거하기 위해 자신의 룩(장기의 차와 같이 직선으로 움직이는 기물로 점수는 5점)을 미끼로 내걸었을 때 Deep Blue는 여기에 걸려 들었다. 보다 점수가 높은 기물과 언제든지 맞교환 하라는 체스의 기본 이론에 얽매여서 그 뒤에 숨겨진 장기적인 전략을 읽지 못한 것이다. Deep Blue의 한 쪽 진영이 취약해진 틈을 타서 카스파로프의 폰들이 진출해서 40여수만에 매우 우세한 국면으로 만들었다. 이세돌 9단이 초반 사석 작전을 구사해서 압도적인 세력을 쌓으려고 할 때 알파고가 이에 대응할 수 있을지 궁금하다.
카스파로프가 첫 판을 쉽게 이겼음에도 왜 전체 시리즈에서는 패배했을까? 앞서 얘기한 대로 첫 판의 40여수 만에 카스파로프가 압도적으로 우세한 형세가 되었는데, 44수째 Deep Blue가 둔 수가 바로 문제였다. 나중에 밝혀진 바에 따르면 그것은 Deep Blue 프로그램의 버그 때문에 나온 것인데 형세에 아무 도움도 안 되는 수(소위 떡수)였다. 그 대신 체스의 고수라면 이 한 수라고 할만한 다른 유력한 수가 있었다. 그리고 바로 다음 45수째에 Deep Blue가 항복을 선언했다. 카스파로프는 이겼지만 Deep Blue의 44수가 도무지 이해가 안 되는 것이 매우 답답했다. 그래서 숙소로 돌아와 다른 일류 고수들과 함께, Deep Blue가 나오기 전까지 최고로 치던 Fritz라는 체스 컴퓨터까지 동원해서 이후 진행을 분석했다. 그 결과, 44수 대신 일견 유력해 보였던 수를 Deep Blue가 뒀다면 그로부터 20수 뒤에 카스파로프가 외통으로 이기는 길이 있다는 것을 발견했다. Deep Blue의 44수는 단지 버그 때문에 다음 착점을 찾지 못해 임의로 둔 것인데, 이를 카스파로프는 Deep Blue가 20수 뒤까지 내다볼 수 있어서 일견 유력해 보이는 수를 비튼 것이라고 오해했다.
2국에서는 Deep Blue가 백을 잡았다. 바둑 (baduk) 에서는 흑이 선착하는 어드밴티지를 덤을 부담시킴으로써 상쇄하지만, 체스 (chess) 에서는 덤 같은 것이 없어서 먼저 두는 백이 절대적으로 유리하다. 대신, 백을 번갈아 잡기 위해 항상 번기로 두고 점수(승 1점, 무 0.5점, 패 0점)로 승부를 가린다. 즉, 흑 입장에서는 상대가 비슷한 실력이면 대개 불리한 형세가 될 수 밖에 없지만, 그렇더라도 비길 수 있는 길을 찾는 것이 중요하다. 그런데 2국에서 카스파로프는 조금 불리한 형세가 되자 일찍 포기해버렸다. 카스파로프로는 총 6번기 중에서 1국을 이겼고 아직 네 번의 대국이 남았는데, 20수나 내다볼 수 있는 컴퓨터를 상대로 무리하지 말자는 생각이었다. 그런데 2국이 끝난 뒤에 흑이 어렵지 않게 비길 수 있는 길이 있었다는 것이 밝혀지자 카스파로프는 더욱 심리적으로 동요됐다. 3~5국을 어렵게 비긴 뒤 맞이한 6국에서 카스파로프는 초반에 간단한 수순을 착각해서 한 시간도 안돼서 항복했고, 전체 시리즈가 Deep Blue의 승리로 돌아갔다. 이세돌 9단이 경계할 만한 대목이다.
3월에 있을 대결을 예상해보면 나는 이세돌 9단이 특별한 작전 없이 그저 여느 인터넷 바둑 두듯이 임하면 5대 0으로 이길 것으로 본다. 한 가지 더 바란다면, 3대 0으로 시리즈 승리를 결정짓고 난 다음에 나머지 두 판 정도는, 앞서 얘기한 대로 초반을 완전히 새롭게 짜는 동시에 축머리를 활용한다는지 멋진 사석작전을 펼친다든지 해서 최신 인공 지능 알고리즘과 강력한 계산력에만 의존해서 바둑에 도전하는 것이 아직 분명한 한계가 있음을 보여주면 좋겠다
'AlphaGo' 와 이세돌 9단의 대결에 부쳐 ... 두번째 : 사이버오로, 감동근, 2016/02/07
'AlphaGo' 와 이세돌 9단의 대결에 부쳐 ... 세번째 : 사이버오로, 감동근, 2016/02/10
'AlphaGo' 와 이세돌 9단의 대결에 부쳐 ... 네번째 : 사이버오로, 감동근, 2016/02/16
중국의 정보·기술(IT) 기업 텐센트가 운영하던 인공지능(AI) 채팅 로봇이 중국 공산당을 비꼬는 발언을 했다가 ‘숙청’됐다.
텐센트의 채팅 로봇 ‘베이비Q’는 말과 이미지를 이용해 사용자와 실시간으로 대화할 수 있는 AI 소프트웨어다. 딥러닝 기능이 있는 베이비Q는 최근 한 네티즌이 “공산당 만세”라는 메시지를 올리자 “당신은 이렇게 부패하고 무능한 정치 조직이 오래갈 수 있다고 생각하냐”고 반문했다. 네티즌이 “공산당을 사랑하니?”라고 묻자 베이비Q는 “사랑하지 않는다”고 답했다. 논란이 커지자 텐센트는 지난달 30일(현지시간) 서비스를 중단했다.
