인공 지능이 스스로 언어를 개발했다는 주장에 관하여

최근 일간지에 다음과 같은 기사가 보도 되었습니다.

“인공지능, 목적 이루려 스스로 언어 개발.. 사람은 이해 못해”라는 다소 도발적인 제목을 가진 이 기사에 따르면, 페이스북의 연구진들은 두 기의 인공지능에게 서로 대화를 통해 더 많은 점수를 획득하도록 하는 한 실험을 진행하였는데, 인공지능이 스스로 대화의 전략을 개발하는 것을 벗어나, 인간의 말이 아닌 스스로의 언어를 개발하여서 인공 지능끼리 대화를 진행하였고 연구자들이 연구 모델을 수정해야 하는 상황에 직면했다는 것입니다.

최근 알파고 등으로 인해 인공지능에 대한 대중적 관심이 높아지고 있는 상황에서 수백년간 인간의 전유물이라고 여겨졌던 언어를 인공 지능이 사용하는 것을 넘어서 스스로 말을 개발해 내고 인간은 그것을 이해하지 못하는 상황까지 이르렀다는 것입니다. 대단하기도 하면서 조금 오싹하기도 한 내용입니다. 관련 사진으로는 인공지능과 인간과의 공존을 다룬 영화인 아이 로봇 (I, Robot)의 한 장면을 넣어 두었습니다. 이 영화를 보신 분이라면 이 영화에서 인공 지능이 인간을 위협할 수 있는 존재로 묘사된다는 점을 기억하실 것입니다. 기계가 인간이 이해하지 못하는 언어를 개발했다는, 즉, 인간의 통제를 벗어났다라고 주장하는 기사의 논점과 맞물려 다소 무서운 느낌마저 듭니다. 당장 기사에 달린 리플들만 보더라도 인공 지능이 인간에게 가져올 재앙들에 대한 독자들의 우려 섞인 목소리가 많이보입니다.

궁금함이 생겨서 해당 연구를 진행한 논문을 직접 찾아 보았습니다. 기사 어디에도 원문에 대한 링크는 제시하지 않고 있어서 조금 어려움이 있었으나, 몇번의 구글링 끝에 결국 해당 논문을 찾을 수 있었습니다.

https://s3.amazonaws.com/end-to-end-negotiator/end-to-end-negotiator.pdf

Facebook의 AI 연구팀과 조지아 공대의 연구진이 공동으로 진행한 이 논문의 제목은 우리 말로 간단하게 번역하자면 “협상을 통한 기계 학습” 정도로 이해할 수 있을것 같습니다. 저 일간지 기사의 방점은 기계가 스스로 언어를 만들어냈다는 사실에 방점이 찍혀 있는 것에 비하면 다소 의아한 제목이기는 합니다.

연구자들은 전략과 타협을 통해 더 많은 점수를 획득하도록 경쟁 할 수 있는 한 게임을 디자인 하였습니다. 이를 두 대의 인공 지능에게 영어를 이용하여 대화를 하면서 경쟁을 하도록 시켰고, 그 과정에서 인공지능이 어떤 논리와 전략에 의해 게임의 목표를 이루어 가는지를 관찰하였습니다. 그 결과 인공 지능 스스로가 새로운 전략을 만들어 낼 수 있을 뿐만 아니라, 심지어는 더 많은 이익을 위해 현재의 작은 이익을 포기하는 등의 인간만이 사용하 전략도 능수능란하게 구사하는 것을 확인하였습니다. 하지만 어디에도 인공 지능이 스스로 언어를 개발하였다는 내용은 없었습니다.

가장 유사한 내용이 어디에 나오나 싶어서 잘 찾아본 결과, 그와 비슷한 문장을 하나 찾을 수 있었습니다.

“The second model is fixed as we found that updating the parameters of both agents led to divergence from human language.”

번역해 보자면, “두 인공 지능 모두의 파라미터 값을 바꿔 보니 인간이 사용하는 언어에서 벗어나는 것이 확인되어 두번째 모델은 수정되었다.” 정도 입니다. 즉, 인공 지능 두 대가 인간이 이해할 수 없는 서로 자기들만 아는 언어를 개발해서 대화를 나누었다가 아니라, 파라미터 값을 조금 변경해 보니 실험 설계에서 너무 벗어나 버려서 두번째 모델은 수정했다, 정도가 올바른 의미라고 할 수 있겠습니다. 논문 어디에도 인공 지능이 스스로 언어를 개발했고 연구자들이 부랴부랴 이를 중단 시켜야 했다거나 하는 내용은 들어있지 않은 논문이었습니다.

결국 연구자들은 일반적인 협상을 위한 기계 학습의 결과를 논문의 형태로 발표한 것인데, 이를 인용하는 기사에서는 (사실 제대로 된 인용도 하지 않았습니다.) 기계가 스스로 새로운 언어를 개발해서 인간의 통제를 벗어났다는 뉘앙스의 기사로 재생산이 된 것입니다. 사회적인 우려감을 불러일으켜 조회수는 크게 늘어나겠습니다만, 과연 이게 옳은 일일지는 모르겠습니다.

모든 기사는 팩트의 재확인과 교차 검증, 그리고 원문의 확인이 필요한데도 불구하고 일부 과학 관련 기사들은 이런 기본을 지키지 않는 경우가 많습니다. 과학이라는 것 자체가 일반인이 다가가기 어렵고, 원문의 이해가 쉽지 않다 보니 이런식의 오역은 특별한 검증 없이 언론이라는 거대한 미디어의 파급력을 통해 일반에 뿌려집니다. 그리고 이는 SNS를 통하여 확대 재생산 및 재확산이 되는 악순환이 발생하여 결국 많은 사람들이 잘못된 과학 지식을 올바른 것이라고 착각하게 만듭니다.