사다리게임 > 네임드사다리

오픈에이아이의 슈퍼정렬팀에서 일했던 레오폴트 아셴브레너는 지난 5일(메이저놀이터) 일반인공지능(또는 범용인공지능, AGI)이 2027년 말, 늦어도 2030년에는 실현될 것이라고 예측하고는, 이를 사기업에 맡겨두기에는 너무나 큰 문제이므로 미국 정부가 맡아서 극도의 보안 아래 1조달러 규모의 프로젝트를 수행해야 한다고 촉구했다. 현재 밀실에서 인공지능 기술개발 안전놀이터 방향을 좌우하는 사기업 수뇌부들은 인공지능의 안전성에 충분히 유의하지 않고 있으며 중국 공산당 등의 스파이 활동을 방치하고 있다는 이유였다. 일반인공지능이 달성된 뒤 이를 인공지능 개발에 조금만 더 활용하면 순식간에 인간의 지능을 뛰어넘는 인공초지능(ASI)이 실현된다는 전제가 깔려 있다. 과거에도 비슷한 주장들이 산발적으로 제기됐지만, 아셴브레너가 140여쪽의 보고서와 4시간 반에 걸친 열정적인 유튜브 인터뷰를 통해 포괄적으로 논지를 전개했을 뿐만 아니라, 그의 이력과 배경이 여러가지 사건들과 얽혀 있기 때문에 관심이 쏠렸다. 아셴브레너는 지난해 가을 샘 올트먼 축출 실패 사건 당시, 올트먼 복귀 촉구 서명을 거부한 소수파의 일원이었다. 올해 3월 초 올트먼이 이사진에 복귀했고, 오픈에이아이를 비롯한 인공지능 기술기업들이 “책임 있는 인공지능 개발”을 다짐하는 공개서한을 발표했다. 그로부터 얼마 뒤인 4월 초 정보 누설을 이유로 아셴브레너는 바카라 해고됐고, 5월 초에는 슈퍼정렬팀이 해체되면서 리더였던 일리야 수츠케버와 얀 라이케가 회사를 떠났다. 그 직후 오픈에이아이의 취업계약서에는 미국 기준으로도 이례적인 입막음 조항이 있다고 폭로되자 올트먼은 시정을 약속했다. 지난 4일에는 전현직 오픈에이아이 직원 11명과 구글 딥마인드 직원 2명이 “경고할 권리”를 요구하는 공개성명을 발표했다. 인공지능 기술 개발이 인류에 위험한 방향으로 전개될 수도 있고, 외부의 공격에 의해 인공지능이 위험에 처할 수도 있는데, 이를 막기 위한 사전 경고와 논의를 가로막는 조직 운영상의 문제점들을 지적했다. 지난 13일엔 오픈에이아이 이사회에 폴 나카소네 전 국가안보국(바카라게임) 국장이 합류했다. 그는 미국 정보조직의 보안 수준을 끌어올린 것으로 알려진 인물이다. 이후 오픈에이아이가 본격적인 영리기업으로의 변신을 타진하고 있다는 풍문이 흘러나왔다. 궁중 암투 드라마 같은 사건 전개에 매료되다 보면 누구나 저절로 일반인공지능의 도래를 정해진 운명으로 여기게 된다. 그런 초월적인 힘을 놓고 벌어지는 거인들의 투쟁 서사는 아득한 먼 옛날부터 사람들의 상상을 사로잡았다. 초월적인 힘이 인류 전체를 위협할 수 있다고 하니 드라마의 전개 방향에 주의가 쏠리기 마련이다. 우선 수츠케버나 아셴브레너 등 다수의 인공지능 연구개발자들이 일반인공지능이 임박했다고 믿고, 각자가 생각하는 최선을 위해 노력한다는 점은 부인할 수 없다. 그러나 한 단어가 가진 여러 속뜻을 가지고도 소박하지만 강력한 질문을 던질 수 있다. 그들이 말하는 ‘지능’과 일반적으로 통용되는 ‘지능’의 개념이 같은 건가? 현재 인공신경망 인공지능들의 성능, 즉 ‘지능’을 비교할 때는 각종 안전놀이터 벤치마크 점수를 기준으로 삼는다. 사전에 정해놓은 문제 세트를 얼마나 잘 푸는지를 점수로 바꾸는 방식이다. 이런 검사 점수는 어떤 문제들이 출제되느냐에 따라 운도 작용하고, 문제별 배점에 따라 최종 점수가 달라진다. 물론 연구자들이 고심해서 문제를 다듬고 조정하며 비슷한 벤치마크를 여럿 만들어 시험한다. 메이저놀이터 덕분에 특정 분야의 성능을 측정하는 여러 벤치마크 점수들이 꽤 높다면 그 분야의 성능이 좋다고 간주하는 데 큰 무리가 없다. 또한 여러 분야에 걸쳐 잘 훈련시킨다면 각각의 분야에서 높은 벤치마크 점수들을 얻는다. 그래서 하나의 거대모델이 여러 분야에서 뛰어난 업무별 수행능력을 발휘할 수는 있다. 그런데 훈련받은 일을 잘한다고 지능이 높다고 할 수 있을까?