미드웨이 해전(6)-암호 해독

6. 암호 해독 

 

1942년 3월 말에 눈에 띄지는 않지만 미드웨이 해전, 나아가 태평양전쟁 전체의 승패에 커다란 영향을 끼친 중요한 사건이 태평양함대 사령부의 암호해독반인 하이포국(Station HYPO)에서 일어났다.

하이포국의 암호해독가들이 1940년 1월 1일에 적용된 이래 2년 이상 해독이 불가능했던 일본해군의 암호 JN-25b 의 해독에 성공한 것이었다. 

 

일찌기 제1차 세계대전 때부터 미국은 일본의 외교암호를 해독할 수 있었다.

1920년대에는 미국무부의 허버트 야들리가 이끄는 '블랙 챔버'(the Black Chamber) 라고 불리던 비밀 기관에서 일본을 비롯한 몇몇 나라의 외교전문을 가로채서 해독했다.

1921년의 워싱턴 해군군축조약에서 미국대표였던 국무장관 찰스 휴이는 블랙챔버의 도움을 받아 일본의 격렬한 반발을 무릅쓰고 미국, 영국과 일본의 주력함 비율을 10 :10 : 6 으로 제한하는 안을 밀어 붙여 관철시킬 수 있었다.

일본정부가 자국의 대표단에게 회담이 결렬될 위기가 오면 10 :10 :7 의 비율을 끝까지 고집하지 말고 미국과 영국의 제안을 받아들이라고 훈령을 보낸 것을 중간에 블랙챔버가 가로채 해독한 것이었다.

 

런던 조약을 앞두고 1928년에 블랙챔버는 외교전문을 해독하여 알아낸 일본의 회담전략에 대하여 일목요연하게 정리하여 새로운 국무장관인 헨리 스팀슨에게 제출했다.

이제까지 블램챔버라는 것이 있는 줄도 모르고 있던 스팀슨 장관은 몸서리를 쳤다.

그는

 

"신사는 다른 신사의 편지를 훔쳐보지 않는 법"

("gentlemen do not read other gentlemen's letter")

 

이라면서 블랙챔버를 폐쇄해 버렸다.

물론 미국무부는 몇년 지나지 않아 다시 일본의 외교암호를 해독하기 시작했지만 적어도 몇 년간 미국무부의 외교암호 해독은 완전히 중단되었다.

 

미해군은 1924년부터 국무부와는 별도로 일본해군의 암호를 해독하고 있었다.

워싱턴에 있는 해군성 건물 꼭대기 층에 사무실 하나를 차지한 이 비밀스런 조직은 오랫동안 OP-20-G 로 불렸다.

OP-20-G 를 창설하고, 진주만 기습 직후까지 20년 가까이 키운 인물은 진주만 기습 당시 중령이었던 로렌스 새포드였다.

그는 OP-20-G 를 창설하고 키웠을 뿐 아니라 1932년에는 필리핀의 코레히도르 섬에 캐스트국(Station CAST)을, 1936년에는 하와이에 하이포국(Station HYPO)을 개설했는데, 캐스트국은 나중에 필리핀이 일본군의 공격을 받자 호주의 멜버른 근처로 이동하여 벨코넨국(station Belconnen)이 된다.

하지만 새포드의 가장 큰 공적은 뭐니뭐니해도 태평양전쟁에서 일본의 암호를 해독하는데 중추적 역할을 한 수많은 암호해독가들을 키워낸 것이었다.

 

새포드는 OP-20-G 를 창설하면서 해군 내에서 암호해독가들을 추천받았는데, 이때 함대급유함 쿠야마의 함장 체스터 저지 중령이 휘하의 소위 1명을 새포드에게 추천했다.

이 소위는 암호해독에 대한 교육을 전혀 받지 않았지만 신문이나 잡지의 십자말풀이를 기막히게 잘했다.

키가 크고 말랐으며 말투가 상냥한 이 소위는 곧 새포드에게 인정을 받아 다음해인 1925년에는 OP-20-G 내에서 새포드의 바로 아래인 제2인자가 되었고, 이후 새포드의 동료로서 함께 OP-20-G 를 키워 나갔다.

미드웨이 해전을 이야기할 때 절대로 빼놓을 수 없는 일등공신의 한 사람인 조셉 로슈포트 중령은 이렇게 암호해독가로서의 첫발을 내디뎠다.

 

(조셉 로슈포트 중령)

 

1929년에 미해군은 로슈포트를 포함한 3명의 장교를 3년간 일본에 파견했다.

표면상으로는 주일 미대사관의 무관이었지만 실제로는 일본어와 문화를 공부하는 것이 목적이었다.

당시 로슈포트와 함께 파견된 장교들 중에는 나중에 태평양함대의 정보참모로서 로슈포트의 단짝이 되는 에드윈 레이튼 중위도 끼어 있었다.

 

미해군은 현장을 모르는 책상물림들이 수뇌부에 앉는 것을 막기 위하여 장교들이 진급을 하기 위해서는 반드시 일정기간(보통 1년) 동안 해상근무를 해야만 하는 것을 원칙으로 하고 있었다.

따라서 새포드와 로슈포트도 몇 년마다 반드시 해상근무를 해야만 했고 그럴 때는 육상에 남은 사람이 OP-20-G 를 책임졌다.

 

1941년 6월에 전쟁의 위험이 높아지자 새포드는 이제 중령 승진을 앞둔 로슈포트를 전투정보실(Combat Intelligence Unit = CIU) 로 이름이 바뀐 하와이의 하이포국 책임자로 임명했다.

이곳에서 로슈포트는 중령으로 승진하여 일본해군의 암호 중에서 난이도가 높은 '제독암호'(Admiral's Code)를 해독하는 임무를 맡았다.

하지만 당시 일본해군은 제독암호를 거의 사용하지 않았으므로 로슈포트는 제독암호로 발신되는 통신 자체를 접할 기회가 거의 없었고 따라서 해독작업도 전혀 진전이 없었다.

한편 일본해군이 실제로 사용하던 '작전암호'(Operational Code)의 해독작업은 필리핀의 캐스트국이 담당했다.

캐스트국에서는 작전암호의 해독에 결정적인 몇 가지 단서를 확보하기도 했으나 정작 해독에는 실패했다.

 

그동안 하이포국에서는 남아도는 시간을 활용하여 정량적 분석에 힘을 기울였다.

이들은 일본군의 호출부호를 확인하고 통신의 빈도, 길이, 발신 위치 등을 통하여 의미있는 정보를 뽑아내는 정교한 방식을 개발했다.

예를 들어 특정 일본함대의 통신량이 갑자기 늘어나면 그 함대가 중요한 작전을 앞두고 있다는 의미였다.

함대가 해상에 나와 있다면 일정량의 통신을 발신하는 것이 당연했다.

만일 해상에 나와 있던 일본기동부대의 통신량이 갑자기 줄어들거나 없어진다면 이것은 어쩌면 통신량의 급증보다도 더 중요한 의미일 수 있었다.

 

물론 이러한 정량적 분석만으로는 한계가 있었고, 반드시 통신내용을 해독할 필요가 있었지만 하이포국은 이런 정량적 정보를 매우 정성들여 축적하고 철저하게 분석해 두었기 때문에 나중에 큰 도움을 받을 수 있었다.

예를 들어 하이포국은 특정 함정의 통신사들이 키를 두드리는 습관마저도 일일이 분류해 두었는데 가령 항공모함 아카기의 통신사는 키를 두드리는 습관이 매우 나빠서 마치 발로 걷어차는 듯했다.

 

실제로 미드웨이 해전에서 미해군의 돈틀레스들이 일본항공모함들을 성공적으로 기습하고 난 후 하이포국은 일본함대가 송신하는 것을 포착했는데, 나구모 제독의 호출부호를 사용하여 송신하고 있는 사람이 아카기의 통신사가 아니라는 것을 파악했다.

하이포국에서는 통신사의 키 두드리는 방식을 유심히 관찰한 후 송신한 인물이 경순양함 나가라의 통신사임을 확인했다.

따라서 태평양함대 사령부는 일본함대의 통신내용을 전혀 알 수 없었음에도 불구하고 제1기동부대의 기함 아카기가 돈틀레스의 폭격으로 큰 피해를 입어 나구모 제독이 경순양함 나가라로 사령기를 옮겼다는 사실을 알아내었다.

 

1941년 12월 7일에 일본이 진주만을 기습하자 미리 경고를 발하지 못했던 OP-20-G 는 된서리를 맞았다.

OP-20-G 를 창설하고 20년 가까이 애지중지 길러왔던 새포드 중령은 비명 한 번 지를 틈도 없이 하루아침에 목이 날아가고, 후임으로 암호해독과는 거의 인연이 없던 존 레드먼 대령이 임명되었다.

 

로슈포트 중령은 그래도 계속 하이포국의 책임자 자리를 유지할 수 있었는데 그것은 신임 태평양함대 사령관인 니미츠 제독 덕분이었다.

물론 니미츠 제독 역시 진주만 기습을 미리 경고하지 못한 하이포국과 로슈포트 중령을 믿지는 않았으나, 그는 태평양함대 사령관이 되기 직전까지 해군장교들의 인사를 담당하던 항해국장이었기 때문에 OP-20-G 의 새로운 책임자인 존 레드먼 대령을 잘 알고 있었다. 

니미츠 제독은 존 레드먼 대령이 뛰어난 장교이자 훌륭한 스포츠맨이며 전함과 순양함에서 통신관련 임무를 맡았다는 것을 알고 있었다.

그러나, 동시에 레드먼 대령이 암호해독 분야에서는 거의 경험이 없으며 단지  OP-20-G 가 소속되어 있는 해군 통신 부문을 총괄하던 조셉 레드먼 소장의 동생이라는 이유로 OP-20-G 의 책임자로 임명되었다는 사실 또한 잘 알고 있었다. 

따라서 니미츠 제독은 로슈포트 중령을 당장 경질하려는 레드먼 대령의 시도를 저지하고, 로슈포트 중령의 능력을 확인할 때까지 일단 하이포국의 책임자 자리에 그대로 앉혀 두기로 결정했다.

물론 로슈포트 중령은 곧 자신의 가치를 증명했다.

 

로슈포트 중령은 진주만이 기습을 받은 직후 더 이상 제독암호에 매달리는 것은 의미가 없다고 생각하고, 앞으로 일본해군의 작전암호를 해독하겠다고 태평양함대 사령부에 요청하여, 1941년 12월 17일에 허가를 받았다.

이때부터 하이포국은 일본해군의 작전암호 해독에 매달려 3개월 만인 1942년 3월 말에 드디어 해독에 성공했다.

만일 로슈포트 중령이 1941년 6월에 하이포국에 부임하자마자 바로 작전암호 해독을 담당했다면 어쩌면 진주만 기습을 미리 알아차렸을지도 모른다.

 

1924년에 창설되면서 OP-20-G 는 처음으로 접한 일본해군의 암호를 JN-1(Japanese Naval Code, Ver.1) 이라고 불렀다.

이후 일본해군이 암호를 개량할 때마다 버전도 점점 올라갔다.

1939년 6월에 일본해군은 한층 복잡하고 해독하기 힘든 암호를 도입했는데 이것이 JN-25 였다.

6개월 후인 1940년 1월 1일부터 일본해군은 JN-25 를 개량한 JN-25b 를 도입했는데, 미해군의 암호해독가들이 이 JN-25b 를 해독하는데 2년 이상이 걸렸다.

 

JN-25b 는 겉보기에는 단순한 형식을 띠고 있었다.

모든 암호는 약 40,000 - 45,000 개의 5자리의 숫자로 이루어져 있었고, 각 숫자가 하나의 단어를 의미했다.

그러나 숫자 중간중간에는 적의 암호해독가들을 혼동시키기 위하여 의미없는 가짜 숫자가 들어 있었다.

또한 송신하기 전에 원래 숫자에다가 별도의 난수표에 있는 숫자를 더하여 송신했다.

더한 숫자가 난수표 몇 페이지 몇째줄 몇번째 숫자인지는 통신 속에 숨어있는 지시숫자를 확인해야 했다.

따라서 암호를 받는 쪽에서는 먼저 지시숫자를 적은 암호첩을 보고 통신 속에서 지시 숫자를 찾은 다음 지시 숫자가 가리키는 난수표를 찾아서 해당 페이지, 해당 줄의 해당 위치에 있는 특정 숫자를 수신받은 숫자들에게서 빼고 나서 그렇게 나온 숫자를 가지고 암호집을 뒤져 대응하는 단어를 찾아야 했다.

한마디로 JN-25b 를 난수표나 암호집 없이 해독하기는 대단히 어려웠으며, 실제로 일본해군은 자신들의 암호를 해독하는 일은 절대로 불가능하다고 믿었다.

 

그러나 일본해군의 통신량이 하루 500 통에서 1,000 통 정도로 대단히 많았기 때문에 미해군의 암호해독가들은 IBM 사가 만든 컴퓨터의 조상에 해당하는 기계의 도움을 받아 일본해군의 통신문 속에서 일정한 패턴을 발견해 분류하고 그것을 분석했다.

그 결과 그들은 가짜 숫자를 구분하는 아주 간단한 방법을 알아내었는데 그것은 원래 숫자 중 의미가 있는 숫자는 반드시 3으로 나누어진다는 것이었다.

또한 캐스트국에서는 JN-25b가 처음 도입된 40년 초반에 일본해군이 같은 내용을 이미 해독이 가능한 JN-25 와 새로운 JN-25b 를 모두 사용하여 통신한 사례를 몇 건 확보해 두었다.

이것은 하이포국에게 그야말로 로제타석이나 마찬가지였다.

여기에 로슈포트 중령의 뛰어난 기억력과 추리력, 그리고 일본어와 일본문화 및 일본인의 사고방식에 대한 이해 능력이 합쳐지자 난공불락이던  JN-25b 도 서서히 읽어낼 수 있었다.

 

진주만 기습을 예고하지 못한 죄로 지위가 불안하던 로슈포트 중령은 1942년 1월 중순에 제한적인 정보를 토대로 승부수를 던졌다.

로슈포트 중령은 일본해군의 통신에서 건져낸 '공격부대' 및 'RR' 이라는 단 2개의 단어와 통신량 및 송신 위치만을 근거로 일본군이 곧 라바울을 공격할 것이라고 니미츠 제독에게 말했다.

실제로 일본이 1월 23일에 라바울을 침공하자 감명을 받은 니미츠 제독은 로슈포트 중령의 능력을 인정했고, 이후 로슈포트 중령은 레드먼 대령의 교체 위협을 두려워하지 않아도 되었다.

이후 2월과 3월을 거치면서 하이포국의 암호해독능력은 쑥쑥 늘어나서 3월 말이 되자 전술적인 의미가 있을 정도로 정확한 해독이 가능해졌다.

물론 그렇다고 해서 하이포국이 마치 일본군의 서류를 손에 들고 보듯이 척척 읽어낼 수 있는 것은 아니었다.

 

당시 하이포국은 일본해군 통신량의 약 60% 정도를 가로채었고, 모든 인력이 12시간 교대로 24시간 내내 일했음에도 불구하고 인력과 시간의 부족으로 그 중에서 약 40% 정도만 분석할 수 있었다.

하이포국은 통신의 길이, 빈도, 송신 위치 등을 따져 중요하다고 생각되는 통신을 골라낸 다음 분석에 들어갔는데 보통 분석에 들어간 분량의 절반 정도만 해독이 가능했다.

따라서 일본해군의 전체 통신량 중에서 약 10% - 15% 정도만을 해독하는 셈으로, 예를 들어 1942년 5월 5일에 하이포국이 해독한 문장은 다음과 같았다.

 

"카가와 (?????) (?????) 더 적은 (?????) 그리고 (?????) 5월 4일에 (?????) 붕고수도를 떠날 것이며 (?????) (?????) 도착할 것이다."

("Kaga and (?????) (?????) less (?????) and (?????) will depart Bungo Channel (?????) May 4th and arrive (?????) (?????)")

 

이제 빈 칸을 채우는 것은 로슈포트 중령의 몫이었다.

이러한 해독과정에 큰 도움을 준 사람은 태평양함대의 정보참모로서 일본유학 시절 로슈포트 중령과 친하게 지냈던 에드윈 레이튼 중령이었다.

로슈포트 중령보다도 일본어와 일본문화, 일본식 사고방식에 훨씬 더 정통했던 레이튼 중령은 니미츠 제독으로부터 야마모토 제독처럼 생각해서 그가 할 행동을 예측하라는 명령을 받았을만큼 태평양함대 내에서 대표적인 일본통이었다. 

 

(태평양함대의 정보참모 에드윈 레이튼 중령. 자세한 내용은 여기로)

 

니미츠 제독이 로슈포트 중령을 점차 믿을수록 하이포국과 워싱턴에 있는 OP-20-G 와의 대립 상황은 점차 심각해져 갔다.

레드먼 대령은 킹 제독의 허가를 받아 하이포국을 포함한 전 세계의 미해군 암호해독가들이 해독한 내용을 OP-20-G 에서 종합하여 다시 지역 사령관들에게 배포하는 체계를 만들려고 하고 있었다.

그런데 하이포국이 워싱턴을 거치지 않고 태평양함대 사령부에 직접 보고하자 킹 제독에게 이러한 상황을 바로잡아 달라고 요청했다.

레드먼 대령의 요청을 받은 킹 제독이 니미츠 제독에게 앞으로는 하이포국으로부터 직접 보고를 받지 말고 일단 워싱턴으로 보내어 검증을 받은 내용을 보고받으라고 권고하자 니미츠 제독은 즉각적이고 날카롭게 반발했다.

예상 외의 반응에 놀란 킹 제독은 니미츠 제독의 사람보는 안목을 높이 평가하고 있었으므로 갑자기 로슈포트 중령의 능력이 궁금해졌다.

킹제독은 이례적으로 로슈포트 중령에게 직접 전문을 보내어 일본기동부대의 행동을 중심으로 태평양의 상황에 대한 평가를 요구했다.

 

로슈포트 중령은 즉시 부하들을 불러모아 상황을 분석하고 보고서를 작성한 다음 니미츠 제독의 허가를 받아 워싱턴에 전송했다.

킹 제독은 보고서 제출을 요구한 뒤 불과 6시간 후에 로슈포트 중령의 보고서를 받았는데, 분량은 반페이지도 안되었으며, 내용은 군더더기 없이 깔끔했다.

 

1. 일본기동부대는 인도양에서 철수 중이며, 다음 작전은 태평양에서 실시할 것이다.

2. 일본은 호주를 점령할 계획을 가지고 있지 않다.

3. 다음 작전은 라바울을 출발한 부대가 산호해를 통하여 포트모르즈비를 공격하는 것으로 기동부대의 항공모함이 참가하지만 전부 참가하지는 않는다.

4. 포트모르즈비 작전 다음에는 더 큰 작전이 예정되어 있는데 정확한 목적이나 대상 지역은 모른다.

 

킹 제독은 단 4 문장으로 그 복잡하고 방대한 내용을 간명하게 정리하고 거기에 더하여 알고 있는 것과 모르고 있는 것까지 명확하게 구분한 로슈포트 중령의 보고서에 큰 감명을 받았다.

당시 킹 제독의 책상에는 벨코넨국의 정보를 바탕으로 일본군의 다음 목표가 포트모르즈비가 아닌 알류샨 열도라는 간단한 내용을 쓸데없이 장황하게 늘어놓은 OP-20-G 의 두툼한 정보 보고서가 놓여 있었다.

두 보고서를 비교해 본 킹 제독은 로슈포트 중령의 예측이 옳고 그름을 떠나 이런 식의 깔끔한 정보보고를 매일 받던 니미츠 제독이 OP-20-G 를 거치라는 킹 제독의 명령에 반발하는 것은 당연하다는 사실을 인정했다.

이후 산호해 해전과 미드웨이 해전을 거치면서 로슈포트 중령의 예측이 정확하다는 사실이 드러나자 적어도 태평양함대의 작전에 관한 한 OP-20-G 와 레드먼 대령은 완전히 뒷전으로 밀려났다.

 

니미츠 제독은 하이포국의 의견에 따라 산호해에 일본항모기동부대가 나타난다는 전제 하에 결전을 준비했다.

그러나 엔터프라이즈와 호넷이 둘리틀 공습을 위하여 빠져나가는 바람에 렉싱턴과 요크타운 밖에 투입할 수 없었다.

혹시라도 일본군의 작전개시가 늦어질 때를 대비하여 엔터프라이즈와 호넷도 진주만으로 돌아오는 즉시 산호해로 파견했으나 아무리 빨라도 5월 14일 이전에는 도착할 수 없었다.

결국 태평양함대와 일본연합함대는 각각 항공모함 세력의 일부만을 투입한 산호해 해전에서 최초로 정면 대결을 벌이게 되었다.