• [교수님 인터뷰] 서울대학교 원자핵공학과_ 나용수 교수
  • 핵융합 성능 결정짓는 난류 제어의 열쇠를 찾다 고에너지 입자를 활용한 플라즈마 난류 억제 메커니즘 규명

  • 태양의 에너지 생성 원리를 지구상에 구현하려는 핵융합은 인류의 에너지 미래를 바꿀 궁극의 대안이다. 이를 실현하려면 수소 이온을 1억 도 이상의 초고온 플라즈마 상태로 장시간 가두어 두는 기술이 전제되어야 하는데, 플라즈마 내부에서 자발적으로 발생하는 불규칙한 ‘난류’는 열을 외부로 유출하며 효율을 떨어뜨리는 고질적인 방해 요인으로 작용해 왔다. 그간 학계에서 고에너지 입자는 핵융합 반응을 저해하는 불안정한 요소로 여겨졌으나, 최근 이를 제어의 핵심 열쇠로 활용할 수 있다는 새로운 가능성이 열렸다.
    서울대학교 나용수 교수 연구팀은 전 세계 토카막 장치에서 축적된 방대한 실험 데이터와 정밀 시뮬레이션을 분석해, 고에너지 입자가 플라즈마 난류를 억제하는 네 가지 핵심 물리 기작을 체계적으로 분류하고 규명해냈다. 특정 조건에서 고에너지 입자가 난류와 상호작용하며 에너지 손실을 차단하고 초고온 상태를 유지하도록 돕는 구체적인 경로를 입증함으로써, 기존의 학술적 통념을 완전히 뒤집는 성과를 거둔 것이다. 이번 연구는 한국형 핵융합로 KSTAR를 포함한 차세대 핵융합 장치 설계에 있어 고에너지 입자를 최적화할 수 있는 실질적인 이론적 가이드라인을 제시했다는 점에서 의미가 깊다. 가둘 수 없는 태양의 열기를 정교하게 통제된 빛으로 바꾸는 이 치밀한 설계도는, 인류가 끝내 마주할 찬란한 인공태양의 시대를 지탱하는 견고한 주춧돌이 될 것이다.


    ‘FIRE 모드’의 발견과 인공태양의 온도 혁신

    대한민국 핵융합 연구의 위상은 2022년 한국의 초전도 토카막 장치인 KSTAR가 달성한 세계 신기록을 기점으로 새로운 국면을 맞이했다. 당시 나 교수 연구팀은 1억 도 이상의 초고온 플라즈마를 20초 이상 유지(2025년 기준 48초)하는 데 성공하며 그 물리적 기작을 국제 학술지 ‘네이처(Nature)’에 발표했다. 
    이 과정에서 발견된 새로운 운전 시나리오는 ‘FIRE(Fast Ion Regulated Enhancement) 모드’라 명명되었다.
    이러한 성취는 철저히 기획된 시나리오가 아니라 실험 과정에서 마주한 예기치 못한 현상에서 시작되었다. 연구진은 본래 기존 방식을 최적화해 플라즈마가 깜빡거리는 ‘경계면 불안정성’을 관찰하려 했으나, 실험 결과 해당 현상이 나타나지 않아 초기에는 이를 실패한 실험으로 간주하려 했다. 그러나 데이터를 면밀히 확인하던 중 플라즈마 온도가 의도치 않게 1억 도에 도달해 있다는 사실이 포착되었다. 초기에는 1초 미만의 짧은 순간이었으나, 연구진은 이 현상의 원인을 규명하기 위해 고에너지 입자의 거동에 집중했다.
    데이터의 신뢰성을 확보하는 과정은 치밀했다. 국소적인 온도 상승이 아닌지 확인하기 위해 추적한 결과, 가열 시 발생한 고에너지 입자들이 플라즈마 내부에 집중적으로 잔류하며 안정성을 높이고 있음이 밝혀졌다. 플라즈마 내부의 에너지를 분산시켜 온도를 떨어뜨리는 주범인 ‘난류’를 고속으로 통과하는 입자들이 마치 쓸어버리듯 제거한 것이다. 뜨거운 액체를 저으면 열이 빠르게 식듯 난류는 에너지 손실의 원인이 되지만, 고에너지 입자들이 이 흐름을 억제하자 열이 축적되며 온도가 급격히 상승했다.
    “‘FIRE 모드’는 플라즈마 가열 시 발생한 높은 에너지의 입자들이 플라즈마 내부의 난류를 안정화시켜 온도를 급격히 높이게 된 운전모드입니다. 예측한 대로 실험이 진행되지 않았던 실패한 결과를 분석하다가 새롭게 얻어낸 창의적인 결과물로, 한국의 핵융합 연구가 기존과 다른 독창적인 방식으로 이루어질 수 있음을 보여준 사례라고 생각합니다.”
    KSTAR에서 거둔 독창적인 성과는 일반 학계를 넘어 국제적인 관심을 불러일으켰다. 물리학 권위지인 ‘네이처 리뷰스 피직스(Nature Reviews Physics)’의 에디터는 나 교수에게 고에너지 입자에 의한 난류 억제 현상을 학문적으로 총망라해 줄 것을 직접 요청했다. 이를 계기로 연구는 KSTAR라는 개별 장치의 성과를 설명하는 수준에서 벗어나 전 세계 토카막 장치들의 데이터를 종합 분석하는 총설 연구로 확장되었다.
    연구팀은 함택수 교수를 비롯해 미국, 프랑스, 독일 등 세계적인 석학들과 협력해 독일의 ASDEX Upgrade, 미국의 DIII-D, 유럽연합의 JET 등 주요 장치에서 수행된 실험 결과들을 분석했다. 그 결과 고에너지 입자와 플라즈마 난류 간의 상호작용을 네 가지 주요 물리 기작으로 분류하는 데 성공했다. 자기장 구조 변화, 이온 밀도 희석, 난류와의 직접적 상호작용, 그리고 불안정성 유발을 통한 간접 작용 등이 고에너지 입자가 ‘전단유동(zonal flow)’이라 불리는 유동을 강화시켜 난류를 억제하는 구체적인 경로로 작용하고 있었다. 이는 파편화되어 있던 세계 각국의 실험 결과들을 일관된 물리 법칙으로 해석해 낸 학문적 진전이었다.


    집단지성으로 증명한 핵융합 성능 향상의 열쇠

    이번 연구는 ‘네이처 리뷰스 피직스’ 2025년 4월호에 게재되며 결실을 맺었다. 그러나 그 이면에는 글로벌 공동 연구를 수행하며 넘어야 했던 수많은 난관들이 존재한다. 해당 분야를 선도하는 세계적 석학들이 모인 만큼, 특정 현상에 대한 해석을 두고 팽팽한 논쟁이 이어졌기 때문이다. 각자의 학문적 통찰이 충돌하는 지점에서 모든 참여자가 고개를 끄덕일 수 있는 결론을 도출하기 위해 치열한 문구 조율 과정이 뒤따랐다. 복잡한 실험 데이터와 시뮬레이션 결과 속에 숨겨진 물리 현상을 네 가지 핵심 기작으로 정리해 내는 일은 고도의 지적 인내를 요구하는 도전이었다. 때로는 공동저자 간에 정반대의 해석을 고수하며 긴장감이 감돌기도 했지만, 서로의 주장을 부딪히기보다는 진실을 왜곡하지 않으면서도 모두가 수긍할 수 있는 표현을 찾아내기 위해 수십 번 원고를 고쳐 썼다.
    “일반적인 공동 연구와 달리 이번 프로젝트는 실험, 이론, 시뮬레이션 전문가 10여 명이 수시로 치열한 토론을 거쳤습니다. 시뮬레이션 결과가 실험 데이터와 부합하는지, 이론적 모델링이 실측치와 일치하는지를 대조하며 수없이 수정하고 검증하는 과정을 반복했죠. 이러한 집단지성을 통해 얻어낸 학문적 ‘교집합’은, 한국의 핵융합 연구가 개별적인 발견에 머물지 않고 통합적인 체계를 갖춘 학문으로 거듭나는 결정적인 계기가 되었습니다.”
    이번 연구는 핵융합 성능을 저해하는 장애물로 치부되었던 고에너지 입자가 사실은 난류를 억제하는 핵심 자산이라는 점을 물리적으로 증명했다는 데 큰 의의가 있다. 과거의 연구들은 외부에서 인위적으로 유동을 주입하거나 전류 분포를 조정하며 난류를 제어하는 방식에 의존했다. 하지만 연구팀은 고에너지 입자가 자발적으로 생성하는 ‘전단유동’이 난류를 효과적으로 제거한다는 사실을 규명하며 향후 상용 핵융합로에서 전기출력을 높일 수 있는 새로운 가능성을 제시했다. 흩어져 있던 데이터들을 체계적으로 재정리해 상호작용의 근본적인 기작을 밝혀냄으로써 핵융합 물리 이해의 폭을 넓혔다는 평가를 받는다.
    후속 연구는 발견된 물리적 현상을 정밀하게 최적화하는 데 방점이 찍혀 있다. 고에너지 입자는 플라즈마의 안정성을 위협할 수도 있는 ‘동전의 양면’과 같은 속성을 지닌 까닭이다. 입자를 플라즈마 중심부와 가장자리에 어느 정도 비율로 배치할 것인지에 대한 정밀한 조건을 설계하는 작업이 현재 진행 중이다. 연구팀은 이를 바탕으로 KSTAR에서의 장시간 운전을 실현하고, 나아가 실제 전기를 생산하게 될 한국형 핵융합로만의 고유한 기술적 정체성을 확립할 방침이다. 독자적인 운전 방식인 ’FIRE 모드‘가 세계 핵융합 발전의 새로운 표준으로 자리 잡는 날까지 학문적 실증은 계속될 것이다.


    폭주전자 원리 규명, 핵융합 상용로의 안전 지도를 그리다

    나 교수는 이번 성과에 앞서 핵융합 연구의 선두주자로서 뚜렷한 족적을 남겨 왔다. 2024년, 그의 연구팀은 핵융합 상용로 설계 단계에서 마주하게 될 고질적인 난제인 ‘폭주 전자’의 발생 원리를 규명하며 학계의 주목을 받았다. 핵융합 반응을 위해 토카막 장치를 시동할 때, 번개가 칠 때와 유사한 강한 전기장이 형성되는데, 이때 가속을 멈출 수 없는 고에너지 전자들이 무더기로 발생한다. 이들은 플라즈마 형성을 방해할 뿐만 아니라 장치 벽면에 치명적인 손상을 입히는 주범으로 꼽혀왔다. 그동안 관련 이론들은 상황별로 파편화되어 있어 체계적인 이해가 부족했으나, 연구팀은 이를 통합적으로 설명할 수 있는 이론적 병목을 해결했다.
    연구팀은 독일 막스 플랑크 연구소 및 국제핵융합실험로(ITER) 기구와 공동으로 동역학 이론을 일반화해 새로운 발생 기작을 밝혀냈다. 특히 토카막 시동 과정에서 수소 원자와 비탄성 상호작용을 거치지 않는 일부 전자들이 폭주 전자 형성의 핵심 원인임을 입증했다. 이는 고전 모델이 예측했던 결과와는 상반된 발견으로, 핵융합 물리의 새로운 지평을 열었다는 평가를 받으며 국제학술지 ‘피지컬 리뷰 레터스(Physical Review Letters)’에 게재되었다.
    “인공 태양 가동 초기에 발생하는 폭주 전자는 장치의 내구성을 위협하는 핵심적인 요인입니다. 당시 연구를 통해 파편화되어 있던 관련 이론들을 통합적으로 총정리하고 발생 메커니즘을 명확히 규명했습니다. 원인을 파악했다는 것은 곧 이를 회피하고 제어할 기술적 근거를 마련했다는 의미이기도 하죠. 따라서 이제는 현상을 관찰하는 수준에서 벗어나 실제 발전소 환경에서 장치를 보호하고 효율을 극대화하는 실질적인 운전 기술을 개발하고자 합니다.” 연구팀은 현재 이 이론을 바탕으로 국제핵융합실험로(ITER)와 향후 건설될 상용 핵융합로 설계 단계에서 폭주전자를 회피할 수 있는 구체적인 운전 조건을 도출하는 예측 계산을 수행 중이다. 연구팀이 정립한 이 메커니즘은 차세대 핵융합 장치의 설계와 안전 가이드라인을 결정하는 핵심 지표로 활용될 전망이다.


    권위를 깨는 무제한 토론과 독자적인 오리지널리티의 요람

    나 교수 연구실의 공기는 수평적이면서도 뜨겁다. 오펜하이머의 철학을 이어받은 ‘무제한 토론’이 연구실 운영의 뼈대를 이룬다. 랩 미팅은 성과를 과시하는 자리가 아닌, 타인의 시선을 빌려 자신의 맹점을 보완할 ‘인풋(Input)’을 얻는 시간으로 정의된다. 지급된 권위가 진리 탐구를 방해해서는 안 된다는 신념에 따라 학생들은 교수에게 가감 없이 반론을 제기한다. 사소한 의문조차 학문적 진보의 불씨가 된다는 믿음 아래, 한 페이지의 데이터를 두고 몇 시간 동안 격론을 벌이는 일도 마다하지 않는다. 그 치열한 과정 속에서 실험의 오류를 포착하고 KSTAR에서 수행할 새로운 영감을 얻는 것이 연구실의 일상이다.
    “연구실의 랩 미팅은 멋진 결과물을 뽐내는 자리가 아닙니다. 오히려 자신이 미처 생각하지 못한 부분을 동료들을 통해 채우는 '인풋'의 과정이라고 생각해요. 교수인 저의 의견이라도 잘못되었다고 판단되면 당당하게 지적할 수 있는 분위기를 강조합니다. 질문이 멈추는 순간 학문의 발전도 멈춘다고 믿기 때문이죠. 한 페이지의 데이터를 두고 두 시간 동안 격론을 벌이더라도 그 과정에서 새로운 아이디어를 얻는 것이 진정한 연구라고 생각합니다.”
    연구실의 인재 양성 전략 역시 세계 무대를 향해 있다. 역량을 갖춘 학생은 MIT나 프린스턴 등 해외 유수 기관으로 장기 파견을 보내 글로벌 네트워크를 형성하도록 돕는다. 이는 학생들이 각자의 분야에서 전 세계 최고를 경험하길 바라는 나 교수의 교육 철학이 반영된 결과다. 다만 그는 우수 인재들이 해외의 아이디어를 실현해 주는 ‘몸체(Body)’ 역할에만 머무는 현실을 경계한다. 서구권의 발상을 현실로 구현하는 수준을 상회해, 우리만의 독창적인 영감을 발휘함으로써 한국형 핵융합로 건설을 주도하는 주체적인 인재로 성장하길 희망한다.
    이러한 독창적인 ‘오리지널리티’를 확보하는 힘은 역설적이게도 실패를 대하는 연구자의 자세에서 시작된다. 타인의 설계를 뒤따르는 수준을 벗어나 스스로 새로운 길을 제시하려면, 남들이 버린 데이터 속에서 숨겨진 진실을 발견하는 끈기가 필수적인 까닭이다. 실패를 마주하는 태도와 한국형 핵융합의 정체성에 대해 나 교수는 다음과 같이 강조했다.
    “실패한 실험이나 오류가 난 계산 결과를 결코 가볍게 여겨서는 안 됩니다. 세상을 바꾼 발견들은 대개 실패한 데이터를 다시 살피는 끈기에서 탄생했기 때문입니다. 우리 학생들이 세계 유수의 연구소에서 경험을 쌓되, 타인의 아이디어를 실천하는 역할에만 머물지 않기를 바랍니다. 이제는 우리가 스스로 ‘FIRE 모드’와 같은 고유의 발상을 내놓고 한국형 핵융합로 건설의 주역이 되어야 할 때입니다.”
    실행력은 좋지만 자기 생각이 결여된 연구자가 되어서는 안 된다는 것이 그의 지론이다. 실패를 두려워하지 않는 창의적 도전과 이를 뒷받침하는 정밀한 검증이 결합할 때 비로소 독자적인 학문적 성채를 쌓을 수 있다. 나 교수는 우리 학생들이 전 세계 어디에 있든 궁극적으로는 한국 고유의 기술력을 완성하는 주역으로 성장하기를 기대하며 오늘도 연구의 온도를 높이고 있다.


    ‘태양을 만드는 사람들’, 핵융합의 서사를 알리다

    초등학생 시절 과학대사전에서 레이저 핵융합을 접하며 시작된 나 교수의 호기심은 독일 뮌헨 공과대학과 막스플랑크 플라즈마 물리연구소에서의 연구로 이어졌고, 현재 서울대 원자핵공학과에서 결실을 맺고 있다. 그는 연구에 몰두하는 틈틈이 핵융합의 가치를 전하는 강연 활동도 활발히 수행 중이다. 이러한 소명 의식은 지난 2024년 1월, 4년에 걸친 집필 끝에 탄생한 핵융합 대중서 ‘태양을 만드는 사람들’의 발간으로 이어졌다.
    이 책은 코로나19 유행 당시 미국 프린스턴 대학교에 머물던 시기, 국내에 핵융합을 제대로 소개하는 대중서가 전무하다는 현실을 마주하며 구상되었다. 지식 전달에만 치중한 기존 과학서의 틀에서 탈피해 독자가 마치 연구 현장의 한복판에 던져진 주인공이 된 듯한 서사적 구성을 취했다. 특히 2부에서는 구소련의 비밀연구소를 배경으로 독자가 직접 연구원이 되어 토카막 장치를 완성해 나가는 소설적 연출을 시도하며 대중의 흥미를 자극했다. 이러한 독특한 서술 방식은 핵융합이라는 낯선 분야에 대한 갈증을 채워주며 2025년 10월 기준 3쇄를 기록하는 등 뜨거운 반응을 이끌어냈다.
    “코로나19가 한창이던 시절, 자동차 정비소 사장님께서 서울대에 똑똑한 사람이 그렇게 많은데 왜 코로나는 해결하지 못하느냐고 물으셨던 적이 있어요. 그 질문은 제가 상아탑 안에만 갇혀 있는 것은 아닌지, 사회적 난제 해결에 진정 기여하고 있는지 깊이 성찰하게 만들었습니다. 지식인은 그저 지식을 쌓는 행위 자체에 머물지 않고 실질적인 기술과 해법을 통해 인류의 삶을 개선해야 한다는 신념을 이 책에 담고 싶었습니다.”
    음악 칼럼니스트로 활동할 만큼 깊은 예술적 조예를 지닌 나 교수의 감수성은 책 곳곳에 스며들어 있다. 핑크 플로이드부터 방탄소년단(BTS), 아이유에 이르기까지 각 장의 정서와 부합하는 노래 가사를 도입부에 배치해 과학의 높은 문턱을 낮췄다. KSTAR의 태동을 묘사하며 방탄소년단의 연습생 시절 절박함을 인용한 대목은 독자들 사이에서 큰 공감을 얻으며 유튜브 재생목록 공유로 이어지는 등 긍정적인 파급 효과를 낳았다. 또한, 책의 후반부에는 퇴임하거나 작고한 원로들의 구술과 희귀 사진 자료를 수집해 한국 핵융합 연구의 태동기를 생생하게 복원했다. 이는 한국 핵융합의 정체성을 확립하고 원로들의 노고를 기리는 기록으로서의 가치를 지닌다.
    “추후에 기술적인 설명 부분을 더욱 서사적인 방식으로 개편해 대중의 이해도를 높이는 작업을 이어갈 계획도 있습니다. 각 챕터에 난이도별 별점을 부여해 독자 수준에 맞는 읽기를 권장하는 장치도 고민 중입니다. 과학을 좋아하는 고등학생부터 일반인까지 누구나 핵융합의 매력을 느낄 수 있도록 지식의 장벽을 낮추는 노력을 멈추지 않겠습니다.”
    책은 총 5부로 밀도 있게 짜였다. 태양의 원리와 핵융합의 태동을 다룬 1부를 시작으로, 구소련 비밀연구소를 배경으로 토카막의 완성을 그려낸 2부, 전 세계 주요 연구소의 발전상을 훑는 3부로 이어진다. 4부에서는 전력 생산 과정과 상용화의 난제를 짚으며, 마지막 5부에서는 KSTAR를 중심으로 한국 핵융합 연구의 발자취를 세밀하게 복원했다. 나 교수는 지식의 장벽을 낮추는 작업을 통해 핵융합이 먼 미래의 꿈이 아닌 우리 곁의 현실로 다가오기를 희망하고 있다. 


    제5차 산업혁명의 서막, 한국형 핵융합의 미래

    글로벌 핵융합 시장은 이제 국가 주도의 연구 단계를 탈피해 민간 중심의 급격한 가속화 국면에 진입했다. AI 시대의 팽창으로 데이터 센터가 소비하는 막대한 전력을 감당하기 위해 기존 에너지 체계가 한계에 직면한 탓이다. 빌 게이츠와 샘 올트먼 등 글로벌 IT 거물들이 핵융합 스타트업에 천문학적인 자금을 투입하는 배경도 여기에 있다. 이미 2028년까지 실제 전력 공급 계약을 맺은 스타트업이 등장할 만큼 미국을 중심으로 한 핵융합 ‘붐’은 구체적인 실체로 부상했다. 국가 연구소의 인재들이 스타트업으로 이동하며 혁신적인 아이디어를 실전에 구현하는 역동적인 생태계가 구축된 결과다.
    이러한 급격한 변화의 흐름 속에서 대한민국의 선택은 어느 때보다 중요하다. 여전히 스타트업 생태계가 미약하고 대기업들 역시 과감한 투자를 주저하는 현재의 태도는 미래 산업의 주도권을 놓치는 결과로 이어질 위험이 크다. 정부 주도의 정체된 방식을 개선해 민관 협력을 통한 기술 혁신 가속화에 사활을 걸어야 할 시점이다.
    “정부 역시 미국과 중국의 스타트업 열풍을 예의주시하며 가속화 방안을 고심 중인 것으로 압니다. 하지만 수십 년간 KSTAR를 통해 쌓아온 국책 연구 성과가 민간의 혁신 속도에 밀려 사장되지 않으려면, 지금 즉시 민간 주도의 속도감 있는 전략으로 전환해야 합니다. 핵융합은 단 하나의 성공만으로도 인류의 삶을 송두리째 바꿀 파급력을 지니기에, 2030년 상용화 가능성을 염두에 둔 과감한 투자가 필요합니다. 지금 이 시기를 놓치면 미래의 에너지 주권은 물론 산업의 근간을 잃게 될지도 모릅니다.”
    나 교수의 향후 계획은 연구팀이 정립한 ‘FIRE 모드’를 기반으로 독창적인 핵융합 상용화 경로를 개척하는 데 방점이 찍혀 있다. 이는 정밀한 계산과 과학적 실증을 통해 실현 가능성을 하나하나 짚어가는 고된 여정이다. 연구자로서 그는 자신의 학문적 성취가 한국형 핵융합로의 독자적인 정체성을 확립하는 든든한 주춧돌이 되기를 소망한다. 핵융합 시대를 앞당기려는 그의 열망은 연구자로서의 궁극적인 지향점과도 맞닿아 있다.


    “저와 학생들의 연구가 핵융합의 실현을 단 1초라도 앞당기는 마중물이 되기를 간절히 바랍니다. 훗날 ‘나용수라는 연구자가 있어 핵융합 시대가 조금이라도 빨리 도래했다’라는 평가를 받는다면 연구자로서 더할 나위 없는 영광이겠지요. ‘FIRE 모드’를 초석 삼아 우리나라만의 독창적인 핵융합 방식을 제안하고, 이를 통해 세계 핵융합 발전의 새로운 표준을 선도해 나가겠습니다.”
    지구 위에 태양을 띄우려는 노력은 인류가 맞이할 가장 뜨거운 도전이다. 상아탑의 견고한 논리와 실험실의 치열한 검증이 만나 탄생한 한국형 핵융합의 가능성은 이제 거대한 흐름이 되어 미래를 향해 흐른다. 나 교수가 정립한 물리적 기작들은 인류가 어둠을 뚫고 끝내 손에 쥐게 될 찬란한 별빛의 설계도가 될 것이다. 가둘 수 없는 난류를 다스려 영원한 빛을 만드는 일, 그가 그리는 인공태양의 불꽃은 이미 인류의 내일을 환하게 비추고 있다.

    취재기자 / 안유정(reporter1@s21.co.kr)

    <이 기사는 사이언스21 매거진 2026년 5월호에 게재 되었습니다.>

  • 글쓴날 : [26-05-11 14:42]
    • 최진민 기자[reporter2@s21.co.kr]
    • 다른기사보기 최진민 기자의 다른기사보기