[arXiv] MEG-XL: 뇌신경 데이터의 롱컨텍스트 사전 학습을 통한 데이터 효율적 뇌-텍스트 디코딩

Background and Overview

전신 마비 환자를 위한 뇌-컴퓨터 인터페이스(BCI) 기술은 환자의 뇌 활동을 텍스트로 전환하여 의사소통을 돕는 것을 목표로 합니다. 하지만 임상 현장에서 이 기술을 적용하는 데 있어 가장 큰 걸림돌은 데이터의 부족입니다. 마비 환자들은 모델을 학습시키기 위한 대량의 뇌파 기록을 생성하기 어렵기 때문입니다. 기존의 비침습적 방식(MEG, EEG)은 수술이 필요 없어 안전하고 대규모 데이터 수집이 용이하지만, 신호 대 잡음비가 낮아 침습적 방식에 비해 정확도가 떨어지는 한계가 있었습니다.

특히 기존의 뇌 Foundation Model들은 수 밀리초에서 수 초 내외의 짧은 신경 문맥만을 다루어 왔습니다. 이는 언어 모델이 문장과 문맥의 긴 흐름을 파악하는 것과 대조적으로, 뇌 신호에 담긴 장기적인 의존성을 무시하는 결과를 초래했습니다. MEG-XL 연구팀은 바로 이 지점에 주목했습니다. 뇌가 언어를 처리할 때 발생하는 신호는 단어 단위를 넘어 수 분간 지속되는 통계적 우선순위를 가지고 있으며, 이를 모델링할 수 있다면 적은 데이터로도 높은 일반화 성능을 얻을 수 있다는 가설을 세운 것입니다.

Model-Specific Test Results

MEG-XL은 다양한 벤치마크 테스트에서 기존의 뇌 Foundation Model들과 지도 학습 기반의 최신 모델(SOTA)을 압도하는 성능을 보여주었습니다. 특히 데이터가 극도로 부족한 ‘Shallow’ 데이터 환경에서 그 진가가 드러났습니다.

• 저데이터 구간의 압도적 우위: 전체 학습 데이터의 13%만을 사용했을 때, 기존 베이스라인 모델들이 무작위 예측 수준에 머무는 것과 달리 MEG-XL은 47~57%의 Top-10 정확도를 기록했습니다. 이는 기존 모델 대비 약 2.5배 이상의 성능 향상입니다.
• 지도 학습 모델과의 비교: 수십 시간의 개인별 데이터를 학습해야 하는 기존 SOTA 지도 학습 모델과 비교했을 때, MEG-XL은 단 1시간의 라벨링된 데이터만으로도 대등하거나 더 우수한 성능을 발휘했습니다.
• 컨텍스트 길이에 따른 성능 변화: 실험 결과, 사전 학습 시 문맥의 길이를 늘릴수록 단어 디코딩 성능이 지속적으로 향상되는 것이 확인되었습니다. 특히 150초의 긴 문맥을 학습한 모델은 짧은 문맥 모델이 학습하지 못하는 계층적 주의 집중 패턴을 습득하는 것으로 나타났습니다.
• 제로샷 예측 성능: 한 번도 보지 못한 새로운 피험자와 데이터셋에 대해서도 문맥 길이가 길수록 뇌 신호 예측 정확도가 로그-선형(Log-linear) 형태로 개선되는 스케일링 법칙을 보여주었습니다.

Test Datasets

본 연구에서는 모델의 범용성과 데이터 효율성을 검증하기 위해 세 가지 주요 영어 MEG 데이터셋을 사용했습니다.

• MEG-MASC: 27명의 피험자가 각각 2시간 동안 짧은 이야기를 듣는 동안 기록된 데이터로, 피험자 수는 많지만 개인별 데이터는 적은 ‘Shallow’ 환경을 대표합니다.
• Armeni: 3명의 피험자가 10시간 동안 오디오북을 시청한 기록으로, 중간 정도의 데이터 밀도를 가집니다.
• LibriBrain: 단 한 명의 피험자가 52시간이라는 방대한 분량의 오디오북을 시청한 ‘Deep’ 데이터셋입니다.
• 사전 학습 데이터: CamCAN(휴식 및 감각 운동), MOUS(언어 처리), SMN4Lang(중국어 자연어 청취) 등 약 300시간 분량의 다양한 MEG 기록을 활용하여 800명 이상의 피험자로부터 추출된 범용적 뇌신경 패턴을 학습했습니다.

Research Methodology and Conclusion

MEG-XL은 뇌 신호의 시공간적 특징을 효율적으로 포착하기 위해 혁신적인 아키텍처를 도입했습니다.

1. 토큰화(Tokenization): BioCodec 토크나이저를 사용하여 다채널 MEG 신호를 이산적인 토큰으로 변환했습니다. 이 과정에서 각 채널을 독립적으로 인코딩하여 정보 손실을 최소화하고, 시간축으로 12배 압축을 수행하여 긴 문맥 처리를 가능하게 했습니다.
2. 크리스-크로스 트랜스포머(Criss-Cross Transformer): 일반적인 트랜스포머의 계산 복잡도 문제를 해결하기 위해 시간과 센서(공간) 축의 주의 집중을 병렬로 분리하여 처리하는 방식을 채택했습니다. 이를 통해 2.5분(150초)이라는 전례 없는 길이의 신경 문맥을 단일 샘플로 처리할 수 있었습니다.
3. 마스킹 전략: 전체 데이터의 40%를 3초 단위의 큰 블록으로 마스킹하고 이를 예측하게 함으로써, 모델이 인접한 신호의 단순 보간이 아닌 장기적인 신경 패턴을 학습하도록 유도했습니다.

결론적으로, MEG-XL은 뇌 신호 처리에 있어 ‘문맥의 확장’이 데이터 효율성을 극대화하는 핵심 열쇠임을 증명했습니다. 긴 문맥 사전 학습은 모델이 초반 레이어에서는 국소적인 정보를, 후반 레이어에서는 전역적인 정보를 통합하는 계층적 분석 능력을 갖추게 합니다.

Implications

이번 연구는 임상 BCI 분야에 몇 가지 중대한 시사점을 던집니다.

첫째, ‘데이터 병목 현상’의 해소입니다. 마비 환자로부터 수십 시간의 데이터를 수집하는 것은 현실적으로 매우 고통스럽고 어려운 일입니다. MEG-XL은 단 몇 분에서 한 시간 내외의 짧은 기록만으로도 실용적인 수준의 디코딩이 가능하다는 것을 보여줌으로써 BCI의 임상 진입 장벽을 크게 낮추었습니다.

둘째, 비침습적 방식의 잠재력 확인입니다. 흔히 비침습적 MEG/EEG는 정확도가 낮아 연구용으로만 치부되기도 했으나, 대규모 사전 학습과 롱컨텍스트 모델링을 통해 침습적 방식과의 격차를 줄일 수 있는 기술적 토대를 마련했습니다.

셋째, 뇌신경 데이터의 스케일링 법칙입니다. 언어 모델에서 확인된 문맥 길이의 중요성이 뇌 데이터에도 동일하게 적용된다는 사실은, 향후 더 큰 규모의 뇌 Foundation Model 개발에 있어 단순한 파라미터 증대보다 문맥의 질과 길이에 집중해야 함을 시사합니다.

References

• [1] https://arxiv.org/abs/2602.02494v1
• [2] https://github.com/neural-processing-lab/MEG-XL
• [3] Jayalath, D., Jones, O. P. (2026). MEG-XL: Data-Efficient Brain-to-Text via Long-Context Pre-Training. PNPL, University of Oxford.
• [4] d’Ascoli, S., et al. (2025). Towards decoding individual words from non-invasive brain recordings. Nature Communications.
• [5] Avramidis, K., et al. (2025). Neural codecs as biosignal tokenizers. arXiv preprint.
• [6] Xiao, Q., et al. (2025). BrainOmni: A brain foundation model for unified EEG and MEG signals. NeurIPS.

Tags

BrainToText #MEG #FoundationModel #LongContext #DataEfficiency #NeuroAI #뇌컴퓨터인터페이스 #뇌파디코딩 #인공지능논문 #데이터효율성 #롱컨텍스트 #비침습적BCI