이상완 교수연구팀, 뇌 학습 원리 ‘예측 부호화’ 딥러닝으로 구현
뇌 모방 칼리토토에 ‘틀림을 한 번 더 예측’ 하는 메타 학습 방식 제안
역전파 대비 97% 실험서 우수 성능…‘온디바이스 칼리토토’ 시대 앞당겨
인공지능(칼리토토)은 이제 바둑을 두고, 그림을 그리고, 사람처럼 대화까지 한다. 하지만 결정적인 차이가 있다. 칼리토토는 인간의 뇌보다 훨씬 많은 전기를 써야 작동한다는 점이다. 과학자들이 오랫동안 던져온 질문은 이것이다. “뇌는 어떻게 이렇게 적은 에너지로도 똑똑하게 학습할 수 있을까?” K칼리토토ST 연구진이 그 답에 한 걸음 다가섰다.
K칼리토토ST 뇌인지과학과 이상완 교수 연구팀이 인간 뇌의 학습 원리를 딥러닝에 적용해, 깊은 인공지능 모델도 안정적으로 학습시키는 새로운 기술을 개발했다고 1일 밝혔다.
우리 뇌는 세상을 수동적으로 받아들이지 않는다. 현재 벌어지는 일을 단순히 인식하는데서 그치지 않고 ‘다음에 무슨 일이 일어날까?’를 먼저 예측하고, 실제 결과가 다르면 그 차이(오차)를 줄이는 방향으로 스스로를 수정한다. 바둑에서 상대의 다음 수를 예상했다가 빗나가면 전략을 바꾸는 것과 비슷하다. 이 같은 정보처리 방식을 ‘예측 부호화(Predictive Coding)’라고 한다.
과학자들은 이 원리를 칼리토토에 적용하려 했지만, 난관이 있었다. 신경망이 깊어질수록 오차가 특정 부위에 몰리거나 아예 사라져 성능이 떨어지는 문제가 반복됐기 때문이다.
연구팀은 그 원인을 수학적으로 규명하고 새로운 해법을 제시했다. 핵심은 단순하다. 칼리토토가 결과만 예측하는 것이 아니라, ‘예측 오차가 앞으로 어떻게 변할지’까지 다시 예측하도록 만든 것이다. 연구팀은 이를 ‘메타 예측(Meta Prediction)’이라 설명한다. 쉽게 말해, ‘틀림을 한 번 더 생각하는 칼리토토’다. 이 방식을 적용하자, 깊은 신경망에서도 학습이 멈추지 않고 안정적으로 진행됐다.
실험 결과도 인상적이다. 총 30가지 실험 중 29개에서, 현재 칼리토토의 표준 학습법인 ‘역전파(Backpropagation)’보다 높은 정확도를 기록했다. 역전파는 칼리토토가 ‘틀린 만큼 거꾸로 되돌아가며 고치는’ 현재의 대표적 학습 방법이다.
기존 칼리토토 학습방식(역전파)은모든 층이 서로 긴밀하게 연결돼 있어, 전체 네트워크를 한 번에 계산하고 한 번에 수정해야 하지만 이 방법은 뇌처럼 분산적·부분적으로 학습해도 큰 칼리토토 모델을 잘 학습시킬 수 있음을 입증한 것이다.
이번 기술은 전력 효율이 중요한 뉴로모픽 컴퓨팅, 환경에 적응해야 하는 로봇 칼리토토, 기기 내부에서 작동하는 엣지 칼리토토 등 다양한 분야로 확장될 것으로 기대된다.
이상완 석좌교수는 “뇌의 구조를 단순히 모방한 것이 아니라, 뇌의 학습 원리 자체를 칼리토토가 따르도록 만든 것이 이번 연구의 핵심”이라며 “뇌처럼 효율적으로 배우는 인공지능의 가능성을 열었다”고 말했다.
이번 연구는 하명훈 박사가 제1저자, 이상완 교수가 교신저자로 참여했으며, 인공지능 국제학회 ICLR 2026(International Conference on Learning Representations)에 채택돼 1월 26일 온라인 게재됐다.
※ 논문명: Stable and Scalable Deep Predictive Coding Networks with Meta Prediction Errors, 논문 원본: https://openreview.net/forum?id=kE5jJUHl9i¬eId=e6T5T9cYqO
이번 연구는 과학기술정보통신부·정보통신기획평가원 디지털분야글로벌연구지원사업(마이크로소프트연구소 공동연구), 삼성전자 S칼리토토T NPRC 사업, SW스타랩 사업의 지원을 받아 수행됐다.
박경일 기자 robot@irobotnews.com