매경플러스

사진 확대

2년 전 한 AI(인공지능) 포럼에서 위르겐 슈미트후버(Jürgen Schmidhuber) 교수와 대담을 나눌 기회가 있었다. 그는 1997년 LSTM(장단기메모리·Long Short-Term Memory)을 제안한 유럽을 대표하는 AI 석학이다. 당시 그가 들려준 AI의 미래에 관한 이야기는 솔직히 너무 멀리 나간 이야기처럼 느껴졌다. 그러나 불과 2년이 지난 지금 AI가 발전하는 모습을 보면, 당시 그의 말이 과장이 아니었음을 새삼 깨닫게 된다.

사진 확대

LSTM이 던진 질문은 단순했다. 인공지능은 어떻게 오래된 정보를 잊지 않고 필요한 순간에 불러낼 것인가였다. 기존 순환신경망(RNN)은 입력 순서가 길어지면 초기 정보를 제대로 처리하지 못했지만, LSTM은 알고리즘으로 장기 의존성 문제를 어떻게 해결해낼 것인가에 대한 연구였다. 그리고, 30년 가까이 지난 지금, AI는 다시 ‘롱메모리’의 문제와 마주하고 있다. 이번에는 알고리즘을 넘어 물리적 메모리의 문제로 말이다.