메모리 반도체 시장과 증시에 충격을 준 구글의 터보퀀트는 인공지능(AI) 모델의 메모리 사용량을 줄여주는 기술입니다.

현지시간 26일 구글 등에 따르면 터보퀀트는 정확도 저하 없이 모델의 크기를 극단적으로 축소하는 압축 기법을 이용해 AI의 메모리 사용량을 6분의 1로 줄였습니다.

챗봇을 비롯한 AI 모델은 추론하고 답변을 생성하는 데 사용자와의 이전 대화와 검색 결과 등 주요 맥락 정보가 필요합니다.

대화가 오래 계속되면 메모리에 저장되는 맥락 데이터도 늘어나게 되고, 메모리 사용량도 그만큼 늘어나게 됩니다.

구글은 터보퀀트에서 맥락 데이터의 크기를 줄이는 '극좌표양자화'(폴라퀀트)와 오차를 줄이는 'QJL'(양자화 존슨-린덴스트라우스 변환) 기술을 바탕으로 이 같은 성과를 거뒀습니다.

폴라퀀트 기술은 AI가 다루는 데이터의 구조를 직교좌표계에서 극좌표계로 바꾸는 방식으로 크기를 줄입니다.

예를 들면 동쪽으로 3칸, 북쪽으로 4칸 가라는 식의 지시를, 37도 각도로 5칸 가라는 식으로 바꾸는 겁니다.

동서남북 네 방향밖에 없는 2차원 공간에서는 이와 같은 변화가 데이터 크기를 그다지 줄이지 못하지만, 실제로 AI가 사용하는 데이터는 수백∼수천 차원 벡터 구조로 돼 있기 때문에 효과가 큽니다.

이를 통해 기존 방식에서 발생하던 메모리 낭비를 줄일 수 있었다는 게 구글의 설명입니다.

압축하면서 발생할 수 있는 미세한 오차는 QJL 기술로 바로잡습니다.

단 1비트만을 소모하는 이 기술은 메모리를 거의 사용하지 않고도 일종의 '수학적 오류 검사기' 역할을 하게 됩니다.

이 기술이 메모리 사용량을 극단적으로 줄인다는 점 때문에 데이터센터 등을 운영하는 거대 기술기업들의 메모리 칩 수요가 줄어들 것이라는 우려가 나오며 삼성전자와 마이크론 등 메모리 기업의 주가가 떨어졌습니다.

그러나 장기적으로는 오히려 메모리 시장에 긍정적인 영향을 미칠 것이라는 게 시장 분석가들의 설명이라고 블룸버그 통신은 전했습니다.

숀 김 모건스탠리 분석가는 "모델이 성능 저하 없이 메모리 요구량을 낮춰 실행할 수 있다면 비용이 많이 감소해 AI 도입의 수익성이 높아질 것"이라며 "비용이 적어지면 제품 채택 수요도 증가해 장기적으로 메모리 제조사에도 이익이 될 것"이라고 내다봤습니다.

영국 경제학자 윌리엄 제번스가 주창한 대로, 기술의 효율성이 높아질수록 제품의 채택과 수요가 오히려 늘어난다는 '제번스의 역설'이 적용될 것이란 설명입니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이성섭(leess@yna.co.kr)