선다 피차이 CEO가 인정한 구글의 실수, 그리고 반격의 조건
구글이 바라보는 AI의 현재와 미래는 어떤 모습일까요? 글로벌 핀테크 기업 '스트라이프'의 존 콜리슨 공동 창업자 겸 최고운영책임자(COO)는 팟캐스트 '치키 파인트'를 진행하고 있습니다. 아일랜드 출신인 그는 실리콘밸리의 주요 인사들과 기네스 맥주를 마시며 진솔한 대화를 나누는 것으로 잘 알려져 있습니다.
구글이 바라보는 AI의 현재와 미래는 어떤 모습일까요?
글로벌 핀테크 기업 ‘스트라이프’의 존 콜리슨 공동 창업자 겸 최고운영책임자(COO)는
팟캐스트 ‘치키 파인트’를 진행하고 있습니다.
아일랜드 출신인 그는 실리콘밸리의 주요 인사들과 기네스 맥주를 마시며 진솔한 대화를 나누는 것으로 잘 알려져 있습니다.
오늘은 구글의 선다 피차이 CEO 출연 프로그램 내용을 소개해 드리고자 합니다.
약 1시간 동안 진행된 이날 대담에서
선다 피차이 CEO는 AI 경쟁의 현주소, 1,800억 달러 규모의 투자 전략,
그리고 구글 내부의 변화를 솔직하게 털어놓았습니다.
특히 그는 한때 구글이 AI 모델 경쟁에서 뒤처졌다는 사실을 인정했습니다.
그러면서도 오랜 기간 축적해 온 인프라와 연구 역량이 이제 본격적으로 빛을 발하고 있다고 강조했습니다.
본지는 이날 대담의 핵심 내용을 아래와 같이 정리했습니다.
트랜스포머도, 대화형 AI도 구글이 먼저였다…그런데 왜 뒤처졌나
밀리초 단위로 속도를 깎는 구글…피차이가 그리는 검색의 다음 단계
“돈이 있어도 못 쓴다”…피차이가 말한 AI 투자의 진짜 병목
남들이 떠날 때 투자를 늘렸다…구글이 장기 베팅을 판단하는 기준
이를 바탕으로 오늘의 이야기를 시작하겠습니다.
1. 트랜스포머도, 대화형 AI도 구글이 먼저였다…그런데 왜 뒤처졌나
선다 피차이 CEO는
현재 거의 모든 AI 모델의 핵심 기반인 ‘트랜스포머(Transformer)’ 기술이
구글에서 탄생했다는 점을 먼저 짚었습니다.
선다 피차이는 트랜스포머에 대해 단순 이론 연구의 결과물이 아니라는 점을 강조했습니다.
사실 구글은 번역 품질 개선을 위해 트랜스포머를 개발한 것이었습니다.
구글의 AI 전용 반도체인 TPU 역시 현실적인 고민에서 출발했습니다.
20억 명에게 음성 인식 서비스를 제공할 때 발생하는 막대한 비용을
어떻게 감당할 것인가라는 질문이 그 시작이었습니다.
구글은 이 기술들을 완성한 직후
버트(BERT)와 멈(MUM) 같은 모델을 내놓으며 검색 서비스에 곧바로 적용했습니다.
덕분에 검색 품질 면에서 경쟁사들을 크게 앞설 수 있었습니다.
선다 피차이에 따르면 챗 GPT와 같은 대화형 AI의 형태를 먼저 구상한 곳도 구글이었습니다.
“ 구글은 챗 GPT와 똑같은 형태의 모델을 ‘람다(LaMDA)’라고 불렀다.
과거 구글의 한 엔지니어가 람다와 대화한 뒤
‘AI가 자의식을 가진 것 같다’라고 주장했던 일화를 기억하는가?당시의 람다가 사실상 챗 GPT의 초기 형태였다.
오픈 AI보다 출시가 약 9개월 늦었을 뿐이다”
그럼에도 대화형 AI를 세상에 먼저 선보이며 주도권을 쥔 쪽은 오픈 AI였습니다.
선다 피차이 CEO는 그 이유를 두 가지로 설명했습니다.
첫째는 안전성 문제였습니다.
당시 람다에는 사람이 AI의 답변을 평가하고 교정하는 학습 방식(RLHF)이 적용되지 않았습니다.
이 때문에 AI가 부적절한 발언을 할 위험이 컸습니다.
검색 결과의 신뢰성과 품질에 엄격한 기준을 둔 구글로서는 섣불리 제품을 대중에게 내놓을 수 없었습니다.
둘째는 시장의 신호를 놓친 점입니다.
당시 깃허브 코파일럿(GitHub Copilot) 등을 통해
코딩 분야에서 GPT 모델의 성능이 급성장하고 있다는 징후가 나타났습니다.
하지만 구글은 그 중요성을 예민하게 포착하지 못했습니다.
스트라이프의 존 콜리슨 COO 또한
오픈 AI가 추수감사절 주간에 챗 GPT를 조용히 내놓았을 때만 해도
이 정도로 판이 커질 줄은 아무도 예상하지 못했다고 털어놓았습니다.
선다 피차이 CEO 역시 이에 동의했습니다.
나아가 그는 페이스북이 건재할 때 인스타그램이 등장했고,
구글 비디오가 있을 때 유튜브가 돌풍을 일으켰듯,
IT 업계에서는 작은 혁신 팀이 거대 플랫폼의 판도를 뒤흔드는 일이 늘 있어 왔다고 덧붙였습니다.
2. 밀리초 단위로 속도를 깎는 구글…피차이가 그리는 검색의 다음 단계
선다 피차이 CEO는 검색의 미래를 논하며 ‘속도’ 이야기부터 꺼냈습니다.
구글은 초창기부터 속도를 핵심 경쟁력으로 삼았습니다. 한때 검색 결과 페이지에 소요 시간을 표시했을 정도입니다. 지금도 구글 검색 팀은 1,000분의 1초(밀리초) 단위로 속도를 꼼꼼히 관리하고 있었습니다.
만약 어떤 팀이 처리 시간을 3밀리초 줄이는 데 성공하면, 그중 절반은 향후 새로운 기능을 개발하기 위한 여유 시간으로 남겨두고 있었습니다.
그리고 나머지 절반은 실제 검색 속도를 높이는 데 사용되어 사용자에게 혜택을 돌려주는 식이었습니다.
그 결과 지난 5년간 검색 기능이 크게 늘었음에도