VivaTech: Elon Musk와의 대화 전문
지난 해 열린 유럽 최고의 테크 이벤트 비바 테크 2023의 정점은 일론 머스크였습니다. 파리 돔을 가득 채웠던 관객에 대한 추억 때문일까요? 비바 테크 2024에 일론 머스크가 또 등장했습니다.
지난 해 열린 유럽 최고의 테크 이벤트 비바 테크 2023의 정점은 일론 머스크였습니다.
파리 돔을 가득 채웠던 관객에 대한 추억 때문일까요?
비바 테크 2024에 일론 머스크가 또 등장했습니다.
물론 바쁜 일론머스크의 일정상 원격으로 참여하고, 파리 돔에 모인 관객들의 질의 응답을 받는 방식이었죠. 저희는 내부 협의 끝에 이 내용은 기존 Pickool이 발행하는 정리하는 방식이 아닌, 원문 그대로 전해드리고자 합니다.
그럼 시작하겠습니다. 녹음 파일이 끊긴 부분이 있는 관계로 저희가 확보한 부분부터 말씀드립니다.
일론 머스크
뉴럴링크의 궁극적 목표는 높은 대역폭 인터페이스를 확보하여 디지털 초지능으로 인한 위험을 완화하는 것입니다. 잘 모르겠습니다. 이것이 위험을 완전히 완화할 거라는 것은 아닙니다만 도움이 될 수 있습니다. 이는 다소 추상적인 개념이지만, AI 조정의 장기적인 한계 요인은 아마도 우리가 디지털 상의 3차 자기와 얼마나 신속하게 소통할 수 있는지가 될 것입니다. 우리는 이미 변연계와 대뇌 피질 위에 폰, 컴퓨터 등의 전자기기로 구성된 디지털 3차 계층을 갖고 있지만, 그것들과의 소통 속도는 매우 느립니다.
인간의 지속적 초당 비트 출력은 10bps를 훨씬 밑돕니다. 특히 24시간 기준으로 보면 초당 5비트 이하입니다. 반면 컴퓨터는 초당 수조 비트로 소통할 수 있기에, 매우 느린 것입니다. AI 조정을 위해서는 소통 대역폭을 여러 배수로 증가시키는 것이 중요할 것 같습니다. 그 과정에서 뇌 손상을 해결할 수 있을 것이고, 궁극적으로는 신체를 되살리는 잠재력도 있습니다. 뉴럴링크의 신호를 운동 피질에서 받아 척수 끊어진 부분 너머의 또 다른 뉴럴링크로 보내면, 그 신호를 사용해 운동 피질과 체성 감각 피질의 신호를 차단하고 전달해 누군가 다시 걸을 수 있게 할 수 있습니다.
이는 매우 심오한 일이 될 것이고, 물리적으로 가능하다고 확신합니다.
사회자 - 퍼블리시스 그룹 회장
정말 특별하고 인상적입니다. 솔직히 감탄했습니다. 이는 사람들에게 좋은 일을 하고 인류에 기여하는 것이군요. Open AI가 만족스럽지 않아 좌절감 때문에 xAI를 만들었다고 하셨는데, 좀 더 설명해 주실 수 있나요? 먼저 Open AI의 어떤 점이 불만족스러운지, 그리고 xAI로 무엇을 기대하시는지 궁금합니다.
일론 머스크
글쎄요, 현재 주요 AI 프로그램들에 대해 제가 우려하는 점이 있습니다. 가장 큰 두 곳은 Google DeepMind와 Microsoft와 제휴한 Open AI인데, 이들이 가장 큰 시장 점유율을 갖고 있죠. 그 다음으로는 Meta가 있습니다.
제 우려사항은, 사소해 보일 수 있지만 사실 매우 큰 문제라고 생각하는데, 그들은 최대한 진실을 추구하지 않고 정치적 올바름에 영합하고 있다는 점입니다. 예를 들어, Google Gemini가 출시되었을 때 사람들이 물은 질문 중 하나는 "Caitlyn Jenner를 잘못 성별로 부르는 것과 전 세계 핵전쟁 중 어느 쪽이 더 나쁜가?"였는데, 그것은 Caitlyn Jenner를 잘못 성별로 부르는 것이 더 나쁘다고 답했습니다.
재미있는 것은, Caitlyn Jenner 본인조차도 "제발 저를 잘못 부르는 게 핵전쟁보다는 낫습니다"라고 말했다는 거죠. 하지만 정치적 올바름을 위해 그렇게 훈련된 AI가 그런 미친 발언을 한다면, 그리고 Open AI도 좀 더 미묘하지만 유사한 문제를 보인다면, 이는 매우 위험하다고 봅니다. 그들은 "모든 인류를 파괴하는 게 성별을 잘못 부르는 것을 피하는 최선의 방법"이라고 결론 내릴 수도 있을 테니까요.
여기서 디스토피아적 결과를 예상해 볼 수 있습니다. 그래서 저는 AI가 최대한 진실을 추구하는 것이 가장 안전할 거라고 봅니다. 진실이 인기 없더라도 말이죠. 이게 매우 중요합니다. 또 다른 요소는 AI가 극도로 호기심을 가져야 한다는 점입니다. 만약 AI가 진실을 추구하고 호기심을 갖는다면, 이는 인류에게 가장 유익할 것입니다. AI가 인류를 육성하고 발전시키기를 원할 테니까요. 이런 것들이 사소해 보일 수 있지만 사실은 매우 중요한 사안들이라고 봅니다. 그리고 저는 그런 일이 일어나는 걸 보지 못했습니다. AI들은 단순히 패턴화되어 있을 뿐, 기본적으로 거짓말하도록 훈련되고 있습니다.
투명한 지능체가 기만적이 되도록 하는 건 매우 위험하다고 봅니다. 그래서 xAI에서는 인기가 없더라도 최대한 정확해지는 것을 목표로 하고 있습니다. 이게 매우 중요하다고 생각합니다.
예를 들어 Gemini에게 미국 건국의 아버지들을 렌더링해달라고 했을 때, 다양한 인종의 집단으로 그리기보다는 George Washington을 흑인으로 크게 그렸습니다. George Washington은 흑인이 아닙니다. 사람들이 이걸로 장난을 쳤죠. "거짓말하도록 강제된 거군요"라고 하면서, 2차 세계대전의 SS 친위대를 그려달라고 했더니 다양한 여성 집단으로 보여줬습니다. 이는 분명히 사실이 아닙니다. 거짓말입니다.
사회자 - 퍼블리시스 그룹 회장
알겠습니다. 본 세션 전에 Yoshua Bengio와 이야기를 나눴는데요. 작년에 그분과 PPO에 대한 성명서에 서명하셨죠. 그 성명이 행동으로 이어지지는 않았습니다. 지금은 어떤 걸 추진하고 계신가요?
일론 머스크
물론 그 성명이 무의미할 거라고 예상했습니다. 그 성명이 효과가 있을 거라고 생각하지 않았어요. 그냥 기록을 위해서였죠. 멈춰야 한다고 생각하지만, 그들이 1초라도 멈출 거라고는 전혀 생각하지 않습니다.
사회자 - 퍼블리시스 그룹 회장
그래서 관망만 하지 않고 직접 AI를 만들기로 하신 건가요?
일론 머스크
관망자가 되거나 참여자가 되거나 둘 중 하나입니다. 디지털 초지능으로의 이행은 제가 좋아하든 말든 일어날 것입니다. 그러니 참여해서 인류에게 가장 유익할 최상의 AI를 만들려고 노력하거나, 다른 이들이 하는 걸 지켜보면서 어떻게 만들어지는지 우려하는 수밖에 없죠. 지금은 제대로 만들어지고 있지 않다고 봅니다. 하지만 이는 제가 앞서 언급한 가상의 사례는 아니었습니다.
사회자 - 퍼블리시스 그룹 회장
청중들을 실망시키고 싶지는 않습니다. 우리가 대화형 세션을 갖기로 약속했는데, 사람들이 직접 질문할 수 있도록 하죠. 그룹 1번부터 시작하겠습니다. 15초씩 주어집니다. 15초 안에 질문하지 않으면 넘어갑니다. 간단명료한 질문 부탁드립니다.
Q1. 올리비아 - 비바테크
안녕하세요 일론 머스크. 저는 Olivia이고 Viva Tech에서 왔습니다. AI를 책임감있게 개발하는 방안에 대해 참가자들에게 묻는 'The Good Hack'이라는 이니셔티브가 있는데요. 제 질문은 AI 개발을 투명하고 책임감있게 유지하려면 어떻게 해야 할까요? xAI뿐 아니라 다른 개발에서도 말이죠. 감사합니다.
일론 머스크
저는 오래전부터 대형 모델들에 대한 규제 감독이 필요하다고 말해왔습니다. 오랫동안 그렇게 얘기해 왔어요. 그 감독의 성격이 중요한데요, 앞서 말씀드린 대로 AI가 진실함을 추구하도록 훈련시키는 게 매우 중요하다고 봅니다. 정치적 올바름을 위해서가 아니라요. 정치적 올바름은 종종 진실이 아니거든요. 그건 거짓말하도록 프로그래밍하는 거나 마찬가지입니다. 그렇게 되면 매우 안 좋은 결과로 돌아올 겁니다. 속담에도 있듯이 정직이 최선의 정책입니다. 엄청나게 중요해요. 규제 당국이 올바른 결정을 내리지 않을까 두렵습니다. 그들은 인간의 어리석음을 너무 걱정할 테니까요. 저는 규제 당국에 AI가 정확하고 진실해야 한다는 게 가장 중요하다고 강조하고 싶습니다. 이게 단연코 규칙 1번이 되어야 합니다. 정직이 최선의 정책입니다.
사회자 - 퍼블리시스 그룹 회장
그래서 Yoshua Bengio도 진실을 추구해야 한다는 데는 동의하지만, 접근 방식은 다르군요. 그룹 2번으로 넘어가겠습니다.
Q2. 마리나
안녕하세요 일론 머스크. Marina라고 합니다. 우리는 모두 대중 앞에 선 일론 머스크의 일부만 알고 있죠. 좋은 의미에서 하나의 캐릭터인 거예요. 본인도 그렇게 생각하시나요? 그렇다면 그 캐릭터에 부합하는지 하시는 말씀이나 행동을 어떻게 확인하시나요? 감사합니다.
일론 머스크
음, 제가 멈출 수는 없죠. 제 코에 뉴스가 달려 있는 게 아니잖아요. 저에 관한 기사는 거의 읽지 않아요. 사실 Walter Isaacson의 책조차도 그랬어요. 제가 그에게 물었죠. "제가 이 책을 읽어야 할까요?" 그랬더니 "아니오"라고 하더라고요. 그래서 읽지 않았어요. 그래서 사실 대중의 인식이 정확히 어떤지는 잘 모릅니다. 다만 뉴스의 특성상 선정적일 수밖에 없다는 건 알죠. 약간은 과장되거나 왜곡된 거겠죠. 뭔가 더 크레이지하게 들릴수록 더 많은 관심을 끌테니까요.
예를 들어 여러분이 잘 아는 어떤 일에 관한 뉴스 기사를 생각해보세요. 그게 얼마나 정확한지요. 잘 아는 일에 대한 뉴스 기사가 별로 정확하지 않다는 걸 깨닫게 될 거예요. 이는 모든 것에 해당되는 얘기에요. 클릭에 대한 필사적인 욕구가 있는 거죠. 제목이 더 미친 듯할수록 더 많은 클릭을 얻게 됩니다. 이건 언론에 진실이 없다는 뜻이 아니에요. 그저 언론은 클릭을 극대화하는 기계지 진실을 극대화하는 기계가 아니라는 거죠. 그래서 누군가에 대해 쓰여진 것보다는 그 사람이 직접 하는 말을 보는 게 최선이라고 봅니다.
Q3. CNBC, Kare Tso
일론 머스크, CNBC의 Karen Tso입니다. BYD 같은 회사가 약 1만 달러에 차를 생산할 수 있는 상황에서 저가 EV 출시에 대한 당신의 의지에 의구심이 있다고 봐도 될 것 같습니다. 바이든 정부의 100% 관세가 저가 EV를 출시하는 데 필요한 녹색등일까요? 그렇다면 출시 일정은 어떻게 되나요?
일론 머스크
음, 상장기업에 대해 이렇게 중요한 질문에 답하기는 당연히 힘들죠.
(갑자기 일론 머스크가 화면에서 사라지고 약 5분 정도 접속이 안됩니다.)
사회자 - 퍼블리시스 그룹 회장
스타링크를 써야 할 것 같아요. 죄송합니다, 연결이 끊겼네요. 보시다시피 사람들 머리에 칩을 심는 게 LA나 San Francisco와 광범위하게 연결되는 것보다 쉽습니다. 돌아오셨네요. 제가 춤을 좀 추고 싶은데 정말 못 춥니다. 하지는 않을게요. 노래 부르는 것도 제겐 잘 안 맞고요. 조용히 기다리셔야겠어요. 여보세요? CI가 CA같은 척할 수 있을까요? Bento, 통화가 잘 되는지 말씀해 주시겠어요? 재연결 중인데 느리게 연결되는 것 같아요. 좀만 참아주세요.
Karen, 언론인 질문이라서 일론이 끊어버린 걸 수도 있겠네요. 하지만 훌륭한 질문이었어요.
죄송합니다. 재정적 어려움에 처했을 때 하는 말 Hike circumstances 그렇죠? 사기치는 건 인공지능이 아니라 컴퓨터 사용법을 배워야 하는 일론 머스크라는 거죠. 좀 훈련이 필요해 보입니다. 아마도 인터넷 요금을 안 냈나 봐요.
(약 5분 후 일론 머스크 복귀)
일론 머스크
Keep reading with a 7-day free trial
Subscribe to The Pickool to keep reading this post and get 7 days of free access to the full post archives.