Anthropic 공동창업자의 경고: 중국산 AI, 천안문은 거부하고 생물학 무기 제조방법에는 답한다.
지난달 저희는 민간 싱크탱크 “특별 경쟁 연구 프로젝트(Special Competitive Studies Project, SCSP)”가 운영하는 팟캐스트 내용을 전해드린 바 있습니다. SCSP는 구글의 전 CEO 에릭 슈미트가 ‘21년 10월 설립 후 이끌고 있으며, 기술과 보안에 초점을 맞춘 미국의 초당적 싱크 탱크라고 소개해 드린 바 있는데요
지난달 저희는 민간 싱크탱크 “특별 경쟁 연구 프로젝트(Special Competitive Studies Project, SCSP)”가 운영하는 팟캐스트 내용을 전해드린 바 있습니다.
SCSP는 구글의 전 CEO 에릭 슈미트가 ‘21년 10월 설립 후 이끌고 있으며, 기술과 보안에 초점을 맞춘 미국의 초당적 싱크 탱크라고 소개해 드린 바 있는데요.
이 기관은
2030년까지 미국이 기술 경제 경쟁에서 승리할 수 있도록
적절히 위치하고 조직화하도록 보장하는 것을 추구한다고 밝히고 있습니다.
참고로 이 기관은 1950년대 설립되어 헨리 키신저 전 국무장관이 이끈 록펠러 특별연구 프로젝트에서 영감을 받아 시작되었는데요.
SCSP는 “미국 대통령에게 보내는 메모”라는 팟캐스트를 운영 중입니다.
지난달 저희는 젠슨 황의 세션을 전해드린 바 있고요.
오늘은 클로드를 서비스하는 앤트로픽의 공동 창업자 잭 클라크의 세션을 전해드립니다.
2021년 1월 앤트로픽을 공동 창업한 잭 클라크는
2016년 10월부터 2020년 12월까지 오픈 AI의 정책 이사를 역임한 바 있는 인물입니다.
이날 세션에서 언급된 주요 주제는 아래와 같습니다.
AI 기술의 현재 상황과 개인적 활용 경험
글로벌 AI 경쟁 구도와 기술적 우위 방안
미국 행정부 AI 전략과 정책 평가
미래 전망과 국가 안보 위험
정부 AI 도입의 과제와 해결 방안
그럼 이날 세션 내용을 시작하겠습니다.
윌리 바이락타리(Ylli Bajraktari, 진행자): 안녕하세요, 여러분.
점심 직전 마지막 패널 세션이라는 흔한 말을 꺼내기가 항상 조심스럽지만, 오늘은 정말 가치 있는 대화가 될 것이라고 확신합니다. 저는 잭을 오랫동안 알아왔습니다.
시작하기 전에, 잭, 우선 환영합니다. DC에 자주 오신다는 것을 알고 있지만, 이번에 저희 행사에 참석해 주셔서 매우 기쁩니다.
잭 클라크: 이곳에 와서 기쁩니다. 날씨도 정말 아름답네요. 감사합니다.
윌리 바이락타리: 오늘 대화를 시작하면서, 2022년 저희 서밋에서 잭 클라크 공동 창업자님께서 대규모 언어 모델 시연을 하던 사진을 보여드리고 싶습니다. 당시에는 적어도 여기서는 대부분 대규모 언어 모델이 무엇인지 알지 못했습니다. 이 사진 속 인물이 2022년의 잭, 즉 지금보다 조금 더 젊은 시절의 모습입니다.
말씀드린 바와 같이, 잭 클라크 님께선 이 AI 기술 발전 과정에 처음부터 함께 해왔습니다. 따라서 현재 우리가 도달한 지점과 여기까지 오는 과정을 되돌아보며 이야기를 시작하고자 합니다.
잭 클라크: 우선, 지난주에 실제로 대규모 언어 모델을 사용해 본 분이 여기 계시나요? 손을 들어보세요. 이런 광경은 2-3년 전만 해도 상상할 수 없었습니다.
3년 전에는 이런 기술이 전혀 이용 가능하지 않았습니다. 2년 전부터는 일부가 취미 활동처럼 사용하기 시작했고, 이제는 거의 모든 사람이 광범위한 목적으로 활용하고 있습니다.
놀라운 점은 우리 모두 이런 변화가 2016년이나 2017년에 곧 올 것이라고 예상했지만, 정확한 시점은 예측하지 못했다는 것입니다. 최근 몇 년간 놀라운 발전을 경험했습니다. 이제는 실제로 활용되는 새로운 기술 분야와 함께 진정한 본격적인 경쟁이 시작된 것처럼 느껴집니다. 처음 시작했던 지점에서 정말 멀리 왔습니다.
윌리 바이락타리: 제가 잭님을 존경하는 이유 중 하나는 잭 공동창업자께선 DC를 꾸준히 방문하는 몇 안 되는 업계 인사 중 하나라는 점입니다.
지난 7-8년간 AI에 대한 DC의 이해와 논의 방식이 어떻게 변화했는지 알고 싶습니다.
2018년 당시 상황과 사람들이 AI에 대해 어떻게 이야기했는지를 포함해서, 그동안 관찰해온 이러한 변화에 대해 말씀해 주실 수 있으실까요?
잭 클라크: 몇 년 전에 DC에 와서 AI 이야기를 하면, 사람들은 5G나 양자 컴퓨팅 얘기를 하고 싶어 했습니다. "AI는 5G, 양자 컴퓨팅, 바이오 테크 같은 중요 기술 중 하나"라는 식으로 말했죠. 틀린 말은 아니었습니다.
그런데 지금은 정말 다릅니다. 이번 주에 의회에 갔더니, 자기 개선 AI가 언제쯤 나올지, 결국 AI 시스템을 통제할 수 없게 될 가능성은 없는지, 딥시크 같은 중국 모델들이 빠르게 발전하고 있는데 우리는 어떻게 대응해야 하는지 이런 질문들을 받았습니다.
정말 많이 달라졌어요. 몇 년 전만 해도 터미네이터나 HAL 9000 얘기만 나왔는데 말입니다.
윌리 바이락타리: 맞습니다. 여전히 그런 질문도 받으시겠지만, 이제는 훨씬 더 다양한 주제가 논의되고 있군요.
잭 클라크: 그렇습니다.
윌리 바이락타리: 대규모 언어 모델 관점에서 우리가 현재 어디에 위치해 있는지 논의해 보겠습니다.
현재 모델 상태에 대한 선생님의 평가는 무엇인가요? 그리고 후속 질문으로, 앞으로 3-6개월 동안 이 분야가 어떻게 발전할 것으로 전망하시는지 궁금합니다.
잭 클라크: 현재 가장 중요한 사실은 언어 모델이 우리 생각보다 훨씬 더 강력하다는 점입니다. AI 연구를 하다 보면 자주 경험하는 일인데, "AI가 수학을 과연 잘할 수 있을까?" 하고 의문을 품다가, 막상 테스트해 보면 예상보다 훨씬 뛰어난 성능을 보입니다. 물리학, 생물학, 다양한 기술 분야에서도 마찬가지였습니다.
또한 현재의 언어 모델은 장기간에 걸쳐 복잡한 작업을 처리할 수 있습니다. 몇 가지 예를 들어보겠습니다. 몇 년 전에는 문장 번역이나 간단한 코드 변환 같은 일을 시켰는데, 이런 건 사람도 30초에서 1분이면 할 수 있는 작업이었습니다.
지금은 사람이 1-2시간 걸릴 일을 AI가 해냅니다. 정말 큰 변화죠. 사람들의 기술 활용 방식은 물론이고, 어떤 일이 가능한지 자체가 근본적으로 바뀌고 있습니다.
앞으로 몇 개월 뒤면, 조직 안에서 마치 직원처럼 일하는 AI 시스템을 보게 될 겁니다. 실수를 자주 하고 세심한 관리가 필요한 인턴 수준은 이미 넘어섰습니다. 이제는 여러 명의 주니어 직원을 두고 일을 맡기는 것과 비슷한 상황이 되었고, 이는 모든 것을 바꿔놓고 있습니다.
제 회사에서 재미있는 일이 있었는데, 최근에 누군가 내부 슬랙에 이런 글을 올렸습니다. 저희 AI 시스템 이름이 클로드인데, "클로드가 제 일을 해줄 때 저는 뭘 해야 하나요?"라고 물어보더군요.
이제 고민이 "내 일을 어떻게 하지?"가 아니라 "클로드 여러 개가 내 일을 하고 있을 때 나는 뭘 해야 하지?"로 바뀐 거죠. 앞으로 우리가 맞닥뜨릴 새로운 종류의 문제입니다.
윌리 바이락타리:중요한 점을 짚어주셨네요. 그렇다면 앤트로픽 같은 회사에서는 이런 변화를 실제로 어떻게 다루고 있는지 궁금합니다.
잭 클라크: 저희 같은 회사는 물론이고 앞으로 모든 사람들이 겪게 될 변화인데, 이제는