전쟁 통해 드러난 앤트로픽과 오픈AI의 다른 행보 (1)
다리오 아모데이 앤트로픽 CEO 인터뷰 (1)
미국이 이스라엘과 함께 이란을 급습하기 전에 실리콘밸리에서는 이미 AI의 안전성과 기술에 대한 정부 규제의 필요성을 둘러싸고 처음부터 상반된 길을 가던 두 거인이 한 번 더 충돌했습니다.
벌써 2년 반 전의 일인데, 샘 알트만이 오픈AI 이사회에서 쫓겨났다가 며칠 만에 복귀했던 일이 있었죠. 앤트로픽(Anthropic)은 저 일이 있기 2년 전에 다리오, 다니엘라 아모데이 남매가 오픈AI에서 나와 설립한 인공지능 회사입니다. 챗GPT의 대항마로 많이 쓰이는 클로드(Claude)를 개발한 회사가 앤트로픽이죠.
복스의 에릭 레비츠 기자가 자세히 정리한 이 기사에 따르면 앤트로픽은 정부가 안전장치를 명확히 해놓고 기술 개발을 감독하지 않으면 인공지능이 인류를 멸망시킬 수도 있다는 운명론자(doomers)를 대표하고, 반대로 오픈AI는 인공지능 기술 개발에 계속해서 박차를 가해 기술의 잠재력을 최대한 끌어내는 게 결국엔 인류에게 좋은 결과를 가져올 거라는 기술만능주의자(accelerationists)를 대표합니다.
아모데이 남매가 앤트로픽을 설립하기 전에는 오픈AI에 몸담았고, 오픈AI도 인공지능 기술을 공공선에 부합하는 쪽으로 개발, 사용하는 걸 목표로 하는 비영리 단체로 출발했으므로, —지금은 비영리 재단이 영리 공익법인(OpenAI Group)의 약 1/4을 소유하는, 사실상 영리기업으로 구조 변경 완료— 둘은 뿌리가 같다고 할 수 있습니다. 그럼에도 기술 개발을 어디까지 허용하고 어디서부터는 규제해야 할지를 두고 종종 양측의 세계관이 충돌해 왔는데, 이번 이란 침공을 앞두고 비슷한 일이 또 일어났습니다.
미국 정부는 앤트로픽이 국방부와 기술 협력에 소극적으로 나오자, 계약을 종료하겠다고 위협하며 앤트로픽을 국가안보에 위협이 되는 공급망 위험(supply-chain risk)으로 지정하려 했고, 앤트로픽은 여기에 반발해 정부를 상대로 소송을 제기했습니다.
최첨단 기술을 전쟁에 어디까지 활용하느냐를 두고 정부와 과학자, 기업들이 갈등과 협력을 반복한 사례는 인류 역사에서 얼마든지 찾아볼 수 있습니다. 다만 인공지능이 설계한 무기를 인류가 얼마나 통제할 수 있을지 누구도 장담하기 어려운 상황이라, 이번에 벌어진 일련의 극적인 충돌에 더 많은 관심이 쏠리고 있습니다. 이번 일은 세 편에 걸쳐 살펴보려 합니다. 우선 앤트로픽 CEO 다리오 아모데이가 CBS와 진행한 인터뷰를 자세히 살펴보고, 다음에는 미국 정부와 앤트로픽이 벌이는 소송과 양측의 목표가 무엇인지 짚어보겠습니다. 마지막으로 복스가 “AI 산업의 내전”이라고 진단한 두 거인의 세계관 충돌에 관해 알아보겠습니다.
이번 인터뷰는 인터뷰이인 앤트로픽 CEO 다리오 아모데이가 두괄식으로 의제와 주장을 첫 번째 답변에서부터 분명하게 밝혀 핵심을 이해하기가 어렵지 않습니다. 반대로 인터뷰어인 조 링 켄트 기자의 질문은 중언부언 어수선했는데, 그래도 아모데이가 중심을 잘 잡고 우문현답을 이어갔습니다. 둘이 주고받은 문답은 인용구에 넣고, 배경 설명이나 제가 받은 인상, 분석을 본문에 썼습니다.
앤트로픽과 미국 정부의 충돌에 관해선 에즈라 클라인 쇼에서도 자세히 다뤘습니다.
