일론 머스크가 말하는 현재 AI의 위험성과 트위터 그리고 TruthGPT

일론 머스크는 현지시간으로 지난 17일과 18일 FOX NEWS의 "Tucker Carlson Tonight"에 출현하여 진행자인 터커 칼슨과 AI의 위험성에 대한 인터뷰를 진행하였다. 인터뷰에서는 일론 머스크는 AI를 둘러싼 논란과 그것이 어떻게 지구를 영원히 바꿀 수 있는지에 대해 심도 깊은 논의를 진행자인 터커 칼슨과 펼쳐냈으며 일론 머스크가 가진 많은 생각들을 엿볼 수 있는 좋은 인터뷰였다. 특히 현재 AI는 위험한 요소를 많이 내포했다고 전하며 AI에 대한 정부 규제를 지지한다고 밝혔다. 특히 일론 머스크는 애플의 공동 창립자인 스티브 워즈니악(Steve Wozniak) 등 많은 기술 그룹 리더들과 함께 AI 개발을 유예를 요구하는 공개서한에 서명한 인물 중 한 명이기에 인터뷰에서의 그의 발언에 더욱 관심이 많았을 것이다. 오늘은 일론 머스크가 말한 현재 AI에 대한 위험성과 트위터의 역할에 대해 한 번 다뤄보고자 한다.

 

 

Musk and Wozniak among 1,100+ signing open letter calling for 6-month ban on creating powerful A.I.

 

 

터커 칼슨과의 인터뷰에서 AI의 위험성에 대해 논의하는 일론 머스크 (출처: FOX NEWS)

 

 

1. 'AI가 인류를 대체할 것 같다': 일론 머스크가 말하는 AI의 편향성

1) AI에 규제가 필요한 이유

일론 머스크는 인터뷰 서두에서 말하길, 인류가 아직까지는 가장 똑똑한 생물이라고 말한다. 이유는 침팬지 등 다른 동물들에게는 보이지 않는 '지능'을 가지고 있기 때문인데, 이 '지능'이 동물들이 가진 육체적 능력을 상쇄할 수 있었는데, 인간보다 훨씬 더 똑똑한 것이 아무런 규제 없이 나타나게 되면? 이를 두고 일론 머스크는 '특이점'이라는 단어를 사용하며, 이는 마치 우주의 블랙홀에서의 특이점처럼 그 후에 어떤 일이 일어날지 예측하기 어렵다는 것이다. 따라서 AI에 대해 매우 신중해야 한다는 입장이며, 대중에게 위험을 초래할 수 있기에 정부 차원에서 미리 규제를 가지자는 생각인 것이라고 말한다. 식품에 대해서는 FDA, 항공규제에 대해서는 FAA가 있는 것처럼 AI도 대중들에게 해를 끼칠 가능성에 대해 감독이 필요하다는 입장인 것이다. 사람들은 본인을 규제기관을 완전히 무시하고 일종의 규제 이단자처럼 생각하고 있지만 실제로는 그렇지 않다고 말하며, 자신은 자동차와 우주 산업을 통해 많은 규제를 받았기에 이는 아주 익숙한 일이고 어쩌면 꽤 귀찮은 일이고 괴로운 일이라고 칭하지만, 그럼에도 규제기관이 필요하다는 입장을 피력하는 것이다.

 

여기에 진행자인 터커 칼슨은 모든 규제는 엄청난 커다란 사건이 발생한 뒤에야 나오는 것이라고 말하며, 일론 머스크에게 어떤 위험이 있는지 설명해 달라고 요구한다. 여기에 일론 머스크는 아래와 같이 답하며 위험성에 대해 강조한다.

 

"항공기나 차량을 잘못 설계하고 생산하는 것보다 (AI는) 더 커다란 위험을 갖고 있다. AI는 아주 낮은 가능성이라도, 문명을 파괴할 잠재력을 갖고 있기 때문이다."

 

 

일론 머스크는 AI의 경우, 끔찍한 일이 일어난 후에야 규제를 하게 된다면 실제로 규제를 적용하기에는 이미 늦을 수도 있다고도 경고한다. 그때는 이미 AI가 인간으로부터 통제권을 탈취했을 수도 있다는 것이다. 물론 일론이 말하길 터미네이터와 같은 일은 벌어지지 않을 것이라곤 하지만 말이다. 그렇지만 AI를 제어할 수 없다면 이들은 인간 대신 결정을 내리는 일들이 벌어지고 이는 틀림없이 가능함을 언급한다.(여기에 진행자인 터커 칼슨은 매우 당황함)

 

 

2) 일론이 말하는 Open AI 창업한 이유

최근의 Chat GPT 열풍이 불게 만든 장본인인 Open AI는 현 CEO인 샘 알트만(Sam Altman)과 일론 머스크 등이 함께 설립한 비영리단체였다. 일론이 말하길 Open AI가 존재하는 이유는 2015년 설립 당시 AI의 최강자이자 자신의 친구였기도 한(지금은 대화를 전혀 나누지 않는다고 함) 구글의 래리 페이지가 AI의 안전성에 대해 전혀 심각성을 가지지 않은 것에 비롯하여 설립하게 되었다고 한다. 구글이 생각하는 AI는 일종의 디지털 신으로 여기는 것으로 보였고, 가능하면 아무런 안전장치 없이 빨리 구축하려고 했다는 것이다.

 

일론이 말하길 당시 구글은 딥마인드(Deepmind)와 함께 전 세계 AI 인재의 3/4을 보유하고 있었으며, 빅 테크의 한 구성원으로서 타사보다 많은 돈과 컴퓨팅 자원을 갖고 있었다고도 언급한다. 이런 점을 두고 일론은 AI 분야에서 유일무이한 구글이 AI 관련된 모든 것을 독점적 위치를 가지는 것이 아닌가 생각했다고 한다. 참고로 구글의 사명(motto)은 "Don't be evil"이다. 그러나 구글은 이익 추구를 위해서는 정보를 숨길 수밖에 없을 것이다. 따라서 일론은 AI 개발에 책임을 지는 사람들이 AI 안전 또한 소홀히 하면 안 된다는 지론을 가지고 있는데 이들은 그것에 대해 전혀 관심이 없었다고 지적하며, 그에 따라 본인이 오픈소스와 함께 비영리를 추구할 Open AI를 창업할 수밖에 없었다고 말한다. 당시 구글 및 친구였던 래리 페이지가 엄청나게 반대했었다고도 일론은 말한다. 왜 반대했을까?

 

 

3) AI가 잠재적으로 어떻게 위험한지 구체적으로 알려달라는 터커 칼슨의 요청에 대해

이런 상황에서 진행자인 터커 칼슨은 AI가 잠재적으로 얼마나 위험한지 구체적으로 알려달라고 일론에게 요청한다. 이에 대해 일론 머스크는 AI가 놀랄 만큼 탁월하게 글 쓰는 재주를 통해 영향력이 상당히 커지게 되고 러닝머신 기능을 통해 어떤 말을 통해 사람들을 잘 구슬릴 수 있는지에 학습하여 트위터, 페이스북과 같은 SNS에 침투하게 되어 나쁜 방향으로 대중들의 의견을 조작, 즉 편견을 생성할 수 있다고 답한다. 이에 대해 일론 머스크는 아래와 같이 덧붙인다.

 

"(이런 상황에 대해) 우리가 어떻게 알 수 있을까요?"

 

 

2. 미국 정보기관이 트위터 DM을 모두 살필 수 있다! 향후 새로운 암호화 기능을 탑재시킬 것

1) 일론이 말하는 트위터 인수의 목적

진행자인 터커 칼슨은 트위터에 대해 언급한다. 일론에게 표현의 자유 때문에 트위터를 인수한 것인데, 인수 이후에도 본인이 생각하길 트위터 인수는 가치가 있었냐고 질문한다. 이에 대해 일론 머스크는 인수 당시보다 지금의 트위터의 가치는 반으로 떨어져 있으며, 인수 당시가 최고점이라고 인정했다.(이로 인한 오버행 이슈로 테슬라 주가 또한 우수수 떨어질 수밖에 없었다.)

 

그러나 일론 머스크는 돈으로 가치를 매길 수 없는 것도 있다고 말하며, 그것은 바로 민주주의와 표현의 자유다. 이것을 위해서 본인은 돈을 잃고 버느냐는 부차적인 문제임을 다시 한번 강조한다. 이는 지난 BBC 기자와의 인터뷰에서도 일론이 강조했던 부분이다.

 

 

▶ BBC 기자와의 인터뷰 관련 내용을 담은 지난 포스팅

트위터는 일론 머스크의 인수 전후로 나뉜다! 변화되고 있는 트위터의 모습들 정리

 

 

그가 말하길 어떤 말이든 투명성과 진실성을 내포해야 한다고 말하며, 이를 위해서 트위터에서 가능한 한 진실한 정보를 전달하도록 많은 노력을 기울이고 있다고 언급했다. 트위터는 커뮤니티 노트(Community Note)라는 새로운 기능이 추가되었다. 정보의 진실 진위 여부를 파악하는 기능으로 사용되는데 진행자인 터커 칼슨 또한 이는 뉴욕타임스보다 훨씬 더 정직하고 멋진 기능이라고 인정한다. 이를 통해 일론 머스크는 조작 및 한쪽으로 편향되는 것을 방지하고 있다고 말한다. 기능이 추구하는 목표는 '가장 정확한 것'에 중점을 둔다는 것이다.

 

이는 대중들에게도 효과적이라고도 말한다. 잘못된 정보를 말하다가 커뮤니티 노트에 등재하게 된다면 다음번엔 더 신중하게 말할 것이기 때문이다.

 

 

2) 일론 머스크의 회상: 트위터는 일종의 매트릭스와 같았다

터커 칼슨이 말하길, 트위터는 분명 대중 여론을 형성하는 데에 영향력을 갖고 있으며, 이것은 많은 아이디어와 트렌드가 시작되는 곳이기에 세계의 정보기관들이 자석처럼 이끌려 올 것이며 일론 머스크가 트위터를 인수한 후 트위터파일을 공개하기 시작하면서 그런 자들이 트위터 내부에서 영향력을 행사한다는 것을 알게 되었다고 한다. 일론 머스크가 트위터를 인수한 후 코로나 및 vax에 관한 진실된 정보들이 속속 밝혀지고 있는 것과 같은 대목이다. 이에 대해 터커 칼슨은 이런 사실을 알고 있었느냐고 일론에게 물었다. 일론이 답하길, 아래와 같이 말하며 트위터는 일종의 매트릭스와 같은 느낌을 받았다고 전한다. 그로 인해 그가 잘못된 것을 직감하고 트위터를 인수하려는 생각을 가지게 되었다고도 말한다.

 

"2009년부터 트위터를 많이 사용해 왔기 때문에 마치 '매트릭스'에 있는 것 같았다. 나는 사물을 볼 수 있고, 일이 옳다고 느끼고, 옳지 않다고 느끼고, 어떤 트윗이 추천으로 표시되는지, 누가 댓글을 쓰는지 등. 그리고 종종 댓글들이 뭔가 이상하게 비슷하다는 느낌을 받았다. 그래서 댓글 계정을 들어가 보면 분명히 가짜 사진이고, 확실히 그것은 봇이었다.(가짜 봇 계정이 원하는 정보를 대량으로 유포하는 데 악용) 나는 트위터 상황에 대해 점점 더 불안해지기 시작했다. 뭔가 이상하다는 느낌이 들기 시작했는데... 그냥, 플랫폼 자체가 나쁜 방향으로 표류하는 것처럼 느껴졌고 이사회 및 경영진과의 대화는 기본적으로 그것에 대한 나의 직관을 확인하는 것 같았다. 그러나 나는 이 사람들이(트위터 인수 전 고위 관계자들) 트위터를 고치는 데 관심이 없다고 확신했고 그들과 나눈 대화를 바탕으로 트위터가 어디로 향하고 있는지에 대해 나쁜 느낌을 받았습니다. 그래서 그때 나는 그것을 획득하려고 시도하고 획득이 가능한지 확인하였다."

 

 

3) 트위터의 모든 부분이 정부 기관에 노출되고 있었다

여기서 터커 칼슨은 회심의 질문을 하나 하게 된다. 트위터를 인수할 때부터 진실을 따지는 것이 중요하다는 것을 알고 있었냐면서(일론은 맞다고 답한다.), 이렇게 된다면 SNS 회사로서 가장 중요한 위치에 있기 때문에 정부 및 나라의 권력자들로부터 받게 될 공격 및 적들에 대해서는 이해하고 이를 시행했느냐는 것이다. 또한 그 데이터들을 통해 누가 무엇을 하는지 볼 수 있게 되면서 정부기관들이 내부에 영향을 미친다는 것을 알게 되어 충격을 받았다는 소식을 들었으며, 이에 대한 토론을 계속 이어간다.

 

이에 대해 일론 머스크는 트위터에서 일반인들의 DM(Direct Massage)까지도 미국 및 해외 정부 기관들에게 완전히 노출되었다고 말하며 이는 전혀 예상치 못한 일이라고 언급한다. 그렇지만 더 충격적인 것은 트위터 인수 전 전임자들이 이를 다 허용했다고 하면서 이러한 부분은 트위터 인수 이후 가장 터무니없는 발견 중 하나라고 지적한다.

 

따라서 일론 머스크는 향후 DM에 대해 암호화 옵션을 채택할 것이며 이를 통해 완전히 비밀을 보장하게끔 하겠다는 계획을 밝혔다. 머리에 총을 겨누어도 말할 수 없게끔 한다는 계획인 것이다. 발언의 자유를 완전히 보장하겠다는 일론의 야심 찬 계획을 엿볼 수 있는 대목이다. 물론 트위터가 모든 정부 기관들이 모두 모니터링하고 있었다는 것이 더 놀랄 상황이기도 하다. 최근 중국의 거대 SNS인 'TicTok'을 미국에서 퇴출시키려는 목적도 이러한 맥락이 아닐까 생각된다. 아니면 공개되면 안 되는 내용을 포함하고 있어서 내재된 정보가 누출되면 큰 파장이 일어나기 때문에 어떻게든 감추려는 목적일지도?

 

 

Montana TikTok ban is first passed by any US state

 

 

일론 머스크는 또한 트위터에서 제한 없는 영향력을 행사하는데 익숙했던 조직들이 많이 있었다고도 말한다.(아마도 거대 미디어 및 언론들을 칭하는 것으로 보인다.) 그렇지만 이제는 무조건 트위터는 월 구독을 하지 않는 계정들에 대해서는 기존의 공식 마크들을 다 때 버리고 오로지 '블루 마크'만을 공식 계정으로 인정하고 있다. 최근에는 많은 계정들이 소위 레거시 마크들이 다 제거되었다.

 

 

Twitter begins removal of legacy verified check marks

 

3. 트위터는 선거에서 중요한 역할을 할 것

터커 칼슨은 일론 머스크에게 많은 정부로부터 대형 계약을 따내야 하는 기업인인데 어쩌면 이러한 트위터 정책들이 정부를 모욕할 수도 있을 것으로 비치는데, 그렇다면 트위터가 향후 대선에도 중요한 역할을 하게 될 것이냐고 질문한다. 이에 대해 일론 머스크는 트위터가 미국뿐만 아니라 전 세계에 막대한 영향을 끼칠 것이라고 말한다. 따라서 트위터의 새로운 목표는 어떠한 정치적 이념은 모두 배제하고 가능한 공정하고 평등하게 되는 것임을 일론은 강조한다.

 

여기에 왜 페이스북은 이런 일을 하지 않느냐고 터커 칼슨은 되묻는다. 저커버그는 검열을 싫어하는 뿌리 깊은 자유주의자라고 칭하며, 왜 그는 당신과 같이 공정함과 진실을 위한 입장을 취하지 않고 있느냐는 것이다. 터커 칼슨이 생각하길 페이스북 또한 꽤나 자유언론의 전통에 근간을 두고 있는 것처럼 보임에도 왜 그렇게 하지 않는지 이해할 수 없다는 반응의 어투였다. 이에 대해 일론 머스크는 저커버그는 지난 대선 때 4억 달러를 지출했는데, 아주 의미심장한 말 또한 하게 된다.

 

"겉으로 보기에는 유권자 동원 캠페인에 기부한 것으로 보이지만, 실제로는 민주당 지원에 그 돈이 크게 사용된 것으로 알고 있다.(이는 아주 정확한 정보라고 터커 칼슨이 대답함. 이에 대해) 그게 공정해 보이나요?"

 

 

이에 대해 두 명 모두 공정하지 않다고 동의한다.

 

다소 정치적인 발언도 있긴 하지만, 터커 칼슨의 정치적 성향의 질문에 대해 일론 머스크는 다시 한번 강조하길 본인의 역할은 말 그대로 표현의 자유를 매도 중요하게 여기는 것이고, 사실은 대선 때는 바이든을 선택했지만 본인은 일반적인 사람이 대통령이 되어줬으면 좋겠다고 의견을 피력한다. 일반적이고 상식적인, 정치 좌우 양 극단에 치우치지 않은 말 그대로 중립을 유지할 수 있는 그런 자가 되었으면 한다고 피력하는 것이다. 이 대목에서도 일론은 표현의 자유로움과 함께 민주주의의 역할에 대해 강조하고 있는 것으로 비친다.

 

 

4. TruthGPT에 대해: 제3의 옵션이 필요하다

일론 머스크는 지금의 AI는 거짓말을 하도록 훈련되고 있다고 말한다. 일론이 말하길, 지금의 AI는 무언가에 대해 언급하거나 논평하고는 있지만 실제로는 우리가 요구한 내용의 '데이터'를 전달해주진 않고 있다고 지적하는 것이다. 여기에 Open AI의 창업한 이유와 창업기에 대해 언급하면서 창업 이후 일론은 Open AI에 좀 소홀히 했음을 인정했다. 이후 Open AI는 우리가 아는 것처럼 마이크로소프트의 자금을 지원받아 완전히 마소에 종속된 회사로서 기능을 행사하고 있으며, 비영리단체로 창업을 했지만 지금은 이윤을 추구하는 회사가 되었다는 것이다. 따라서 현시점에서는 AI의 가장 강력한 진영으로 마소의 Open AI와 함께 구글의 Deepmind가 유일무이하며 일론은 제3의 옵션이 필요함을 언급한 것이다.

 

최근 일론 머스크는 트위터를 아예 X Corp.로 변모시켰으며, 네바다에 X.AI Corp.라는 새로운 회사를 등록했다고 전해진다. 머스크는 이 회사의 유일한 이사로 등재되어 있으며, 구글의 AI 연구원들을 섭외하고 있는 것으로도 전해진다.

 

 

Elon Musk Starts New Company Amid AI Talk

 

 

그러나 일론은 다소 늦은 감이 있다고도 말한다. 이미 두 세력들의 수준이 상당히 앞서있음을 인정한 것이다. 이에 대해 터커 칼슨은 염려스러운 말투로 제3의 옵션 생성이 가능하느냐에 대한 질문에 대해 일론은 시작이 늦은 건 사실이지만 세 번째 옵션 만드는 것을 무조건 실행할 것이라는 의견을 피력했다. 이러한 사유로 포스팅 서두에도 밝혔듯 많은 인사들을 모아 6개월간의 개발 중단을 촉구한 것이 아닌가 하는 생각이다. 6개월 정도 시간이면 충분히 이들을 따라잡을 수 있다는 계산이기도 한 것으로 추측할 수 있다. 그의 세 번째 옵션은 Open AI의 의도처럼 더 많은 선한 일을 할 수 있도록 노력할 것임을 피력한 것이다.

 

일론은 현재의 Open AI는 정치적 올바름(political correctness, PC)을 목표로 모델을 훈련시키고 있어 걱정이 된다고 언급한다. 그가 말하길, PC는 사실이 아닌 것을 말하는 다른 방법일 뿐이라고 일축한다.(터커 칼슨도 이에 동의한다.) 따라서 이건 좋지 않은 징조라고 말하며, AI 디스토피아로 향하는 길 중 하나는 AI가 속이도록 훈련하는 것이라고 강조한다.

 

즉, 지금의 AI는 다소 편향된 편견에 대해 우려를 제기하면서 소위 좌파 프로그래머들이 AI를 '거짓말'로 프로그래밍하고, 어떤 것에 대해서는 논평을 하지만 다른 것들에 대해서는 댓글을 달지 않는 등의 활동으로 여론을 호도할 수 있다고 지적했다. Chat GPT를 써본 사람은 알 수 있듯이 종종 Chat GPT는 사실이 아닌 것들을 사실인 것처럼 잘못된 정보를 종종 우리에게 내놓고 있는 것을 두고 그는 우려를 나타낸 것이다. 그는 인터뷰에서 아래와 같이 말했다.

 

"지금 일어나고 있는 일은 AI에게 거짓말을 훈련시키고 있다는 것이다. 이것은 잘못되었다."

 

 

이에 따라 일론이 만들 제3의 옵션은 일명 "TruthGPT"라 불리는, 트위터와 같이 최대한 진실을 찾는 AI 모델을 시작할 것임을 분명히 밝혔다. 우주의 본질을 이해하려고 노력하는 AI를 원한다고 덧붙인다.(정말 우주에 진심이다!) AI가 우주를 진정으로 이해하려 한다면 인류 또한 이 우주의 한 일부이기에 인간을 전멸시키려 들지 않을 것이라고 말한 것이다. 또한 그는 어쩌면 이런 방식들이 AI를 안전하게 다룰 수 있는 가장 좋은 길일지도 모른다고 말한다.

 

이 밖에도 아주 다양하고 의미심장한 이야기들을 많이 전하고 있다. 그러나 어떠한 이유에서인지 유튜브에서의 풀영상들이 일부 지워지고 있는 상황이다. 아주 민감한 이야기들을 많이 전해서일까? 그러나 이미 많이 유포된 영상들을 모두 다 제한하지는 못할 것이다.(포스팅 서두에서도 밝혔지만 구글의 모토는 Don't be evil이다. 동의하시는지? 유튜브도 구글이 소유한 자회사다.) 그렇지만 두 명의 인사들의 인터뷰와 함께 거의 풀영상이 모두 번역된 소중한 국내 유튜버의 영상이 존재한다. 바로 아래와 같이 '백색나무' 님의 소중한 유튜브를 게시 및 소개할 테니 이들의 인터뷰 전체 영상은 아래 링크를 통해 더 자세하게 확인하시길 바란다. 전체 인터뷰 번역본은 약 40분가량이지만 내용이 아주 흥미로워서 시간이 금방 지나가는 것을 알 수 있을 것이다.

 

 

유튜브 '백색나무' 님의 일론 머스크 인터뷰 번역본

 

 

이런 일들이 일어나고 있기에 최근에는 점점 더 정보에 대한 진실여부가 중요해지고 있다. 미디어는 아주 대놓고 가짜뉴스들을 남발하는 이 시점에서 개개인 스스로가 각자 정보에 대한 진실 여부 파악을 위해 노력하는 수 밖에는 없을 것으로 보인다. 아니면 정보를 얻기 위해 최소한 트위터를 가입하여 찾아보는 것도 하나의 방법이지 않나 생각된다. TruthGPT가 나오기 전까지는 가장 객관적이고 진실된 정보를 찾을 수 있는 유일한 창구는 트위터라고 개인적으로 생각한다. 이상 오늘은 여기까지다. 모두들 성투하시길!!

 

(투자 전문가가 아니며 특정 주식의 매도 매수 추천도 아님을 밝힙니다. 투자에 대한 책임은 투자자 본인에게 있음을 다시 한번 상기시켜 드립니다)

---

자료 출처:

‘It presumes to replace us’: Concerns of bias in AI grow after Elon Musk issues new warning

 

 

Elon Musk reveals US intel agencies had 'full access' to private Twitter DMs, discloses new encryption feature

 

 

 

Elon Musk warns of AI's impact on elections, calls for US oversight: 'Things are getting weird... fast'

 

 

Elon Musk ponders creation of “TruthGPT” to rival ChatGPT