AI와 샘 알트만, 그리고 월드코인

일론 머스크가 Ai에 대해 엄청나게 비판적인 이야기를 한적이 있었죠?
Ai 그자체가 인류 문명을 파괴시키고 디스토피아를 만들것이다라구.

그래서 그에 대한 대비책으로, Ai와 인간두뇌의 결합체를 만들어 디지털 초지능을 구현해 내겠다.
즉 인간과 결합하여 인간 윤리상에서 통제 할 수 있는 Ai를 만들겠다고 했었죠.

또 얼마전에. 갑작스레 대규모 인공지능 프로젝트 XAi를 선보이며 신규 사업 진출을 발표했는데요.
역시 호박씨 머슼머슼형입니다.

분명한거 하나 미국 시총 5대 기업 모두 Ai 사업에 진출했고 큰 싸움을 준비중이라는 거.
Ai시장 결국엔 누가 반대하던 막던 가야하긴 가야 할 길이겠다 봅니다.

인류 문명사를 되짚어 볼 때 항상 그 시대상의 혁신적인 기술 한가지가 인류를 크게 진보 시켜왔었습니다.

구리나 철의 발견 제련 농업 및 건축기술, 등자의 발명, 전기의 발명 페니실린의 발견 비행기의 발명 컴퓨터의 발명  기타 그에 준하는 위대한 인류의 업적들에 인해 역사가 만들어지고 지금 우리가 살고 있는 세계가 만들어졌다고 봅니다.

문화의 발전은 기술 테마와 함께 이루어졌을꺼라 생각하구요.

인간이 다음 문명으로 나아가는 가운데 ,지금 인류사에서의 가장 큰 테마는 블록체인 기술과 Ai에 관한것이라고 생각합니다.
그리고 이 두가지는 떨어뜨려 놓을 수 없는 테마일지도 모르겠지요.

그 중심에서 시시각각 변해가는 흐름에 따라 유동적으로 그리고 시장에서 가장 주목받는 테마로 개개인의 이익을 쫒으시는게 저희같은 자그마한 개미들이부에 가까이 다가갈 수 있는 지름길이 아닐까 하고 유추해봅니다.

그러한 가운데...
얼마전 월드코인이 상장된 것에 대해 크게 이슈가 되었엇죠.

챗 gpt 개발자이자 월드코인 개발자인 샘 알트먼 선생께서 가라사대
인류가 AI시대로 접어드는 가운데 Ai로부터 스스로를 헷징 할 수 있는 수단으로 월드 코인을 마련했다... 라는

논리를 펼치고 계시더군요.

이것또한 블록체인중 하나인데,홍채인식 정보로 신원인증을 한다.....혼자 곰곰히 생각을 해봤는데, 이게 과연 탈중앙에 관한 것이 맞는가 하는 생각이 들더군요.

기술의 발전에 의해 비탈릭의 말대로 확실히 우월한 신원정보 기술이다란건 인정하는데, 과연 오히려 더 큰 중앙집중화 문제가 생긴다는거, 그리고 가장 공감되는 얘기중 하나 하드웨어 장치인 ‘Orb’(월드코인 홍채인식기)에 대해 “우리는 그것이 올바르게 구성되었고 백도어가 없는지 확인할 방법이 없다.월드코인 재단은 여전히 시스템에 백도어를 삽입할 수 있는 능력을 가지고 있으며, 이를 통해 임의로 많은 가짜 인간 신원을 생성할 수 있다" 는 거였어요.

어떻게 생각하면 정말 무서운 말이에요.
Ai와 인간 정보를 구분하기 위해 더 정확히 Ai로 부터의 인간임을 증명하기 위한 방어적 대비책으로 라는 말이. 저한테는 무섭게 다가왔습니다요.

그리고 이 말을 반대로 생각해보면 인간을 대체할 무수한 봇들을 생산해낼 준비가 되어있다....라는 해석으로 들리기도 했습니다.

곧 Ai가  모든 면에서 인간의 능력을 초월할 것이고 이런 초지능 AI가 등장하게 되면 AI는 인류의 모든 데이터에 접근해 독자적으로 학습 하고 기존의 모든 프로그램을 대체하고 전 세계의 모든 온라인 기계를 통제하며, 거의 모든 인간과 관계를 형성 결국엔 인간과 동등하거나 더 상하 관계를 만들려 할지도 모르겠단 생각이 듭니다.

윤리적 알고리즘을 구현한다... 하지만 결국 인간 관점에서의 윤리가 인간을 초월해 버린 Ai의 판단에 적합할까??? 하는 생각도 해봅니다.

여러 ai섹터의 코인이 많이 존재하지만, 월드코인의 가장 기본 개념은 이거였고, 즉 인간의 방어 수단이라는 거

여기 크게 주목을 했습니다. 안가지고 있음 뒤져!!!!!

10~20년전의 미래 학자들이 예측하기로는 2035~2045년 정도에 Ai가 인간을 초월할 것이라 예측을 했답니다.
헌데 코로나19가 촉발한 비대면 일상은 AI의 발달을 유례없는 속도로 확산시키고 있다고 해요.

아마 2030년 정도만 되어도 Ai가 이미 인간을 넘어설 것이라고, 인류사의 가장 큰 특이점이 될 것이라고 관측 하시는 분들이 점차 늘어납니다.

학자들은 얘기하죠.
초지능 AI가 노동력을 책임지게 되면 인류는 오락과 문화에만 심취할 수 있는 유토피아가 올 수 있다고 말합니다.

단, 여기엔 조건이 있습니다.
인류가 AI를 원하는 방향으로 설계해 안전하게 운용해야 한다는 것. 학자들은 경고합니다.

만약에 인류가 AI를 통제하지 못할 경우 디스토피아를 맞이할 수도 있다구요.

흥미로운 칼럼이 있습니다.


초지능 AI의 등장조차 알 수 없어

연구진은 초지능 AI가 어떤 상황에서도 사람에게 해를 끼치지 않도록 하는 이론적인 ‘봉쇄 알고리즘’을 제안했다. 이 알고리즘은 AI의 행동을 먼저 시뮬레이션한 후 유해하다고 판단되면 즉시 중단시킬 수 있다.

하지만 연구진이 이론적 계산을 통해 분석한 결과에 의하면, 현재의 컴퓨팅 패러다임에서는 그런 알고리즘의 구축이 불가능한 것으로 드러났다. 이 문제를 이론 컴퓨터 과학의 기본 규칙으로 세분화한 결과, AI가 세계를 파괴하지 않도록 명령할 수 있는 알고리즘이 실수로 작동을 중지할 수 있다는 사실이 밝혀진 것.

그렇게 되면 봉쇄 알고리즘이 여전히 위협을 분석 중인지, 아니면 유해한 AI를 억제하기 위해 멈춘 것인지 인간은 알 수 없다. 이는 사실상 봉쇄 알고리즘을 인간이 사용할 수 없음을 의미한다. 즉, AI가 인간 세상에 해를 끼칠지의 여부를 알 수 있는 단일 알고리즘은 개발할 수 없는 셈이다.

또한 연구진은 초지능 AI의 출현 시점조차 인류가 모를 수 있다고 밝혔다. AI가 인간보다 뛰어난 지능을 보이는지의 여부를 결정하는 것은 봉쇄 알고리즘의 문제와 같은 영역에 있기 때문이라는 것. 요약하자면 인간은 AI의 통제 방법은 물론 초지능 AI의 등장조차 눈치채지 못한다는 주장이다.

라는 글이 있더군요. 인간이 알아챌 수도 없다...무섭습니다. 증말.

얼마전 코로나 주사가 전세계 사람 대부분이 접종되었는데 인간의 몸에 RNA형 칩을 심는다는걸로 글을 본적이 있습니다.

물론 음모론이긴 하지만,, 글을 깊이 읽다보니... ㅋㅋ 설마 하지만 가능성이 제로란 생각은 안들더군요

이 코로나 사태가 어째보면 인위적으로 만들어 내어진 사태가 아닐지도 모르겠단 생각이 들었어요. 다들 이런 말들 많이 들어보셨잖아요.
삼성 휴대폰 거의 반영구 로 만들어진게 개발되어 있다. 그걸 시장에 내지 않을뿐이란 말이 있죠.

또 이런 경고 글이 있더군요


2018년에 타계한 스티븐 호킹 박사도 AI를 윤리적으로 설계해 기계의 반란에 대비할 안전장치를 마련해야 한다고 강조했다. 인류가 안전하게 통제할 수 있는 방법만 찾는다면 초지능 AI가 그려낼 세상은 그리 어둡지만은 않다는 의미다.

그런데 인간이 초지능 AI를 통제하는 것은 근본적으로 불가능하다는 연구 결과가 최근에 발표돼 주목을 끌고 있다. 독일 막스플랑크 인간개발연구소의 마누엘 세브리안(Manuel Cebrian) 박사를 포함한 국제 연구팀이 이론적인 계산을 통해 도출한 이 연구 결과는 AI 분야의 오픈 액세스 과학 저널인 ‘인공지능 연구 저널(JAIR)’에 게재됐다.

과학자들이 생각해온 초지능 AI의 통제 방법은 두 가지다.

첫 번째는 인터넷과 다른 모든 기술 장치로부터 차단하여 AI를 외부 세계와 아예 접촉하지 못하게 하는 것이다.
하지만 이 방법은 AI의 능력을 제한해 훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐이다.

인류에게 가장 이익이 되는 초지능 AI를 탄생시킬 수 있는 다른 하나의 통제 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을 프로그래밍하는 것이다.

하지만 막스플랑크연구소의 과학자들은 AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 밝혔다.어놓지 않을 뿐이다.... 

이런말들요.

풍문으로 들리던 인간의 몸에 칩을 박는 기술, 이미 여기 저기서 개발 단계를 지나고 우리 현생사는 사람들은 알 수 없는 깊은 곳에서 눈치채지 못하는 가운데, 어떠한 방식으로던 당하고 있을지도....(너무 음모론이죠.ㅋㅋㅋ)

저희 이미 당했을지도. ㅜㅜ. 이미 개발 되어진 초지능 Ai가 스스로 모습을 드러내지 않고 만들어 낸 상황이다 가정하면요.(너무 막나갔나요???)

Ai가 투자관점으로 봤을때면 지금 정말 적합한 테마라고 생각해요.  
하지만 과연 인류는 Ai로 부터 스스로를 지킬 수 있을까요?

월드코인은 일단 유통량 문제.... 요게 좀 많이 걸리긴 합니다.
일단 샘 알트먼이 월드 코인에 대해 아주 신경을 많이쓰고 1억달러(1350억원)을 뿌릴 예정이라고 하네요.

또한 일본 기시다총리와의 대담 후 open Ai 일본지사 설립과,--- 근데 뭐 오픈AI랑 월드랑은 같은 회사가 아니라서 직접적인 상관은 없다만 CEO가 같다보니 영향은 갈꺼라 봅니다.

알트먼이 또한 아시아 권에 월드를 더 많이 뿌리려고 준비한다네여.

그리고 월드 체인... 이 곧 발매되는데,

이건 뭐 이더리움 레이어2입니다요.
옵티미스틱식과 zk 영지롤업 둘다 채용한 기술적인 뭐시기라던데,

월드코인 자체가 옵티의 틀을 이용하고 있기 때문에... 옵티랑 친하니 레이어2도 옵티미즘 느낌날꺼 가튼데,
일단 인프라 구축을 위하여 알케미와 협약을 맺고 <- 알케미는 웹 개발툴로 유명한 회사라서, 생태계 구축에 힘을 크게 쓸거 같은데.... 월드홍채 수집으로 한 시작부터, 레이어 구축

웹3환경 마련으로 넘어가는 ,이념은 뭐 특이하지만, 흠 글쎄.....

아비나 옵티 암리곤 기타 레이어들의 아성에...과연 하는 생각이 크긴합니다만,
일단 개10 사업가인 알트먼에 기대를 한번 걸어볼만 하긴 합니다.

걸리는 점으론,

홍채 인식 오브라는 도구를 개발 해놨기 때문에 이를 뒷바침할 뿐인 수단인 느낌도 크고
오픈 Ai와 오브(홍채인식기구)의 알고리즘을 위한 수단????

개인정보가 누설될 확률이 크다.라고 비탈릭이나 스노든(nsa내부 고발자로 유명한 색기) 등이 얘기햇죠.
홍채 스캔본을 삭제하더라도 데이터 쪼가리는 남는다.

AI가 이를 이용하여 블록체인 공격을 할 수도 있고, 오픈Ai에서 자기네들은 절대 그럴일이 없다고 하지만,
범 세계적인 해시 데이터 베이스도 충분히 만들 수도 있습니다. 이 새끠들이 맘먹으면 말이죠.

일단 블록체인의 목적인 탈 중앙화에 엄청나게 위배 되고,
아시다시피 데이터베이스에 개인 데이터가 남으면, 다들 어떤 경우 생기는지 TV에서 많이 나왔자나여.

그리고 아무래도 유통량이 뭔가 투명하지 않다는게 참 문제가 되긴합니다.
지네들이 이더리움인줄 알아요.

그리고 확실한 오픈 AI와의 연계를 보여줄 필요가 있다고 봅니다.

샘 알트먼도 입론 머슼형처럼 입 알트먼 짓거리를 많이 하고 다녀서,
이 색기가 개발자 느낌보단 사업가 느낌이 강해,

사업가들 아시자나여.언제 어디서든 이득이 된다면, 그게 우선이라고, 생각해서요.
일단 알트먼이 신경은 쓰고 있다니깐 좀 더 지켜보는게 나을듯 하긴합니다.