더 정확히 말하면 인간의 내면의식이 고유한 만큼 인간의 외부 지능을 통제하기 위한 마구도 인간의 수만큼 많을 수밖에 없는 것이겠지만.
대략 이런 방향일 것이다.
teapawt.net/karpathy/status/204047…
Wow, this tweet went very viral!
I wanted share a possibly slightly improved version of the tweet in an "idea file". The idea of the idea file is that in this era of LLM agents, there is less of a point/need of sharing the specific code/app, you just share the idea, then the other person's agent customizes & builds it for your specific needs.
So here's the idea in a gist format: gist.github.com/karpathy/442…
You can give this to your agent and it can build you your own LLM wiki and guide you on how to use it etc. It's intentionally kept a little bit abstract/vague because there are so many directions to take this in. And ofc, people can adjust the idea or contribute their own in the Discussion which is cool.
Leaked code를 가져다 올리고 AI로 언어를 바꿔 작성하게 하곤 “clean room”이란 그럴듯한 단어를 가져다가 force push로 git history를 갈아치우며 아무 문제가 없다고 하는 것에 대한 짜증은, 그 행동의 적법성은 둘째치고
이런 후안무치함이 보상받는 현 시대에 대한 염증일 것이다.
천재적이긴 하죠, 유출 코드 그대로 올려서 초기 스타 붐업 실컷 한 다음에 코드 파이썬으로 갈아엎고 클린룸이라 주장하는 어뷰징 솜씨가요
이딴 짓거리를 지금 천재 개발자니 뭐니 잘한다 잘한다 띄워주면서, 기사 첫머리에는
> “유출된 코드 활용, 윤리의 문제” 비판도
v.daum.net/v/202604051054010…
teapawt.net/chester_roh/status/204…
도덕과 염치가 자연의 제 1 공리는 아니지만 인간에겐 사회적인 쓸모가 있어 발생했는데,
“새로운 세상, 새로운 세대의 가치관”에는 해당사항이 없어 보인다. 일단 ‘앞으로 뛰쳐나가 어떻게든 박수갈채를 받아라’를 제외하면
youtu.be/oDJfu4WsTrM?si=C_gU…
신현송 한은 총재 후보의 과거 영상을 보면 앞으로 한국의 암호화폐가 나아갈 방향을 가늠할 수 있는데,
오늘 토스 메인넷 소식을 비롯해 미래에셋 등 기존 금융권에서 올해 들어 크립토에 빠르게 관심을 보이는 양상을 보면
단순하게는 중앙은행이 관리하는 CBDC를 줄기로 DeFi 등 Private 섹터의 작은 가지들이 뻗어나가는 형태가 예상된다.
youtu.be/8edNGGP_T4k?si=HD2F…
다만 지금껏 암호화폐의 특징이었던 수많은 알트코인을 위시한 heterogeneous한 생태계는 등장하지 않을 확률이 높아 보인다.
인류는 역사의 오랜 기간 동안... 좀처럼 변화가 눈에 보이지 않는 상태로 살아왔다. 약 30년 전만 해도, 변화란 어느 정도 예측할 수 있는 것이어서, 부모들은 자식들도 어느 정도 자신들과 비슷한 삶을 살 것이라 예상할 수 있었다. 그전에는 더욱 그랬다. 수백 년 왕조 국가들의 역사에서, 한 평범한 백성의 일생 동안 왕이 죽고 바뀌는 일이 과연 얼마나 잦은 일이었겠는가? 물론 세상이 급격히 바뀌고, 시대의 물결이 빨라지는 전란의 시기는 있었겠지만, 이것 또한 수백 년의 역사에 비하면 짧은 수십 년이었을 것이고, 대부분의 시기는 자식과 부모의 삶의 양상이 크게 다르지 않은, 느린 변화의 시대였을 것이다.
인간이 문명과 국가를 이룩하기 전에는 더더욱, 수십만 년 동안, 역사를 거슬러 올라갈수록, 인간이 체감할 수 있는 변화는 자연의 변화가 대부분이었다. 계절의 변화와 인간의 군락이 이동하며 생기는 변화들. 그땐 인간은 곧 자연의 일부였을 것이다.
허나 이젠 그 양상이 크게 달라졌다. 인간의 힘이 자연을 압도하기 시작하며, 산업과 기술의 발달로 인간의 창조물들이 자연을 이용하고 변화시키는 속도가 빨라지기 시작했고, 이젠 AI라는, 어쩌면 인간 최후의 창조물이 될지도 모를 것이 등장하며, 개인이 체감하는 변화의 속도는 자식의 세대뿐 아니라 바로 다음 5년조차 예측하기 어려울 정도로 빨라지게 됐다.
이것이 암시하는 바는, 변화의 속도는 지수적이라는 것이다. “x to the power of n”; 지수법칙은 어떤 것의 증가가 기하급수적으로 일어난다는 법칙으로, 1초마다 두 배로 증식하는 세포가 있다고 했을 때, 이 세포가 병의 절반을 가득 채우는 데 59초가 걸렸다면, 나머지 절반을 채우는 데는 단 1초밖에 필요하지 않다. 정규분포와 선형적 변화의 상식으로는 이해하기 힘든 것이다.
물론, 병이라는 한계를 가정한다면, 세포는 병의 공간 이상으로 증식할 수는 없다. 마찬가지로, 그것이 지능이든 생명이든, 주어진 자원이 모두 소진되는 경계 이상으로 증식하는 것은 불가능하다. 하지만 생존과 번식의 알고리즘, 즉 유전자의 지배를 받는 생명체들의 문명은 지수법칙으로 인해, 일단 시작된 이상 폭발적으로 주어진 자원을 소진하며 변화하고, 증식하고, 발전하는 필연성을 갖는 것이다. 평균이 무한으로 수렴하는, 일견 상식을 벗어나는 현상인 것이다.
지수적 변화란 문명뿐 아니라 자연법칙을 지배하는 양상 중 하나다. 아웃라이어가 나머지 모든 평균을 압도하는 경우들의 예시는 인간의 역사 밖에도 너무나 많이 존재한다. 지진과 산불이 좋은 예시다. 지금의 변화를 주도하는 지능도 마찬가지다. 과학과 기술의 발전은 한 명의 천재의 발견이 새로운 시대의 문을 여는 듯 보이는, 계단식 형태로 진전해왔다. 수십만 년 동안 변화가 없다가도, 불의 발견으로 문명 사회가 만들어지고, 전기의 발견으로 산업 시대가 시작되며, 이제 ASI의 발견으로 새로운 정보 시대가 시작되는 것이다.
인류가 자신들을 초월하는 피조물을 창조해 낼 것이라는 하이퍼스티션이 실현됨이 더 이상 먼 훗날이 아닌, 눈앞 어딘가에 아른거리는 지금, 현재와 미래 사이의 인과관계는 현 인류의 인지 영역을 점점 더 벗어나고 있고, 그것은 ASI의 완성으로 종점에 다다를 것이다.
물론 ASI 이후에 인간이 AI와 연결되어 인간 자체를 초월한다면 다르겠다. 그렇다면 인간을 초월한 그 무언가는 더 이상 인간적인 한계에 구속받지 않고, 다시 폭발하는 변화의 속도 그 자체를 지금으로서는 상상할 수 없는 방식으로 체감하고 경험할지도 모른다. 하지만 그것은 명백히 인간이 아닐 것이다. 호모 사피엔스를 초월한 초인, 트랜스휴먼, 혹은 포스트휴먼일 것이다. 그리고 그것조차도 언젠가 추월당할 것이고, 그 연속은 결국, 지금까지 열역학의 법칙을 위배하거나 엔트로피의 역전을 가능케 하는 발견이 없는 한, 끝에 다다를 것이다. 병에 갇힌 세균이 병을 넘어 밖으로 증식하는 것은 불가능하듯이.
다만 인간이 인간으로 남는다면, ASI의 완성 이후 관측 가능한 변화는 역설적으로 오히려 줄어들 것이다. 그것은 변화 자체가 사라졌기 때문이 아니라, 변화가 우리의 인지 능력 밖으로 벗어났기 때문일 것이다. 50억 광년 밖의 우주에서 항성이 스러지고 블랙홀이 탄생해도, 개개인이 체감하는 변화는 미미하듯이, 인간이 거대한 건축물을 세워도 개미가 체감하는 변화는 미미하듯이, 우리를 뛰어넘는 후손들이 성취할 과업들은 우리의 인지로는 인식하기조차 불가능한 영역에 있기 때문에, 오히려 우리는 아무런 변화도 없는 듯한 평온한 나날을 보내게 될지도 모르겠다. 물론 그 평온조차도 지금에 비하면 엄청난 변동성과 가능성을 내포하고 있는 상태일 것이겠지만.
이런 지금, 곧 태어날 내 아이에게 해 주고 싶은 말은... 앞으로의 미래가 그 어떠하든, 태어남이 있고 끝이 있는 생명에게 있어 본질은 변하지 않는다는 것. 모든 생은 외로움을 근원으로 하나, 나를 알고 세상을 앎으로써 그것이 불이(不二)하다는 것을 알며, 세상과 나 모두로부터 자유로워져, 생명에게 있어 선의 본질은 생을 잇는 것임을 기억하고 서로 사랑하며 사는 것. 다만 자연 자체는 생하지도, 사하지도 않은, 남도 없고 끝도 없기에, 선과 악의 분별도 없는 무심한 것임을 잊지 않는 것.
브룬즈윅의 렌즈 모델은 인간을 ‘원격 변인(distal variable)’을 ‘근접 단서(proximal cue)’를 활용해 해석하는 ‘잡음이 낀 통로(noisy channel)’로 설명한다. 이에 가장 근접한 묘사 중 하나는 GANTZ에 등장하는, 어렸을 때부터 지적 장애를 지녔지만 신(神)적 외계인이 보낸 정보를 송신하여 검은 구체를 만들게 한 독일 기업가의 딸이다.








