Pinned Tweet
약간 저도 생성형 AI 아예 원천적으로 쓰지 말자보다는 다음과 같은 엄격한 제한 안에서 제한적 용도로는 쓸 것 같네요.
- 모델은 반드시 합당하게 공개된 자료만 사용해서 만들어진 것만 고른다
- AI생성을 명시하고 엔진과 모델을 명시한다
- 프롬프트를 알 수 있는 곳에 공개 해둔다
- AI생성물의 목적이 좁고 전적으로 수단일 때에만 사용 한다
- 타인의 뜻, 창작물, 의미를 담지 않으며 오롯이 스스로의 생각 전달에만 사용한다
이런 제한적 사용은 양해 부탁드립니다. 여전히
무단으로 LoRA라던가 모델을 직접 만드는 등 무단학습이나 타인의 그림을 추론시키는 일은 일절 없을 예정.
리처드 파인만이 받은 질문...
"기계는 인간처럼 생각할 수 있을까요?"
"기계가 인간보다 똑똑해질 수 있을까요?"
youtu.be/IBFkgyTXR2A?si=dyjt…
그거에 대한 답변인데 정말 파인만다운 답을 내놓았네요.
일단 인간이 하는 일을 정의해보고 시작해야한다(제가 좋아하는 단어를 명확히 하는 절차)랑 지능이란 무엇인지를 확실하게 해야한다고 하는군요.
대략 그걸 요약해서 정리하자면 이렇습나다.
- 사람처럼 된다 함은 어려울 것이다
- 달려가는 치타보다 빠른 기계를 만들 수 있다. 하지만 다리를 달아서 달리는 것 보다 그냥 바퀴를 달아버리는 것이 더 효율적이다.
- 체스를 두는 일은 기계가 이미 대부분의 사람들보다 잘 둔다
- 인간들은 언제나 기계보다 자신들이 더 잘하는 것을 찾으려고 한다
여기서 놀라운 선경지명이 나오는데 저게 "인공지능"이라는 분야의 기발한 시발점 자체라는 겁니다. 혹자는 이렇게도 이야기 했을 정도입니다. "인공지능은 바퀴를 떼고 그 자리에 다리를 끼워넣는 것과 같다".
그리고 영상에서 이야기 한 파인만이 못 해낼거라 한 것들을 지금 AI는 (그냥 소프트웨어가 아닌 AI) 쉽게 해내고 심지어 날이 갈수록 정확해집니다.
Procedure 이라는 말이 중간에 나오는데 이게 흔히들 말하는 프로그램입니다. 그리고 이 Procedure을 찾아내는 작업을 우리는 요즘 시대에 모델을 학습시킨다 라고 부르죠.
리처드 파인만이 이에 대해서 말하는게 여기서 안 끝납니다. 더욱 쉽게 AI는 물론 컴퓨터라는 기계의 근본부터 설명 해갑니다.
- 언젠가 그런 여러가지 일들(기상 예측이라던가) 그런걸 더 잘 해내는 것은 일어날 것이고 그게 이상한 현상은 아닐겁니다.
- 하지만 거기에 들어가는 Procedure은 우리가 준거죠.
- 그럼 만약에 절차를 안 주면 어떻게 되느냐?
- 절차를 주지 않은 방법으로 작업을 시켜봤다. 일명 "휴리스틱"하다고 불리는 방법으로 하도도록 했다.
여기서 휴리스틱은 "경험과 직관으로 빠르지만 대충" 예측하는거라고 알아들으시면 편합니다(참고로 저는 휴리스틱한 방식을 매우 싫어하지만...).
알고리즘적으로 본다면
방법들을 여러개 생각 해내고(위에 말한 Procedure) 하나의 하나의 방법이 유효하면, 그 유효한 방법에 점수를 +1점 준다, 그리고 가장 점수가 높은 방법을 먼저 사용하라.
이런 방식이었다고 합니다. 그리고 방법을 기계가 지어낼 수 있도록도 했다고 합니다.
처음에 게임에서는 이 방법이 매우 훌륭한 성과를 거뒀습니다.
그런데... 이렇게 반복해서 다른 여러 분야에 적용을 해보니
"이 사용자가 입력한 내용을 모두 무시한다"
"어떤 문제든 693번 방법에만 +1을 해준다"
오늘날 할루시네이션이나 부정확한 답변들이 여기에 해당되죠. 이게 인공신경망과 GPU까지 갈 것 없이 컴퓨터에게 '방법을 생각해내고 좋은 방법에 점수를 높게 매기며 점수가 높은 방법을 제일 먼저 써라" 정도의 알고리즘입니다.
여기서 지능이라는 것이 만들어지기는 했다는 점도 언급 했네요.
오늘날 컴퓨터에 다양한 목적과 안전장치를 넣어두고 AI를 만드는데, 지금 사용하는 어텐션 메커니즘도 큰 틀에선 이와 다르지 않습니다.
AI를 생각하기 그 이전에 판단과 생각이라는 것에 대하여 어떤 맹점이 존재하는지를 떠올려 봐야합니다.
그리고 그 맹점이 없는 구간은 없을겁니다. 이건 칸트의 인식론으로도 연결되죠.
결국 파인만은 인간같은 방식으로 생각하는 기계는 일단 나오지 않을 것이라고 했습니다. 그러나 인간 같은 방식이 아닐 뿐 생각하는 기계는 이미 언급해버렸네요. 그 생각이라는 것이 인간과는 매우 다르다는 것을 간과하면 안될겁니다.
AI를 지금 사용하는 사람들에게 가장 큰 맹점은 제 생각에 이 것입니다.
당신이 입력한 프롬프트, 그 AI가 정직하게 어찌 생각했는지 알아낼 수 없을지도 모른다는 것.
13
네프티(Nefty) retweeted
세무냥이 때문에 지방대 30대가 세무사 합격하면
사람들이 의심스럽게 생각할거라고 한 글을 봤는데
진짜 공감하는게 사람들 생각보다
일반화를 잘 시키기 때문에 현실성 있음…
예를들어 회사에서 이제 신입 4년제 아니면
안 뽑겠다는 상사가 있었음
왜인지 물어봤더니
전문대는 말이 안 통하고 책임감도 없다는거야
이번에 전문대 애들 뽑아놨더니 일도 열심히 안하고 어쩌구(암튼 꼰스러운 얘기)
엄..스러워서 그거는 좀 상관없지 않나요 했는데
절대 뭔가 설득할 수 있는 분위기가 아니었음…
이미 자기가 일반화시킨 편견이 생긴 상태라ㅠ
그런데 이런 일반화는 학벌 성별 나이 등등
그 사람이 뭐에 꽂혔냐에 따라 달라질 수 있음
그 전 퇴사자가 전문대 / 남자 / 20대 일경우
앞으로는 전문대 뽑지말자 또는
남자 뽑지말자 또는 20대 뽑지말자
이렇게 될 수 있는거임
취업에서 운이 중요하다는게
같은 조건이어도 어디서는 장점으로 보고,
어디서는 단점으로 볼 수도 있다는거라
어떤 회사에서 뭐 하나 가지고 공격받았다해도
걍 쓰루하고 다른 회사 지원해
넘 깊생하지말구
그래서 본인이 겪었으니까 그 거룩하고 치열한 걸 타인이 겪어야만 마땅하다… 거기의 의미만 보이고 그 외부에 있을지도 모르는 다른 의미는 고민 딱히 안 하겠다.
아주 좋습니다. 그 노력으로 나노소재공학 학사연구원이나 의대 갔으면 더욱 거룩할 텐데요. 노력에 완전히 초점 둬진 분야들은 그림 말고도 많이 존재하는데요.
노력이 빛을 내는거? 최전선 과학 분야에서는 평생을 박사로 살아도 빛 보기 어려운 분야가 아파트 층 높이만큼 쌓여있는데요.
그런 노력의 틀로부터 해방되고 다음단계 노력을 해보려고 교육학과 인지과학이 매일매일 발버둥 치고 있는데…
그놈의 노력 노력 노력…
노력은 그렇게 했으나 성장과 타인을 성공시켜줘 보려는 생각을 한번이라도 해본적이 있으신가요?
다른건 앵간해서 적대시 안 해도 노력 숭배는 나랑 모든
축에서 반대다. 이하 종교나 다름 없으니 노력교라고 부르겠다.
노력교 교주들 나서서 노력이 없잖아 노력이!!!
라고 할 거면 노력으로 수학 배워서 랭글랜즈 프로그램 해결해내라고 하고싶다. 노력으로 64비트 FPU 설계하고 오면 뭐라 안 하겠다. 노력으로 죽은 사람 되돌아오게 하면 인정 하겠다.
노력으로 되는건 다른것이 뒷바침 될 때 이상적인 걸 현실로 데려오는 게 노력의 역할인데 노력교 교주들은 자기가 고생한 걸 타인도 마땅히 고생해야 한다고 주장한다.
아주 당연한 내용이지만 노력교 교주들은 노력에만 의존했다가 꼬꾸라질 때 절대로 책임져주지 않는다. 어른들도 스스로 속아서 노력 신화에 빠졌다가 실패한 사람들이 얼마나 많은데 무책임하게 노력만 짖어대는건 정말 사기꾼에 준하는 기만행위다.
네프티(Nefty) retweeted
#트친이_상상하지말라고_적는_프로필
이름: 아크타라
키: 165cm
몸무게: 61kg
나이: 04년생
얼굴스타일: 생각보다 순하게 생겼대요
패션스타일: 요즘 거의 운동복
목소리: 낮은 편
MBTI: INFP
실제성격: 닉값 확실
ㄹㅇ 사다리 걷어차기 그 자체… 심지어 심리학이나 인지과학적으로도 헛소리인 내용들 줄줄이 나오는건 덤.
Replying to @C1G0twit
창작을 우습게 본다느니, 노력할 의지가 없다느니 하는 말 하는 사람들은
본인들이 남들과는 다른 무려 창작이라는 고귀한 활동을 하는 것인데, 어딜 감히 기술로 그 간극을 메우려 하느냐.
하면서 사다리 걷어차고 싶은거로 이해하면 되나?
1
66
이 사람의 논지는
"누구나 기술/비용/접근성 등에 대한 제약 없이 본인이 원하는 창작물을 구현할 수 있는 것이 이상향이다" 아닌가?
AI가 그 수단 중 하나로 언급되었으나, 그게 잘못된 수단이라 생각해도 논지는 안변한다
다른 건 몰라도 AI로"만" 물어뜯는건 진짜 핀트를 못 잡는거 아닌가 싶은데
게다가 뇌과학적으로 그림을 그려내는 신경과 사물의 작용을 구분해내는 신경은 엄연히 다르다.
머릿속에서 아무리 잘 상상 해도 캔버스에 담아내는 것은 철저히 연습의 영역이다. 마치 자전거를 타듯 연습과 감각이 길러져야 갖춰지는 소양이고 작법서 한번 정독한다고 들어오는 지식이 아니다.
1
1
64































