Pinned Tweet
어차피 추천 타임라인 위주로 보고 팔로우 하시는 분들 생기시면 개략적으로 타임라인 보고 맞팔 최대한 하려고 합니다만,
뭐 제가 올리는 정보가 맘에 들거나 괜찮다면 유지되는거고 아니면 마는거라고 생각합니다.
1. 타임라인에 좌건 우건 정치에 대한 이야기가 많다거나
2. 가상화폐, 코인에 대한 이야기가 있다거나
3. 과하게 주식에 대한 이야기가 오고 간다거나
4. 저도 돈미새라서, 돈에 대한 이야기가 자꾸 등장한다거나
5. 정보공유를 하는 과정에서 의도적 곡해가 자꾸 보인다던지
애매하면 팔로우 취소, 그래도 자꾸 추천에 걸리면 뭔가를 할 확률이 높습니다.
어차피 저는 x를 돈벌려고 하는건 아닙니다. 돈 벌면 좋겠는데 단기간에 인증된 팔로워를 늘리고 조회수가 쭉쭉 올라갈 일은 없을겁니다 아마. 영어로 적절하게 하면서 외국 분들의 간택을 받는거 아닌이상은요.
뭐 아무튼 그렇습니다. 그냥 미친개 하나 있구나 생각하고 서로 가던길 가시면 될거 같습니다. 감사합니다.
2
7
391
크으.... 쩐다...!!
oMLX can now use your NVIDIA GPU or DGX Spark as a Prefill Accelerator.
github.com/jundot/omlx/relea…
All you need is a Mac that can hold the model. A faster NVIDIA GPU or a DGX Spark takes over the prefill, and your Mac keeps decoding at the same speed.
- The GPU doesn't need to fit the model. It speeds up as many layers as it can hold.
- No RDMA, no Thunderbolt. Just plug in a LAN cable (1GbE works, 2.5GbE recommended).
- One docker run on the NVIDIA machine. No oMLX install or SSH needed there.
64K prompt, M3 Ultra 512GB + GPU over 2.5GbE
With a DGX Spark
- Qwen3.8 27B: 352 -> 1,062 tok/s (+202%)
- Qwen3.8 Flash-Next: 1,370 -> 2,715 tok/s (+98%)
- DeepSeek V4.1 Flash: 1,085 -> 2,412 tok/s (+122%)
- GLM-5.3 Flash: 555 -> 1,076 tok/s (+94%)
With 2x RTX A6000
- Qwen3.8 27B: 352 -> 1,879 tok/s (+434%)
- Qwen3.8 Flash-Next: 1,370 -> 3,928 tok/s (+187%)
- DeepSeek V4.1 Flash: 1,085 -> 1,914 tok/s (+76%)
- GLM-5.3 Flash: 555 -> 978 tok/s (+76%)
The CUDA helper builds on the great CUDA kernels of TensorFold by @ashhart and mlx-serve by @ddalcu, and would not have been possible without them. Thank you both for sharing them in the open.
Also in 0.8.0rc1
- DeepSeek V4.1 with the DSpark drafter: 8 requests decode 73.2 -> 107.9 tok/s (+47%)
- Concurrent Request Priority: new prompts start sooner while other responses stream
- Affine KV decodes up to 58% faster at long context
There's a new version of this post
1
12
장안의 화제인 그 안경을 Google이?
호오.. 전투력이 올라가는군요(?)
Keep your eyes up and your day moving with Gemini on intelligent eyewear.
Just say "Hey Gemini" to explore street art, get book recs from the shelf ahead, translate in real time, or check your calendar on the spot.
Explore the new intelligent eyewear collections and pre-order your pair today: goo.gle/IntelligentEyewear
7
쌀먹을 하겠다면 방법은 어떻게든 나온다.
문제는 뭘 주고 뭘 받을거냐겠지...(?)
Paying for every Hermes call? NVIDIA will run DeepSeek, GLM and Nemotron for you for free.
NVIDIA Build gives you a free API key for a big catalog of open models, and Hermes supports it as a built-in provider.
Top free models on there right now:
▸ DeepSeek V4.1 Flash
▸ GLM 5.3 Flash
▸ MiniMax M3.1 Flash
▸ Nemotron 3 Ultra 550B
▸ Nemotron 3.5 Super VL 120B
▸ Step 5 Preview
▸ Gemma 4 31B
▸ gpt-oss-20b
Setup:
▸ Grab a free API key from NVIDIA Build
▸ Add NVIDIA_API_KEY to ~/.hermes/.env
▸ Pick NVIDIA in hermes model
Run it as your main model or keep it as a fallback. 40 requests a minute, zero cost.
ALT Free models for Hermes. NVIDIA Build gives you a free API key to a big catalog of open models, no card needed. Top free models: DeepSeek V4.1 Flash, GLM 5.3 Flash, MiniMax M3.1 Flash, Nemotron 3 Ultra 550B, Nemotron 3.5 Super VL, Step 5 Preview, Gemma 4 31B, gpt-oss-20b. $0, no card, 40 requests a minute.
12
황형 한국 왔을때 5090 파운더스 에디션인가에 싸인까지 해서 누가 하나 받지 않았나?
싸인버전이라 가격도 제법 쎘을텐데, 그 전설의 아이템은 이제.... 크흠... 가만두면 가격이 더 오르는것인가?
1
4
70
어쩌다 보니 하고 있는것들...
1. 소소한 일거리 - 이미지 생성기
그냥 테마를 잡고 넣으면 일관성 있는 실사 / 비실사를 만들어준다. GPT-image 2.6에 오면서 실사 처리에 문제가 생겨 현재 개선중인데 11/1일부터 발생함. 해결 못하고 멘붕에 빠짐..
5월부터 시작해서 반년을 하는데 이거저거 맨날 뒤집어지고 다시 수정하고 그러고 삽니다.
2. TPU Builders
- 뭔가 하나 만들어서 올리려고 하고 있는데 아무튼 TPU 생각보다 조아여!!!
- 편하게 할당받고 모델올리고 딱 할거 하믄 좋읍니다!
- 근데 할당받기가 넘나 빡세여... ㅠㅠ
3. AI Community - opentalk
- 24년 11월쯤부터 한거 같은데 아무튼 오래함.
- 4회차 세미나가 예정되어있습니다. 아무말 대잔치 예정
4. AI Community - +a
- 오프라인 커뮤니티 위주인데 네트워킹이 목적성인..
5. GB10 TP=2
- 어쩌다 보니 회사에서 쓸 로컬머신을 준비하게 됐습니다.
- 내부 정보 처리용으로 이거저거 실험중인데 좋네요...(!?)
하는거 없는데 왜 바쁘지..?
1
2
82
시니컬한 분들 글 읽다보면 부정적이 되고
긍정적인 분들 글 읽다보면 긍정적이 되고
이렇게 저렇게 가운데서 좀 중심을 잡고자 하는데 밸런싱이란게 이렇게 어렵다.
기빨리지 않는 나의 즐거움을 위한 취미생활. 오늘은 어디서 또 도파민이 터질것인가.
14
GB10 TP=2 이야기를 3일차로 해야 하는데
슬프게도 일이 터져버렸다. 아침에부터 피싱메일이 몇개 들어오길래 이게 뭔일일까, 왜 안막았나 하면서 사무실에 출근해서 보니 블랙리스트는 정상적으로 추가를 해놨다. 해당 발송자 도메인쪽도 차단했고.
근데 아무리 봐도 이상하더라, 스팸솔루션에 메일차단 리스트도 없지만 메일 수신리스트도 없는거다.
서버에 접속해서(직접 운영합니다) 메일 로그를 봤다? 어? 사용자 계정중 하나가 SMTP에 로그인을 한 뒤, 타사의 메일주소로 위장해서 메일을 보내고 있는거다.
우리는 혹시 모를 삽질을 대비해서, 각 계정이 외부로 발송하는 메일은 하루에 300개로 제한을 해두었다. 필요하면 한도리셋하면 되니까. 내부는 제한 없음.
근데 이게 스크립트 처리의 세팅 미스덕에 우회를 해서 보내는건 막는게 설정이 안된거다. 총 요청 등록된 메일 카운트는 20만개.
일단 방화벽에서 해당 IP는 막고, 사용자 계정은 비밀번호 별도로 수정 후 해당 인원에게 알림. 사용자가 일부러 그러진 않았을거고 요즘 워낙 여기저기서 털리니...
오히려 해당 비번이 털렸는데 다른 주요 서비스들 같은 비번 쓰면 수정하라고 이야기 하고 위로해줌.
그러면서 솔루션 업체측에 문의해서 해당 발송제한 스크립트 컨트롤이랑 헛점 수정을 요청해놓고 1차전 정리. 인줄 알았지.
그러고 퇴근을 했는데, 집에 올쯤 메일이 하나 더 꽂히더라.
어 하고 보니 큐에 올려둔 나머지 메일이 여기저기 날아가고 안으로 날아가고 아주 그냥 대환장판이었다. 일단 급하게 Queue에 잡힌 해당 주소로 대기중 메일은 다 중지시키고, 업체와 긴급 연락을 해서 확인 후 삭제처리했다.
여기서 핵심적 요소는 로그체크, 판단, 문제사항 해석은 전부 Codex CLI에 터미널 연결한 상태로 확인했다는거다. 우리는 최대한 읽기 권한으로 상황 분석만 하고 조치는 업체측에 의뢰했다.
늘 그렇지만 나는 회사에서 일이 터질때 문제분석하고 처리하는게 주업무인 사람이다.... 그래서 아무튼 핑계뿐인 GX10 운영 3일차 이야기는 이거로 대신... ㅠㅠ
2
6
167
싼데비쌈. 헬릭스 내놔아
Gemini 4 Hydrogen's FULL pricing just surfaced!!!
• Standard: $1.50 input / $7.50 output
• Batch/Flex: $0.75 input / $3.75 output
• Cached input: Just $0.075
Now compare standard INPUT pricing:
• Gemini 4 Hydrogen: $1.50
• Claude Opus 5.5: $4
• Claude Fable 5.2: $8
• GPT-6 Astra: $10
1
2
102
이제 KT가 이 플로우에서 AI비서임을 판독하면 대신받든 처리하는걸 붙이면 되겠네.
KT는 이 상황을 보며 박수를 치려나...?
product.kt.com/wDic/soho/mar…
1
67
3일차. GX10 TP2 이야기.
여전히 Qwen 3.8 Flash Next로 PDF문서 처리 체크중. 100P, 400P급 저화질 스캔본 작업 문서 회사용 품목으로.
어느정도까지 데이터를 신뢰할 수 있을지 반복으로 5회씩 체크중. 시간은 뭐 1시간 이상 걸리고 하지만 어차피 사람이 눈으로 비교하는 뻘짓을 정리한다면야.
충분히 가치있고 좋아보임.
3
166
