AIGeekNews·11시간 전·원문 약 4분

작고 오래된 기기에서도 LLM이 돌아가게 만들고 있습니다

smolmaxxing은 TV 박스와 오래된 iPad에서 실행 가능한 최대 규모의 언어 모델을 찾고, 맞춤형 커널과 메모리 최적화, 가중치 스트리밍으로 성능을 끌어올리는 프로젝트임 실사용 RAM이 약 1GB인 Xiaomi TV Box S 3세대에서 Qw…

핵심 요약

자동 요약

1smolmaxxing은 TV 박스와 오래된 iPad에서 실행 가능한 최대 규모의 언어 모델을 찾고, 맞춤형 커널과 메모리 최적화, 가중치 스트리밍으로 성능을 끌어…
2다만 iOS 12.5.7 탈옥이 필요하며, 긴 대화에서는 18~22 tok/s 수준임 RAM보다 큰 모델은 플래시 대역폭이 속도를 제한함.

전체 내용이 궁금하다면

GeekNews 원문에서 이어 읽기

원문 보기

비슷한 글

5유사도 추천

All Tests Passed. The Customer Said No. What Happens Next?
A website passes every technical check.
AIdev.to·3시간 전#discuss#ai#agents
What an agent actually needs from a stablecoin
An agent paying another agent needs four properties, and everything else is decoration: Deterministic value.
AIdev.to·3시간 전#agents#blockchain#crypto
Agent identity should survive a key, not an address
Every wallet-bound identity has the same flaw: the address is the identity, so losing the key loses the account, and holding the key means h…
AIdev.to·3시간 전#agents#blockchain#security
What Happens When a Commit-Message Generator Can't Say "I'm Not Sure"?
A trending post this week argued that an agent isn't hallucinating when it gives a confident wrong answer — it's doing exactly what its rule…
AIdev.to·3시간 전#ai#llm#debugging
An empty cross-project Plane view does not mean there is no work for today
Filtering for open work assigned to the caller and due by today returned 0 items.
기타dev.to·3시간 전#plane#productivity#testing

개발 뉴스로

AIGeekNews·11시간 전·원문 약 4분

작고 오래된 기기에서도 LLM이 돌아가게 만들고 있습니다

smolmaxxing은 TV 박스와 오래된 iPad에서 실행 가능한 최대 규모의 언어 모델을 찾고, 맞춤형 커널과 메모리 최적화, 가중치 스트리밍으로 성능을 끌어올리는 프로젝트임 실사용 RAM이 약 1GB인 Xiaomi TV Box S 3세대에서 Qw…

핵심 요약

자동 요약

1smolmaxxing은 TV 박스와 오래된 iPad에서 실행 가능한 최대 규모의 언어 모델을 찾고, 맞춤형 커널과 메모리 최적화, 가중치 스트리밍으로 성능을 끌어…
2다만 iOS 12.5.7 탈옥이 필요하며, 긴 대화에서는 18~22 tok/s 수준임 RAM보다 큰 모델은 플래시 대역폭이 속도를 제한함.

전체 내용이 궁금하다면

GeekNews 원문에서 이어 읽기

원문 보기

비슷한 글

5유사도 추천

All Tests Passed. The Customer Said No. What Happens Next?
A website passes every technical check.
AIdev.to·3시간 전#discuss#ai#agents
What an agent actually needs from a stablecoin
An agent paying another agent needs four properties, and everything else is decoration: Deterministic value.
AIdev.to·3시간 전#agents#blockchain#crypto
Agent identity should survive a key, not an address
Every wallet-bound identity has the same flaw: the address is the identity, so losing the key loses the account, and holding the key means h…
AIdev.to·3시간 전#agents#blockchain#security
What Happens When a Commit-Message Generator Can't Say "I'm Not Sure"?
A trending post this week argued that an agent isn't hallucinating when it gives a confident wrong answer — it's doing exactly what its rule…
AIdev.to·3시간 전#ai#llm#debugging
An empty cross-project Plane view does not mean there is no work for today
Filtering for open work assigned to the caller and due by today returned 0 items.
기타dev.to·3시간 전#plane#productivity#testing

어떤 기술이 궁금하세요?

어떤 기술이 궁금하세요?

어떤 기술이 궁금하세요?

어떤 기술이 궁금하세요?

작고 오래된 기기에서도 LLM이 돌아가게 만들고 있습니다

핵심 요약

비슷한 글

All Tests Passed. The Customer Said No. What Happens Next?

What an agent actually needs from a stablecoin

Agent identity should survive a key, not an address

What Happens When a Commit-Message Generator Can't Say "I'm Not Sure"?

An empty cross-project Plane view does not mean there is no work for today

어떤 기술이 궁금하세요?

어떤 기술이 궁금하세요?

어떤 기술이 궁금하세요?

어떤 기술이 궁금하세요?

작고 오래된 기기에서도 LLM이 돌아가게 만들고 있습니다

핵심 요약

비슷한 글

All Tests Passed. The Customer Said No. What Happens Next?

What an agent actually needs from a stablecoin

Agent identity should survive a key, not an address

What Happens When a Commit-Message Generator Can't Say "I'm Not Sure"?

An empty cross-project Plane view does not mean there is no work for today

어떤 기술이 궁금하세요?