Dieses Gerät hat angerufen Kleines KI-Taschenlabor hat gerade einen Guinness-Rekord als kleinster PC erhalten, auf dem 120-B-Modelle lokal ausgeführt werden können.
Die Spezifikationen:
- Größe: 14,2 x 8 x 2,53 cm
- Speicher: 80 GB LPDDR5X RAM und 1 TB SSD.
- Leistung: Läuft lokal 120-B-Modelle mit mehr als 18 Token/s und nur 35 W.
Smartphones sind Hunderttausende Male leistungsfähiger als Computer in Autogröße von vor 50 Jahren. Da dieser Trend anhält und in die KI-Ära übergeht, denke ich, dass dieses tragbare Gerät die endgültige Form des PCs sein könnte. Wenn wir einen superintelligenten Assistenten in der Tasche haben, der völlig offline funktioniert, brauchen wir dann überhaupt noch die Cloud?
https://www.startuphub.ai/ai-news/technology/2025/120b-llm-on-old-pc-the-device-that-breaks-cloud-ai/
Ein Kommentar
It would be a good thing for everyone if LLMs could just run locally and offline without the need for data centers. It’s probably the only reasonable path forward for them.