GOMOOT :mastodon: on Nostr: 👀 FreeToken, il nuovo motore open source di UC Berkeley per far girare modelli MoE ...

👀 FreeToken, il nuovo motore open source di UC Berkeley per far girare modelli MoE in locale su GPU consumer. FreeToken tratta il computer come un unico insieme elastico di risorse 👇
https://gomoot.com/freetoken-il-motore-di-uc-berkeley-per-far-girare-modelli-moe-in-locale-su-gpu-consumer/

#LocalAI #AI #freetoken #LLM #moe #opensource