The author said Slotstream was designed for cases where a Mac could not fit a model’s weights in memory. They wrote that it ran a roughly 105 GB, 125B-parameter mixture-of-experts model on Apple Silicon Macs with 16–64 GB of memory, reading the weights from an SSD.
Remek Kinas announced the release of basal 2.2, which—he wrote—introduces the basal-calibrate tool for adjusting model calibration to the user's local data. According to him, the tool uses labeled examples from a given process, and the data is not shared externally or used for training the model. Kinas stated that he tested the solution in a new field where the model had not been trained. He wrote that using the "1%" setting from the provided file would result in automatically accepting every eighth decision, with 8% of those being incorrect. After calibration on the user's data, the calibration error for choice questions decreased from 0.268 to 0.083. In the case of the verify statements, the model automatically accepted 54.8% of the cases and made no errors in doing so. The release also included FP8 and GGUF ports for basal-omni-1.0-mini and max, as well as MLX ports for Apple Silicon Macs: mini, max, and 1.1-max. Kinas thanked Piotr Durlej for GGUF export, Kuba Sołtys for implementation on Google TPU, Michał Kardyś for work related to AMD Strix Halo, user lukaspoloki for basal-viz, and Paweł Kiszczak for exports to Apple Silicon MLX. The author also expressed gratitude for the posts and comments from the past weekend. He mentioned that he had responded to some of them and then worked on further improvements; he also announced that he would publish comments in the evening. #sztucznainteligencja #uczenieMaszynowe #technologia (translated)
Apple představil nové čipy M6 a M5 Ultra, přičemž M6, první 2nm čip společnosti, slibuje extrémní výkon a energetickou efektivitu pro široké spektrum úloh včetně umělé inteligence, zatímco M5 Ultra je určen pro nejnáročnější profesionální práce jako editace videa a vizuální efekty. #AppleSilicon #M6 #UměláInteligence
Apple a annoncé le lancement de nouvelles versions de son Mac mini et Mac Studio, dotées de la puce M6 gravée en 2 nm et du M5 Ultra, promettant des améliorations significatives en matière de puissance, d'efficacité énergétique et de capacités liées à l'intelligence artificielle, tout en augmentant les tarifs. #MacMiniM6 #AppleSilicon #IA
Le futur macOS 27, surnommé Golden Gate, marque une nouvelle ère pour Apple en abandonnant le support des Mac Intel pour se concentrer sur les modèles dotés de la puce Apple silicon, tout en introduisant des améliorations significatives telles qu'un meilleur assistant Siri AI, des optimisations de performance, une sécurité renforcée et une utilisation simplifiée d'iCloud, tout en prenant en charge des résolutions d'écran plus élevées. #macOS27 #SiriAI #AppleSilicon
Le futur macOS 27, surnommé Golden Gate, marque une nouvelle ère pour Apple en abandonnant le support des Mac Intel pour se concentrer sur les modèles dotés de la puce Apple silicon, tout en introduisant des améliorations significatives telles qu'un meilleur assistant Siri AI, des optimisations de performance, une sécurité renforcée et une utilisation simplifiée d'iCloud, tout en prenant en charge des résolutions d'écran plus élevées. #macOS27 #SiriAI #AppleSilicon
