Benvenuto a Jun Kim in Hugging Face

Siamo entusiasti di dare il benvenuto a Jun Kim come nuovo membro del nostro team. Jun è il creatore e principale maintainer di oMLX, il progetto che rende più accessibile l’uso di MLX, il framework di Apple ottimizzato per i chip Apple Silicon. la sua decisione di unirsi a Hugging Face segna un passo importante per la crescita della community locale di intelligenza artificiale.

Perché MLX è centrale per l’AI locale

MLX è il framework di Apple progettato per eseguire modelli di intelligenza artificiale direttamente sui dispositivi, senza dipendere da server remoti. la sua ottimizzazione per Apple Silicon lo rende particolarmente efficiente in termini di velocità e consumo energetico. da quando Awni e Angelos lo hanno presentato come “regalo di Natale” nel 2023, MLX è diventato un punto di riferimento per gli sviluppatori che cercano soluzioni di AI locali.

Hugging Face ha sempre sostenuto l’open source e, grazie alla sua piattaforma, gli utenti possono trovare, scaricare e condividere modelli compatibili con MLX. la crescita dell’AI locale è in rapida accelerazione e noi crediamo in un ecosistema sano dove gli strumenti giusti sono a disposizione di tutti.

Stabilità, finanziamento e sviluppo accelerato

Passare da un progetto secondario a uno completamente mantenuto e finanziato consentirà a Jun di guidare meglio i contributori e di pianificare lo sviluppo a lungo termine. oMLX rimarrà sotto licenza Apache 2.0, come fino ad ora, e Jun continuerà a guidarne la direzione tecnica.

Il nostro obiettivo finale è rimuovere gli ostacoli che impediscono alla community di eseguire AI locale in qualsiasi forma, fornendo gli strumenti e i blocchi costruttivi necessari. crediamo che oMLX possa fungere da banco di prova per nuove idee, sfruttando al contempo il lavoro di base delle dipendenze su cui si basa:

mlx‑lm
mlx‑vlm
mlx‑lm‑ormlx‑vlm

Collaborazioni e sinergie con altri progetti

Le librerie di modellazione e inferenza solide sono fondamentali per la community. per questo, stiamo collaborando attivamente con diversi progetti open source, tra cui:

mlx‑lm
mlx‑vlm
LMStudio
i team di Cheng, Prince e Yagil

Queste partnership mirano a rafforzare le relazioni e a offrire un supporto più integrato a tutti gli utenti che sviluppano o utilizzano modelli su MLX.

Focalizzazione sulla conversione da Transformers a MLX

Un’area di lavoro concreta è la transizione rapida da una definizione di modello in Transformers a un’implementazione di riferimento in MLX, in modo che diversi motori possano consumare lo stesso modello. la libreria Transformers è diventata lo standard de‑facto per la definizione dei modelli di machine learning; vogliamo semplificare il processo affinché i nuovi modelli Transformers possano essere eseguiti su MLX senza sforzi aggiuntivi.

Stato attuale del repository oMLX

Recentemente il repository GitHub di oMLX sembra essere stato rimosso. alcuni utenti hanno segnalato l’impossibilità di accedere al codice, mentre altri hanno notato che Jun è stato probabilmente bannato automaticamente subito dopo aver pubblicato informazioni nella sezione Discussions. la community spera in una rapida risoluzione.

Nel frattempo, un fork temporaneo è disponibile su zviratko/omlx, dove è possibile sincronizzare il codice più recente. questo permette a sviluppatori e ricercatori di continuare a lavorare sul progetto senza interruzioni.

Impatto su altri motori di inferenza e prospettive future

La domanda su come questa integrazione influenzerà altri motori di inferenza MLX, come mlx‑optiq, è centrale. la risposta è che la collaborazione con Hugging Face dovrebbe facilitare l’interoperabilità, grazie a standard comuni e a un supporto più ampio per le API. inoltre, l’acquisto “acquihire” di Jun da parte di Hugging Face è paragonato a quello di Groq, dimostrando che l’unione di talenti e tecnologie può portare a risultati più rapidi e solidi.

In sintesi, l’arrivo di Jun Kim in Hugging Face rappresenta una svolta per l’intero ecosistema MLX. con una base più stabile, risorse finanziarie e una rete di collaborazioni più ampia, la community potrà accelerare lo sviluppo di AI locale, rendendo più semplice per chiunque eseguire modelli avanzati direttamente sui propri dispositivi Apple.