Apple bewirbt den neuen Mac mini und den neuen Mac Studio mit der Möglichkeit, die Rechner via Thunderbolt 5 zusammenzuschließen, um gemeinsam Berechnungen durchzuführen. Softwareseitig hat der Hersteller diese Funktionalität ("RDMA über Thunderbolt") bereits vor einigen Monaten im Rahmen einer Systemaktualisierung für macOS 26 Tahoe implementiert. Es genügen handelsübliche Thunderbolt-5-Kabel, um einen Mac-Cluster mit niedriger Latenz zu erstellen.

Von Apple heißt es dazu: "KI Inferenzen werden mit mehreren Mac Studio Systemen auf ein völlig neues Level gebracht. Nutzer und Teams, die KI Rechenleistung gemeinsam nutzen möchten, können mehrere Mac Studio Systeme mithilfe der integrierten Unterstützung für Thunderbolt 5 und RDMA (Remote Direct Memory Access) zusammenbündeln.

Dadurch entsteht ein großer gemeinsamer Speicherpool zwischen den Systemen, sodass Nutzer die größten und anspruchsvollsten Open-Weight-Modelle der Spitzenklasse laden können, die derzeit verfügbar sind. Ein Cluster von vier Mac Studio Systemen liefert eine bemerkenswerte 3-mal schnellere KI Inferenzleistung als ein einzelnes System."

 

In einem Support-Dokument nennt der Hersteller weitere Details: "RDMA über Thunderbolt ermöglicht eine leistungsstarke Peer-to-Peer-Vernetzung zwischen Mac-Computern, die über Thunderbolt miteinander verbunden sind. Insbesondere stellt RDMA über Thunderbolt eine RDMA-Verbs-kompatible API (Remote Direct Memory Access) für den Thunderbolt-Controller bereit, die es sorgfältig entwickelter Software ermöglicht, an den Hardware-Grenzen von Thunderbolt zu arbeiten. RDMA über Thunderbolt ist ab macOS 26.2 auf Macs mit Apple Silicon und Thunderbolt 5 verfügbar."

Allerdings muss die Funktion bisher noch via macOS-Wiederherstellungsmodus über das Terminal freigeschaltet werden. Zudem ist es erforderlich, dass die Softwarehersteller entsprechende Anpassungen vornehmen. "RDMA über Thunderbolt wurde gemeinsam für MLX Distributed und das verteilte Rechen-Backend 'jaccl' entwickelt und optimiert. Für ML-Aufgaben wie die verteilte Inferenz sollte MLX mit RDMA über Thunderbolt sofort einsatzbereit sein", so Apple weiter. Einige Entwickler haben bereits Tests durchgeführt und ihre Ergebnisse auf YouTube präsentiert (vgl. hier und hier).

Die Vorteile liegen auf der Hand: Sowohl in puncto Anschaffungskosten (die freilich aufgrund der exorbitant gestiegenen RAM- und SSD-Preise jetzt deutlich höher ausfallen) als auch Stromverbrauch sind Desktop-Macs wie Mac mini und Mac Studio unter dem Strich günstiger als Systeme mit hochgezüchteten Grafikkarten, die sehr teuer in der Anschaffung sind, viel Strom verbrauchen und stark gekühlt werden müssen.

Bei Apple Silicon ist perspektivisch für das Performance/Watt-Verhältnis auch die Umstellung auf das 2-Nanometer-Herstellungsverfahren wichtig, das weitere Effizienzsteigerungen verspricht. Mit dem M6-Prozessor hat Apple mit der schrittweisen Umstellung auf das 2-Nanometer-Verfahren begonnen.

"RDMA über Thunderbolt" steht auf allen Thunderbolt-5-Macs zur Verfügung, d. h. auch auf Mac Studio M4 Max/M3 Ultra, MacBook Pro M4/M5 Pro/Max und Mac mini M4 Pro.