Ventura Labs Ep. 50 - Steffen Cruz und Felix Quinque Felix Quinque, AI-Leiter, und Steffen Cruz (@macrocrux), CTO & Mitbegründer von Macrocosmos (@MacrocosmosAI) Zeitstempel: 1:24 – Einführung 2:12 – Übergang von Subnetz 9 zu IOTA 2:47 – Das Problem: Training großer Sprachmodelle 4:51 – Überblick über Layer-Gruppen 5:02 – Definition eines Layers in einem LLM 6:07 – Layer vs. Datensatzpartitionierung 7:21 – Datenverteilung unter Minern 10:08 – Einführung in Pipeline-Parallelismus 11:18 – Orchestrator: Planung & Koordination 15:44 – Validierung: Schattenaudits 19:39 – Zukunft des Validierungsprozesses 24:51 – Bedeutung der Aktivierungsverdichtung 31:30 – Butterfly All-Reduce erklärt 36:43 – Stolzeste Errungenschaften von Subnetz 9 39:33 – Erfolg für IOTA-Subnetz definieren 46:21 – Ratschläge für Zero-to-One-Teams 52:16 – Fazit & Dank