MoEs świetnie sprawdzają się w zjednoczonym wstępnym treningu multimodalnym