Joint MoE Scaling Laws: Mixture of Experts Can Be Memory Efficient. - Ludziejewski, Jan; Pióro, Maciej; Krajewski, Jakub; Stefaniak, Maciej; Krutul, Michal; Malasnicki, Jan; Cygan, Marek; Sankowski, Piotr; Adamczewski, Kamil; Milos, Piotr; Jaszczur, Sebastian (CoRR, 2025)

Scaling Laws for Fine-Grained Mixture of Experts. - Ludziejewski, Jan; Krajewski, Jakub; Adamczewski, Kamil; Pióro, Maciej; Krutul, Michal; Antoniak, Szymon; Ciebiera, Kamil; Król, Krystian; Odrzygózdz, Tomasz; Sankowski, Piotr; Cygan, Marek; Jaszczur, Sebastian (2024)

Mixture of Tokens: Continuous MoE through Cross-Example Aggregation. - Antoniak, Szymon; Krutul, Michal; Pióro, Maciej; Krajewski, Jakub; Ludziejewski, Jan; Ciebiera, Kamil; Król, Krystian; Odrzygózdz, Tomasz; Cygan, Marek; Jaszczur, Sebastian (2024)

MoE-Mamba: Efficient Selective State Space Models with Mixture of Experts. - Pióro, Maciej; Ciebiera, Kamil; Król, Krystian; Ludziejewski, Jan; Jaszczur, Sebastian (CoRR, 2024)

Scaling Laws for Fine-Grained Mixture of Experts. - Krajewski, Jakub; Ludziejewski, Jan; Adamczewski, Kamil; Pióro, Maciej; Krutul, Michal; Antoniak, Szymon; Ciebiera, Kamil; Król, Krystian; Odrzygózdz, Tomasz; Sankowski, Piotr; Cygan, Marek; Jaszczur, Sebastian (CoRR, 2024)

State Soup: In-Context Skill Learning, Retrieval and Mixing. - Pióro, Maciej; Wolczyk, Maciej; Pascanu, Razvan; Oswald, Johannes von; Sacramento, João (CoRR, 2024)

Mixture of Tokens: Efficient LLMs through Cross-Example Aggregation. - Antoniak, Szymon; Jaszczur, Sebastian; Krutul, Michal; Pióro, Maciej; Krajewski, Jakub; Ludziejewski, Jan; Odrzygózdz, Tomasz; Cygan, Marek (CoRR, 2023)

Efficient Single-Image Depth Estimation on Mobile Devices, Mobile AI & AIM 2022 Challenge: Report. - Ignatov, Andrey; Malivenko, Grigory; Timofte, Radu; Treszczotko, Lukasz; Chang, Xin; Ksiazek, Piotr; Lopuszynski, Michal; Pioro, Maciej; Rudnicki, Rafal; Smyl, Maciej; Ma, Yujie; Li, Zhenyu; et al. (2022)

Efficient Single-Image Depth Estimation on Mobile Devices, Mobile AI & AIM 2022 Challenge: Report. - Ignatov, Andrey; Malivenko, Grigory; Timofte, Radu; Treszczotko, Lukasz; Chang, Xin; Ksiazek, Piotr; Lopuszynski, Michal; Pioro, Maciej; Rudnicki, Rafal; Smyl, Maciej; Ma, Yujie; Li, Zhenyu; et al. (CoRR, 2022)