Joint MoE Scaling Laws: Mixture of Experts Can Be Memory Efficient. - Ludziejewski, Jan; Pióro, Maciej; Krajewski, Jakub; Stefaniak, Maciej; Krutul, Michal; Malasnicki, Jan; Cygan, Marek; Sankowski, Piotr; Adamczewski, Kamil; Milos, Piotr; Jaszczur, Sebastian (CoRR, 2025)

Scaling Fine-Grained MoE Beyond 50B Parameters: Empirical Evaluation and Practical Insights. - Krajewski, Jakub; Chochowski, Marcin; Korzekwa, Daniel (CoRR, 2025)

Projected Compression: Trainable Projection for Efficient Transformer Compression. - Stefaniak, Maciej; Krutul, Michal; Malasnicki, Jan; Pióro, Maciej; Krajewski, Jakub; Jaszczur, Sebastian; Cygan, Marek; Adamczewski, Kamil; Ludziejewski, Jan (CoRR, 2025)

Decoupled Relative Learning Rate Schedules. - Ludziejewski, Jan; Malasnicki, Jan; Pióro, Maciej; Krutul, Michal; Ciebiera, Kamil; Stefaniak, Maciej; Krajewski, Jakub; Sankowski, Piotr; Cygan, Marek; Adamczewski, Kamil; Jaszczur, Sebastian (CoRR, 2025)

Scaling Laws for Fine-Grained Mixture of Experts. - Ludziejewski, Jan; Krajewski, Jakub; Adamczewski, Kamil; Pióro, Maciej; Krutul, Michal; Antoniak, Szymon; Ciebiera, Kamil; Król, Krystian; Odrzygózdz, Tomasz; Sankowski, Piotr; Cygan, Marek; Jaszczur, Sebastian (2024)

An implementation of the YOLO algorithm for the recognition of flags of the International Code of Signals. - Krajewski, Jakub; Czarnowski, Ireneusz (2024)

Mixture of Tokens: Continuous MoE through Cross-Example Aggregation. - Antoniak, Szymon; Krutul, Michal; Pióro, Maciej; Krajewski, Jakub; Ludziejewski, Jan; Ciebiera, Kamil; Król, Krystian; Odrzygózdz, Tomasz; Cygan, Marek; Jaszczur, Sebastian (2024)

Scaling Laws for Fine-Grained Mixture of Experts. - Krajewski, Jakub; Ludziejewski, Jan; Adamczewski, Kamil; Pióro, Maciej; Krutul, Michal; Antoniak, Szymon; Ciebiera, Kamil; Król, Krystian; Odrzygózdz, Tomasz; Sankowski, Piotr; Cygan, Marek; Jaszczur, Sebastian (CoRR, 2024)

Mixture of Tokens: Efficient LLMs through Cross-Example Aggregation. - Antoniak, Szymon; Jaszczur, Sebastian; Krutul, Michal; Pióro, Maciej; Krajewski, Jakub; Ludziejewski, Jan; Odrzygózdz, Tomasz; Cygan, Marek (CoRR, 2023)