Desafios na Gerência de Cache Web Multi-locatários

• Anna Lira UFCG
• João Ramalho UFCG
• Ruan Alves UFCG
• Thiago Emmanuel Pereira UFCG
• Francisco Vilar Brasileiro UFCG
• Mariana Mendes VTEX

DOI: https://doi.org/10.5753/sbrc_estendido.2024.1861

Resumo

Caching é uma técnica antiga e consolidada para melhorar o desempenho de sistemas, porém ainda existem desafios em sua operação. Em plataformas web com múltiplos locatários, não é fácil decidir, por exemplo, se a carga de trabalho gerada pelos vários locatários deve ser atendida de forma exclusiva por vários caches ou de forma compartilhada por um único cache. Neste trabalho, descrevemos a cooperação com um parceiro industrial que opera uma grande plataforma de comércio eletrônico. Tivemos como objetivo entender melhor os desafios na gerência de cache compartilhada entre vários locatários. Para isso, caracterizamos a carga de trabalho desse parceiro e discutimos algumas estratégias que podem apoiar a gerência desse tipo de cache.

Referências

Gu, R., Li, S., Dai, H., Wang, H., Luo, Y., Fan, B., Basat, R. B., Wang, K., Song, Z., Chen, S., Wang, B., Huang, Y., and Chen, G. (2023). Adaptive online cache capacity optimization via lightweight working set size estimation at scale. In USENIX ATC 2023, pages 467–484.

Huang, S., Wei, Q., Feng, D., Chen, J., and Chen, C. (2016). Improving flash-based disk cache with lazy adaptive replacement. ACM Trans. Storage, 12(2):8:1–8:24.

Lira, A., Alves, R., Pereira, T. E., Morais, F., Ramalho, J., and Mendes, M. (2024). No clash on cache: Observations from a multi-tenant ecommerce platform. In Proceedings of the 2024 ACM/SPEC International Conference on Performance Engineering.

Xiang, X., Ding, C., Luo, H., and Bao, B. (2013). HOTL: a higher order theory of locality. In ASPLOS 2013, pages 343–356. ACM.

Yang, T., Pollen, S., Uysal, M., Merchant, A., Wolfmeister, H., and Khalid, J. (2023). Cachesack: Theory and experience of google’s admission optimization for datacenter flash caches. ACM Trans. Storage, 19(2):13:1–13:24.