Латентност от студени стартове на Lambda
Serverless е страхотен, докато студените стартове на Lambda не станат 8 секунди.
Числата:
- P50 латентност: 50ms (страхотно!)
- P95 латентност: 200ms (добре)
- P99 латентност: 8,000ms (ужасно)
Защо студените стартове боля:
- Java + Spring Boot Lambda
- Прикачен към VPC (добавя 1-2 секунди)
- Голям deployment пакет (250MB)
- Нисък трафик = чести студени стартове
- Всеки 10-ти потребител чакаше 8 секунди
Какво опитахме:
- ❌ Provisioned concurrency ($$$ за нисък трафик)
- ❌ Ping за поддържане топла (хакерско, ненадеждно)
- ✅ Преминаване към Node.js (100ms студен старт)
- ✅ Премахване от VPC (не беше нужно)
- ✅ Намаляване на размера на пакета
След оптимизация:
- P99: 8,000ms → 400ms
- Доволни потребители
Урок: P99 е по-важно от P50. Знайте числата за студените стартове преди да преминете към serverless.