Инференс в ИИ: Новая золотая лихорадка?
Появление DeepSeek сигнализирует о сдвиге в ИИ от масштабного претренинга к оптимизации вычислений во время инференса (TTC). Это меняет ландшафт оборудования (GPU, ASIC), повышает важность QoS для облачных провайдеров и открывает новые возможности для вертикальных приложений, несмотря на проблемы безопасности. Эффективность инференса может парадоксально увеличить спрос на облачные ресурсы.