4 篇文章
本文深入探讨了Netflix技术团队为何没有选择主流的API托管服务，而是决定在内部全栈构建大语言模型（LLM）推理服务平台。文章详细阐述了从模型部署到在线推理的完整技术路径，剖析了在Netflix现有生产环境中整合LLM服务所面临的挑战与关键决策，如应对多变的生产流量、利用现有基础设施（Kubernetes和容器）以及构建支持多模型、多团队的通用平台。这些实践为其他需要构建自研LLM服务的组织提供了宝贵的技术参考。
本文介绍了Netflix正在研发的下一代推荐系统GenRec。该系统标志着推荐技术从依赖传统手工特征与专用架构，转向以大语言模型为核心的“原生”架构。GenRec旨在统一并简化复杂的推荐流程，通过大语言模型强大的序列理解与推理能力，实现更直接、更高效、更具泛化性的推荐，同时面临性能、成本与个性化等新的工程挑战。这是Netflix对推荐系统未来演进方向的前瞻性探索。
本文深入探讨了 Netflix 如何构建和管理支撑其海量业务的大规模服务拓扑系统。文章详细介绍了其核心架构设计理念，剖析了在微服务环境下遇到的可观测性、数据一致性及系统复杂性等关键挑战，并分享了从实践中总结出的宝贵经验与最佳实践，为构建类似规模的分布式系统提供了重要参考。
本文是Netflix构建实时分布式图（RDG）系列的第三部分，重点阐述如何通过gRPC执行API查询其自研的分布式图系统。文章深入探讨了查询引擎的设计目标、gRPC协议的选择优势，以及Netflix如何通过流式响应、服务端聚合等技术优化大规模图数据查询性能。同时分享了在安全性、可观测性和客户端实现方面的实践经验，为构建高性能图查询服务提供了宝贵参考。