九游娱乐广告

  36氪得悉，开源解决方案供给商红帽公司近来宣告推出红帽AI推理服务器（Red Hat AI Inference Server），这是在混合云中遍及生成式AI（gen AI）的重要一步。作为红帽AI中的新产品，该企业级推理服务器源自强壮的vLLM社区项目，并经过红帽对Neural Magic技能的集成逐步增强，可以给我们供给更高的速度、加速器功率和本钱效益，助力完成红帽“在恣意云环境中的恣意AI加速器上运转恣意生成式AI模型”的愿景。