Microsoft-Decision-1 详解:微软入局决策模型,与 Jev、Laya 的三方对比
引言 上个月我写了一篇 Jev vs Laya,对比了 TypeSafe AI 的闭源决策模型 Jev 和社区开源的 Laya。那时“决策模型”还是一个刚刚诞生的新品类:9 月 15 日 Jev 发布,三天后 Laya 开源。 ...
引言 上个月我写了一篇 Jev vs Laya,对比了 TypeSafe AI 的闭源决策模型 Jev 和社区开源的 Laya。那时“决策模型”还是一个刚刚诞生的新品类:9 月 15 日 Jev 发布,三天后 Laya 开源。 ...
问题的背景 最近,一台部署在 Azure 上的 Linux 服务器突然出现 CPU 持续 100% 的情况。排查后发现,服务器上存在一个以 postgres 用户身份运行的恶意程序,并通过 cron 定时任务维持运行。 ...
随着 OpenWebUI 中的用户、对话、文件和知识库数据不断增长,原先部署在 Azure VM 上的自建 PostgreSQL 带来了越来越多的运维工作,包括数据库补丁、备份、故障恢复、存储监控和安全维护。 ...
1. 引言 在 vLLM Semantic Router 的设计中,Embedding 推理是驱动语义路由的核心信号之一。 官方教程已经演示了如何使用远程 Embedding 推理提供商(Remote Embedding Providers)替代本地 Embedding 推理服务: ...
在多模型并存的 AI 架构中(如 GPT-4 / GPT-4o / 轻量模型 / 垂直模型等),一个核心问题是: 如何在不显式指定模型 ID 的情况下,让系统自动选择最合适的模型? ...
在过去一年里,AI 编程的主流交互方式经历了一个明显演进: Prompt → Prompt Engineering → Context Engineering → Skill(能力封装) 如果说 Prompt 是一次性调用模型能力,那么 Skill 本质上是在构建“可复用的智能能力模块”,它让 AI 从“会回答问题”,进化为“能执行任务”。 ...
随着生成式 AI 与智能代理的快速发展,自托管的智能系统正变得越来越受开发者和技术团队关注。Clawdbot 就是这样一款开源、可自托管的个人 AI 助手,它不仅能与用户进行对话,还能执行任务、集成消息平台、提供自动化能力,并可部署在云平台上如 Azure。本文将逐步介绍 Clawdbot 的能力、架构以及如何在 Microsoft Azure 上部署并开始使用它。 ...
2025 年末,微软研究院发布了一个面向 3D 内容创作的开源大模型项目 TRELLIS,并伴随学术论文《Structured 3D Latents for Scalable and Versatile 3D Generation》。该项目通过统一的结构化潜在空间与先进的流模型技术,显著提升了文本/图像到 3D 资产生成的质量与灵活性,同时拓展了 3D 模型的多格式输出与编辑能力,成为当前 3D AI 模型生态中的重要技术之一。 ...
近年来,生成式 AI 技术迅速演进。在自然语言处理之外,图像生成与编辑能力成为 AI 创新的重要前沿。在这一趋势下,OpenAI 推出了 GPT Image 系列模型,在 Azure OpenAI 服务内同样可用。而其中最新发布的 GPT-Image-1.5 可视为图像生成领域的新旗舰,在性能、效率和可控性方面均有显著提升。 ...
在电商和物流领域,有一个不起眼但极其耗时的痛点:将复杂的地址格式正确的输入到物流系统固定的字段中。客户发来的地址格式千奇百怪,有时是逗号分隔,有时连成一行,顺序也完全随机,经常还缺少省份或州等关键信息。 ...
随着 Azure AI Foundry 开放对 Sora 2(OpenAI 生成式视频模型)的支持,开发者现在可以在企业级合规、可管控的环境中使用顶尖的视频生成能力。本教程将带你从零开始,通过 Playground 和 Python SDK 两种方式调用 Sora 2,完成「文本生成视频」的流程。 ...
大模型在推理部署时,往往存在显存瓶颈: 模型参数(Parameters, P)动辄上百 GB,需要长期驻留显存。 输入/输出数据(Data, D)则随请求动态变化,但往往和参数耦合在同一设备上,导致显存占用不均衡,扩展性受限。 为了解决这一问题,可以借助 vLLM 框架实现参数 / 数据(P/D)分离,提升推理系统的灵活性和吞吐。 ...
什么是 VibeVoice? VibeVoice 是 Microsoft Research 发布的一套面向长篇、多说话人、对话式语音合成的研究框架,目标场景例如整集播客、有声剧或访谈:能在单次生成中维持说话人一致性并处理自然的换手(turn-taking)。模型家族包含多个规模(例如 1.5B、7B 等),并在 Hugging Face 上以 microsoft/VibeVoice-1.5B 形式开放(模型卡、模型文件、model card 中有安装/使用与责任使用说明)。 ...
随着大语言模型热度的升级,企业和个人使用者的研究重心逐步从训练转移至推理(说白了是由造轮子转变为务实的使用)。而在模型推理领域,最炙手可热的两大框架无疑是 vLLM 和 SGLang,而作为后起之秀的 SGLang,其表现也值得大家关注,今天就基于 SGLang 为大家带来一篇入门教程文章,希望能帮助更多希望了解大语言模型及 SGLang 框架的朋友。 ...
DeepSeek 的爆火让人们再一次看到了 AI 的魅力,而随之而来的不仅不是对算力需求的减少,而是在低成本亲民化人工智能中构建更多 AI 业务场景带来的另一波算力需求。今天我们来通过 Azure AI Foundry(原 Azure AI Studio)快速体验 DeepSeek 的风采。 ...