微软
「要让所有开发者和企业能够为他们的应用提供Copilot的能力。」微软执行长Satya Nadella在今年Build开发者大会开幕演讲时这样强调，企业自建Copilot所需要的基础设施，从AI基础架构、基础模型、AI调度管理，到他们自己的Copilot应用及其延伸功能，所有这些都能在Azure环境中完成。
Copilot是微软开发的生成式AI对话应用，以OpenAI的GPT模型为基础进行开发。最初，Copilot在GitHub中推出，不到一年就获得上千家企业及破百万名开发人员采用。当时的Copilot的任务相对简单，以协助开发者撰写程式为主。经过两年多，Copilot逐渐发展成为一个更全面的生成式AI助手，出现在更多的微软服务中协助使用者处理不同的工作任务，无论是提供个人化搜寻建议、文书工作处理，还是在行销活动、数据分析及安全方提供即时的协助。
尤其，更强大、正确率更高的GPT-4模型推出後，进一步提升了Copilot的能力，例如今年3月推出的GitHub Copilot X，将GPT-4整合到IDE开发工具中，不只能自动写程式，还能提供优化配置和除错功能。
微软会中透露，Windows 11作业系统将同样支援Copilot功能，这意味着，Copilot将变成Windows作业系统中的常驻程式，可以在桌面环境提供使用者更多支援和协助。
要让每家企业都能自建Copilot
但是，微软想要做的事不仅仅是如此而已，看准生成式AI应用浪潮，微软不只要扩大旗下产品对於Copilot的支援能力，更要开始让Copilot走出自己的服务，进到企业特定应用或服务场景中来提供专属的Copilot能力。这意谓着，每家企业都能自建Copilot，利用微软所提供开发工具和庞大资源，协助他们建构符合自身需求的专属Copilot或下一代AI应用。微软正是看准了这些不同服务类型Copilot背後的企业客制化应用需求。
Satya Nadella以「人工智慧的Mosaic时刻（编按：网路第一个普及的图形浏览器）」来形容因ChatGPT带动的生成式AI应用浪潮，以及对於开发人员可能带来的新变革，而新推出Copilot的外挂扩充（Plugin）功能，就是微软迎战这股变革的关键战略，「要透过外挂扩充将Copilot延伸到每家企业的应用中，」Satya Nadella如此表示。
但是，微软的外挂发展策略，并非要打造出像苹果App Store的模式一样，建立一个统一、集中式的外挂上架平台来收取分润，相反地，微软的目标是要建立一个外挂生态圈，吸引广大开发者和企业加入并开发各自的外挂功能。这些外挂无法单独存在，必须与微软各种商用Copilot搭配使用，出现越多的外挂，就越能进一步壮大Copilot生态圈，也越能带动微软商用Copilot的相关业务。
生成式AI对话应用开始支援外挂机制，微软并不是第一家采用这项策略的业者。早在今年3月时，因推出ChatGPT而爆红的OpenAI就已经支援外挂功能，能够透过不同外挂API来让ChatGPT与企业提供的数据或第三方应用进行互动。他们还推出专属外挂程式的商店，通过审核的用户可以上架自己的应用外挂程式到这个商店平台中。尽管目前仍处於测试阶段，已有20多支官方和第三方应用外挂推出。
开始提供Copilot外挂支援能力
ChatGPT外挂推出後不久，微软发表了一个能支援外挂的Bing Chat，这个外挂机制类似於ChatGPT，可以利用安装外挂的方式，进一步延伸Copilot功能。随後在5月底的Build年会上，微软更透露，M365 、Power平台、Dynamics 365中的Copilot将支援相同的外挂标准，就连新版Windows作业系统开始内建Copilot後，也能支援该外挂。
微软采用了和OpenAI的ChatGPT相同的外挂标准，更替微软和OpenAI外挂平台提供了一个可以彼此互通的方式。透过这样的方式，微软表示，目前已有超过50个第三方外挂支援Copilot，预计还有上千个外挂功能将推出。举例来说，Bing已与ChatGPT共用许多外挂功能，如OpenTable、Wolfram Alpha等，如今，ChatGPT更深度整合了Bing，将其预设为自己的搜寻引擎。
「当每个开发人员都能够撰写外挂并将其应用於Copilot中所涵盖的数十亿用户，」Satya Nadella认为， 这将赋予这些开发者强大的力量，可将他们所开发的AI服务和应用，进一步延伸到全世界各角落。
微软采用了和OpenAI的ChatGPT相同的外挂标准，可以让微软和OpenAI两个平台上的外挂可以彼此互通，透过这样的方式，微软表示，目前已有超过50个第三方外挂程式支援Copilot，预计还有上千个外挂功能将推出。（图片来源／微软）
微软开发工具开始整合外挂开发
另一方面，微软开始整合了既有的开发工具和资源，提升对於该外挂机制的支援能力。例如，微软已经将Visual Studio Code、 GitHub Codespaces等工具与新的外挂标准整合，现在开发者可以直接在这些工具中来建立、部署或调度在Copilot介面运作的外挂功能，帮助企业或开发人员能更快采用。
微软表示：「不会向任何第三方收取为Bing建构Plugin的费用。」然而，在开发Copilot应用的过程中，开发者或企业有可能需要使用微软的付费服务，例如基础架构和基础模型服务，来进行Copilot应用的开发。
AI Copilot技术开发框架大公开
从微软公开的AI Copilot技术开发框架中，可以反映其Copilot开发生态圈的发展战略。从这个技术框架来看，微软将Copilot整个软硬体架构分三层，最底层是AI基础架构与基础模型，其中基础模型包括了Azure OpenAI的GPT模型、合作夥伴及开源社群及企业自己开发的基础模型；中间层则是AI调度管理层，包含外挂执行、基础资料（Data grounding）、中继提示（Metaprompt），以及「提示与回应」过滤机制。Azure在这两层中都有提供相关服务。最上层是App层，包括Copilot以及外挂扩充功能。企业或开发人员可以透过外挂方式在微软提供的Copilot平台中开发自己的延伸功能，或者使用自己客制的Copilot版本进行开发。并可利用微软IDE开发工具与GitHub完成所有Copilot应用开发。
微软进一步还以这个AI开发框架为基础打造了一个全流程AI Copilot建置及管理平台，称为Azure AI Studio，成为了扩大其开发生态系的另一个重要关键。
除了提供了模型建立、训练、测试和部署功能，AI Studio还具备了一般AI开发平台所没有的特色，例如提供了模型推论的即时测试功能，开发者可以使用自然语言对话框迅速测试和验证模型的推论结果，还整合提示工程（Prompt engineering）做法优化流程，让企业能用系统化方式来调校和管理多种提高模型回答准确率的提示。
从微软公开的AI Copilot技术开发框架中，分为三层架构，最底层是AI基础架构与基础模型，其中基础模型包括了Azure OpenAI的GPT模型、合作夥伴及开源社群及企业自己开发的基础模型，中间层则是AI调度管理层，包含外挂执行、基础资料、中继提示、与提示与回应过滤机制。最上层是App层，包括Copilot以及外挂扩充功能。（图片来源／微软）
建构完整Copilot开发生态圈
微软很早就积极拥抱生成式AI技术，通过与OpenAI合作并以ChatGPT所使用的GPT模型为基础，推出商用生成式AI基础模型服务，微软更利用这项技术开发出生成式AI对话应用Copilot，并将其运用在自己的产品中。
微软AI战略下一步将以Copilot为核心，不仅要扩大其产品支援，更要利用外挂机制的推出，让开发人员与企业都能够在商用Copilot中开发自己的功能，甚至也要让这些不同外挂功能，可以支援企业用Azure AI自建的Copilot。新的AI Copilot建置及管理平台也成为企业打造自己的Copilot的一个完整开发工具。
建构一个成熟且完整的Copilot开发生态系，这正是微软迎战生成式AI应用浪潮下的AI新战略。而要加速建构这个生态圈的关键，正是靠这两大关键新策略。
相关报导