SemanticKernel:添加插件

简介: SemanticKernel:添加插件

SemanticKernel介绍

Semantic Kernel是一个SDK,它将OpenAI、Azure OpenAI和Hugging Face等大型语言模型(LLMs)与C#、Python和Java等传统编程语言集成在一起。Semantic Kernel通过允许您定义插件来实现这一点,这些插件可以通过几行代码链接在一起。

为什么需要添加插件?

大语言模型虽然具有强大的自然语言理解和生成能力,但它们通常是基于预训练的模型,其功能受限于训练时所接触的数据和任务。为大语言模型添加插件是为了扩展其功能、提高其灵活性和实用性。比如你问一个大语言模型今天是几号?它无法提供实时信息甚至会出现幻觉,这时候插件就派上用场了。

实践

插件分为提示词插件与本地函数插件,本次示例用的是本地函数。创建一个TimeInformation类:

public class TimeInformation
 {
     [KernelFunction]
     [Description("Retrieves the current time in UTC.")]
     public string GetCurrentUtcTime() => DateTime.UtcNow.ToString("R");
 }

[KernelFunction]SemanticKernel中的一个特性,表示指定导入为插件的类中的方法应作为 Microsoft.SemanticKernel.KernelFunction 包含在生成的 Microsoft.SemanticKernel.KernelPlugin 中。 [Description]特性用于为类、方法、属性等添加描述信息。

在kernel中加入这个插件:

builder.Plugins.AddFromType<TimeInformation>();
var kernel = builder.Build();

现在来试试效果:

// Example 1. Invoke the kernel with a prompt that asks the AI for information it cannot provide and may hallucinate
Text += "问:还有多少天到7月1号?\r\n";
Text += "答:" + await kernel.InvokePromptAsync("还有多少天到7月1号?") + "\r\n";
// Example 2. Invoke the kernel with a templated prompt that invokes a plugin and display the result       
Text += "问:还有多少天到7月1号?\r\n";
Text += "答:" + await kernel.InvokePromptAsync("现在时间是 {{TimeInformation.GetCurrentUtcTime}},还有多少天到7月1号?") + "\r\n";
// Example 3. Invoke the kernel with a prompt and allow the AI to automatically invoke functions
OpenAIPromptExecutionSettings settings = new() { ToolCallBehavior = ToolCallBehavior.AutoInvokeKernelFunctions };       
Text += "问:还有多少天到7月1号?\r\n";
Text += "答:" + await kernel.InvokePromptAsync("还有多少天到7月1号,请解释一下你的思考?", new(settings)) + "\r\n";

效果如下所示:

第一个回答没有使用插件,大语言模型出现幻觉了。

第二个回答通过使用模板化的提示来调用插件,回答正确。

第三个回答通过自动调用插件,回答正确。

参考

1、microsoft/semantic-kernel: Integrate cutting-edge LLM technology quickly and easily into your apps (github.com)

2、Understanding AI plugins in Semantic Kernel and beyond | Microsoft Learn

3、semantic-kernel/dotnet/samples/GettingStarted/Step2_Add_Plugins.cs at main · microsoft/semantic-kernel (github.com)

相关文章
|
数据采集 城市大脑 分布式计算
阿里云产业智能OpenTrek技术升级:发布数字孪生仿真技术架构
2022年11月4日,云栖大会——产业智能技术创新与实践峰会于杭州云栖小镇如期举办,本峰会联合中国科学院院士、中国工程院院士、海外院士与行业权威机构,共同探讨产业智能方法论及发展趋势。会上,阿里云产业智能OpenTrek发布了技术升级后的数字孪生仿真技术架构,为行业数字化转型方向的合作伙伴提供全过程状态数据元信息整合能力,帮助行业客户进行业务价值创新。
阿里云产业智能OpenTrek技术升级:发布数字孪生仿真技术架构
|
8月前
|
人工智能 API 数据库
Semantic Kernel .NET 架构学习指南
本指南系统解析微软Semantic Kernel .NET架构,涵盖核心组件、设计模式与源码结构,结合实战路径与调试技巧,助你从入门到贡献开源,掌握AI编排开发全栈技能。
966 2
|
编译器 Linux C语言
QT编译安装QtMqtt子模块,WIN平台
QT编译安装QtMqtt子模块,WIN平台
1032 0
自动检查以确保依赖项始终与使用的electron版本相匹配的小技巧
自动检查以确保依赖项始终与使用的electron版本相匹配的小技巧
435 0
|
6月前
|
机器学习/深度学习 搜索推荐 算法
广告系统:广告引擎如何做到在 0.1s 内返回广告信息?
广告系统是互联网核心营收支柱,支撑Google、Facebook等公司超80%收入。其本质是高并发、低延迟的实时检索系统,需在0.1秒内完成百万级广告匹配。本文详解广告引擎架构:通过标签过滤、树形分片优化索引;引入向量检索实现智能匹配;采用非精准打分预筛+深度学习精排的混合排序策略;并在离线索引构建时前置过滤无效广告,压缩检索空间。结合业务特点,从索引、召回到排序全方位提升性能,保障高效精准投放。
|
9月前
|
人工智能 搜索推荐 安全
AI智能体终极指南:从核心原理到未来应用,一篇文章讲透所有疑问
AI智能体正引领一场“行动革命”。它不仅是聊天工具,更是能自主规划、调用工具、主动执行任务的智能系统。从订机票、写代码,到分析数据、辅助科研,AI智能体已渗透多个领域。本文带你全面了解AI智能体的核心原理、应用场景与未来趋势,看清这场从“人找工具”到“工具主动服务人”的智能变革。
2649 2
|
人工智能 API C#
SimpleRAG:基于WPF与Semantic Kernel实现的一个简单的RAG应用
SimpleRAG是一款基于WPF与Semantic Kernel的RAG应用,支持OpenAI兼容的AI聊天与文本嵌入模型,演示了RAG技术在提升回答质量上的作用。可通过GitHub获取源码,配置所需模型API密钥后,在VS2022中以.NET 8环境编译运行。应用内置Sqlite数据库存储向量数据,便于离线使用与自定义扩展。如感兴趣,请支持并反馈使用体验。
397 1
SimpleRAG:基于WPF与Semantic Kernel实现的一个简单的RAG应用
|
11月前
|
存储 运维 安全
云服务器-进阶篇
本文全面对比了云服务器、物理服务器与VPS在技术架构、性能、成本及运维等方面的核心差异,通过表格和深度解析帮助用户理解各类型服务器的优劣势,从而根据具体场景做出最优选择。
|
Docker Windows 容器
手把手教您在 Windows Server 2019 上使用 Docker
现在,您可以直接用 Windows Server 来运行“纯”Docker 容器,其中所有的容器进程都可以直接在主机操作系统上运行。
27651 1

热门文章

最新文章