先祝大家 2025 新年好。 在 2024 年落地的 LLM 应用来看，基本上都是结合 RAG 技术来使用的。因为绝大多数人跟公司是没有 fine-turning 的能力的。不管是在难度还是成本的角度看 RAG 技术都友好的多。 在 RAG（Retrieval-Augmented Generation）中，向量的意义在于将文本数据转换为高维向量表示，以便进行高效的相似性搜索和信息检索。...

Kernel Memory (KM) 是一种多模态 AI 服务，专注于通过自定义的连续数据混合管道高效索引数据集。它支持检索增强生成（RAG）、合成记忆、提示工程以及自定义语义记忆处理。KM 支持自然语言查询，从已索引的数据中获取答案，并提供完整的引用和原始来源链接。 通过 KM 我们可以让 LLM 认识更多新的知识。比如认识新的文本内容，WORD文档，PDF, PPT，甚至是直接爬取一个...

大家好，上一篇我们分析了 .NET 依赖注入的默认行为，其实呢还没完全讲完。今天我先给大家出一道题： public interface IDbContext { } public class SqlServerDbContext : IDbContext { } public class LongTermSerive : Ba...

奇怪的问题 本周被一个奇怪的问题困扰了一天。事情的起因是这样的：在某个 PR 合并后，我拉了最新代码，但是在我本地F5调试始终报错。示例代码如下： public interface Interface1 { void Method1(); } public class MockSerivce { public Mock...

前几篇我们介绍了如何使用 SK + ollama 跟 LLM 进行基本的对话。如果只是对话的话其实不用什么 SK 也是可以的。今天让我们给 LLM 整点活，让它真的给我们干点啥。 What is Plugin? Plugins are a key component of Semantic Kernel. If you have already used plugins from Ch...

前面的 2 篇文章已经介绍了 ollama 的基本情况。我们也已经能在本地跟 LLM 进行聊天了。但是如何使用代码跟 LLM 进行交互呢？如果是 C# 选手那自然是使用 SK (SemanticKernel) 了。在这篇博客中，我们将探讨如何使用 Microsoft 的 SemanticKernel 框架对接 Ollama 的聊天服务。我们将通过一个简单的 C# 控制台应用程序来展示如何实现...

Github Actions 我们的开源项目 Host 在 Github，并且使用它强大的 Actions 功能在做 CICD。单看 Github Actions 可能不知道是啥。其实它就是我们常说的 CICD pipeline 或者叫 workflow。当我们 Push 代码到 Github，它会自动触发这些管道。它会帮我们自动 build 代码，跑 test cases，构建镜像，发布镜...

上一篇我们介绍了如何在本地部署 ollama 运行 llama3 大模型。过程是相当简单的。但是现在给大模型交流只能在命令行窗口进行。这样的话就只能你自己玩了。独乐乐不如众乐乐嘛。我们接下来说一下如何部署 open-webui 给 ollama 加一个 webui，这样用户就可以通过浏览器访问我们的本地大模型了，体验非常类似 chatGPT。 Open-WebUI Open-WebUI 是一...

在 chatGPT 的推动下。LLM 简直火出天际，各行各业都在蹭。听说最近 meta 开源的 llama3 模型可以轻松在普通 PC 上运行，这让我也忍不住来蹭一层。以下是使用 ollama 试玩 llama3 的一些记录。 什么是 llama LLaMA（Large Language Model Meta AI）是Meta开发的大规模预训练语言模型，基于Transformer架构，具有强...

当然可以，以下是完整的 Markdown 版本： 使用 Microsoft.Extensions.ServiceDiscovery 进行服务发现并调用 简介 在现代微服务架构中，服务发现（Service Discovery）是一项关键功能。它允许微服务动态地找到彼此，而无需依赖硬编码的地址。以前如果你搜 .NET Service Discovery，大概率会搜到一大堆 Eureka，...