2 月 18 日，DeepSeek 官方发文公布了一篇新的论文，论文提出了一种新的注意力机制「NSA」。 论文地址： https://arxiv.org/pdf/2502.11089v1 据 DeepSeek 介绍，「原生稀疏注意力 (Native Sparse Attention, NSA) 」是一个用于超快长上下文训练和推断的本地...

#英伟达##geforce#在月初刚发布了新一代显卡RTX 30系列，而在换代前后你都可能会有做GPU基准测试的需要。合成基准，或人工基准的构造是为了匹配大量程序的特性。得到的结果是成千上万的数据，但这并不能给玩家得到我们想知道的，刷新率 - 帧数。而及时基准的...

从trace和录屏能算出大致帧率，更准确的帧率数据还需要从代码中统计 为了评估流畅度是否好，要计算1s 实际绘制的帧数，空闲不绘制的帧数，所以最好用2个帧率： 一个是满帧fps，一个是实际绘制fps， 好处是相比Surfaceflinger统计消费App生成的Buffer数量，可...

一、概述 由于app要接入某一厂商，对内存有严格的使用要求，比如初始内存要小于多少M，使用过程最大内存不得超过多少M等条件。对于这些量化的数据，我们需要重哪里获取呢。 在开发阶段，我们除了用Android提供的工具，比如 Android Profiler 、MAT 等工具来...

一、dumpsys meminfo命令 dumpsys meminfo 是Android系统提供的查询内存命令，用该命令可以看到： 每个进程占用的物理内存大小 系统内存分布状态，包括 总的可用物理内存 Total RAM 当前可用物理内存 Free RAM 已用物理内存 Used RAM 不可见内存 Lost RAM 比...

RAG 从未如此简单 minRAG 是从零开始的 RAG 系统，追求极致的简单和强大，不超过 1 万行代码，无需安装，双击启动。支持 OpenAI、Gitee AI、百度千帆、腾讯云 LKE、阿里云百炼、字节火山引擎等 AI 平台. 使用 FTS5 实现 BM25 全文检索，使用 Vec 实现向量检...

前言 春节期间最火爆的新闻是 DeepSeek 没有之一，这则消息足以震动全互联网。它是一款国产的开源大模型，APP 登顶苹果中国区和美国区应用商店免费下载排行榜。一夜之间，微软、英伟达、亚马逊等全部接入DeepSeek模型。 部署环境 运行设备：MacBook Air 操作...

经济参考网报道称，随着 DeepSeek 大模型的迅速流行，越来越多的公司和个人选择将该开源大模型私有化部署。奇安信资产测绘鹰图平台监测发现，8971 个 Ollama 大模型服务器中，有 6449 个活跃服务器，其中 88.9% 都 裸奔 在互联网上，导致任何人不需要任何认...

目录 一、效果预览 二、部署ollama 1.ollama说明 2.安装流程 2.1 windows系统 2.1.1下载安装包 2.1.2验证安装结果 2.1.3设置模型文件保存地址 2.1.4拉取大模型镜像 2.2linux系统 2.2.1下载并安装ollama 2.2.2设置环境变量 2.2.3拉取模型文件 三、部署open-we...

场景 cent os7服务器使用nvm安装的node之后，只要使用npm或者node，均会出现以下问题 npm -v node: /lib64/libm.so.6: version `GLIBC_2.27 not found (required by node) node: /lib64/libc.so.6: version `GLIBC_2.25 not found (required by node) node:...

本机部署大语言模型：Ollama和OpenWebUI实现各大模型的人工智能自由 本篇文章介绍在window系统下，安装Ollama并且安装gemma（谷歌大模型）、llama2（脸书大模型）、qwen（阿里大模型）等大模型的教程，实现类似免费ChatGPT的web界面 安装之后的web界面 什么...

Open WebUI介绍： Open WebUI 是一个仿照 ChatGPT 界面，为本地大语言模型提供图形化界面的开源项目，可以非常方便的调试、调用本地模型。你能用它连接你在本地的大语言模型（包括 Ollama 和 OpenAI 兼容的 API），也支持远程服务器。Docker 部署简单，功能...

一、什么是open-webui Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI，旨在完全离线操作。它支持各种LLM运行程序，包括Ollama和OpenAI兼容的API。有关更多信息，请务必查看Open WebUI文档。 二、Open WebUI的主要功能 轻松安装：使用Docker或Kub...

一、为什么选择Open Web UI ？五大核心优势 Open Web UI开源地址 1. 开源免费 - 无商业限制，代码透明可审计2. 轻量化设计 - 仅需300MB内存即可流畅运行3. 隐私保障 - 数据100%本地化处理，无云端传输风险4. 跨平台支持 - 基于Docker 实现Mac/Windows/Linux...

Open Webui Github项目网址 https://github.com/open-webui/...

Open WebUI白皮书 https://www.openwebui.com/assets/files/whitepaper.pdf...

Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI，旨在完全离线操作。它支持各种LLM（Large Language Model）运行程序，包括与Ollama和OpenAI兼容的API。Open WebUI的主要功能包括： 直观的界面：聊天界面灵感来自ChatGPT，确保用户友好的体验。 响...

参考文献： deepseek ： https://www.deepseek.com/ DeepSeek-R1 ： https://kkgithub.com/deepseek-ai/DeepSeek-R1 LM Studio ： https://lmstudio.ai/ Ollama ： https://ollama.com/search Open WebUI ： https://docs.openwebui.com/ AI Short ： https:...

环境基本要求 硬件配置 需要本地跑模型，兼顾质量、性能、速度以及满足日常开发需要，我们需要准备以下硬件： CPU：I9 内存：128GB 硬盘：3-4TB 最新SSD，C盘确保有400GB，其它都可划成D盘； GPU：4080S即可（有条件的上4090D或者双卡），但是4080S已经足足...

deepseek指令大全：这里是DeepSeek AI的终极指令手册！不管你是内容创作者、电商运营、数据分析师，还是程序员、生活效率达人，这份deepseek指令大全都能让你一键唤醒AI，提高效率，快速完成任务！ deepseek指令大全 一、DeepSeek使用技巧4步提问法 想让AI高...

使用Ollama部署deepseek大模型 前置条件 使用英伟达显卡下载cuda驱动 https://developer.nvidia.com/cuda-downloads Ollama Ollama 官方版: https://ollama.com/ 我的显卡在Windows电脑上面 所以使用Windows的安装方式去安装 若你的显卡是在Linux上面 可以使...

Deepseek API调用方式 预览地址： https://deepseek.wiki/ DeepSeek API 使用与 OpenAI 兼容的 API 格式，通过修改配置，您可以使用 OpenAI SDK 来访问 DeepSeek API，或使用与 OpenAI API 兼容的软件。 参数 base_url https://api.deepseek.com api_key 认...

DeepSeek 是一款基于命令行和配置文件的数据处理工具，支持多种数据格式（如 CSV、JSON、SQL 等）和多种数据源（如本地文件、数据库、API 等）。 它的核心功能包括： 数据导入与导出：支持从多种数据源导入数据，并将处理结果导出为多种格式。 数据清洗与预...

国产开源大模型追平甚至超越了CloseAI的o1模型，大国崛起时刻！！！ DeepSeek R1 本地部署指南 在人工智能技术飞速发展的今天，本地部署AI模型成为越来越多开发者和企业关注的焦点。本文将详细介绍如何在本地部署DeepSeek R1，同时涵盖Ollama和Chatbox AI的...

如何在Cursor中 集成DeepSeek？ 非常简单： Cursor 使用了很长一段时间了，期间也购买了几个月的会员，体验一直不错，除了网络问题，唯一诟病的就是费用略高，一个月 20 刀的费用相比 DeepSeek 百万 token 才几块的价格还是过高了。Cursor 提供了自定义 endp...

模型加载工具：Ollama 参考：https://github.com/ollama/ollama/blob/main/docs/linux.md 下载Ollama 服务器上下载ollama比较慢，因此我使用浏览器先下载到本地电脑上。 https://ollama.com/download/ollama-linux-amd64.tgz复制到浏览器进行下载 下载好以后...

今天就来告诉大家怎么在自己的飞牛NAS上部署DeepSeek AI人工智能教程！（本教程同样也适合群晖NAS等其他X86的Linux系统，Ubuntu或CentOS也是可以的，但是OneCloud就不确定了） 小白使用的是测试机i5-3470T RAM12GB+ROM120GB的配置，直接是物理机安装的飞牛NA...

在本文中，我们将深入探讨Deepseek采用的策略优化方法GRPO，并顺带介绍一些强化学习（Reinforcement Learning, RL）的基础知识，包括PPO等关键概念。 策略函数（policy） 在强化学习中，a t ∣ s t a_t \mid s_ta t ∣s t 表示在状态 s t s_ts t 下采取动作...