想利用DEEPSEEK本地化应用，但是总觉得是不是我理解错了

卷土重来

因为从事相应文职及咨询类，所以对于deepseek or chatgpt的应用可以更加高效率的提高我的工作量。

我想建立个DP本地 及相关数据库。

根据网上的教学，我已经下载了相应的显卡驱动等，ollama，下载了deepseek-r1。也运行了。可以使用

同时用了Angthing LLM。相当于建立一个本地语言模型。


但是这个和我理解的，以及我想要的可能还是有点差距。

我的理解是：
1. 单纯的所谓本地化，也无非是把一个相对更慢、更不全面的软件放在电脑里。不联网也可以使用。但是肯定比网页版本要慢，信息不全面。

2. 有了angthing LLM ，每次我提供问题，LLM会解答。相当于一个聊天记录，但是多了一个功能就是 如果我重复把把类似的问题输入，anything LLM是结合过往的聊天记录+网上搜索（是否会网上搜索，还是只是在本地模型中汇合信息）给予我相应的答案。

我的疑问是：
1. 我该如何让本地化的DEEPSEEK 模仿我的语言习惯，然后生成相应的文字？是每一次我提出问题后，然后我把LLM生成的回复 稍作修改，然后再发送给LLM 让其记录？这样一旦下次类似的问题 LLM就会跟我过往的记录 发给我一个 符合我语言习惯的文字？

yzh1999

llm不会自动模仿你的风格，除非你微调deepseek模型。这不是一般人能做的。
你可以做的是，把答案和你过往的文字发给它，然后让它根据你的风格重写一遍

卷土重来

yzh1999 发表于 2025-2-12 14:10
llm不会自动模仿你的风格，除非你微调deepseek模型。这不是一般人能做的。
你可以做的是，把答案和你过往的 ...

原来如此 看来是我想简单了。。看抖音好多推送 本地化 以为很简单。。。

yzh1999

卷土重来 发表于 2025-2-18 11:01
原来如此 看来是我想简单了。。看抖音好多推送 本地化 以为很简单。。。 ...

本地化只是说部署在自己的硬件上，和定制的确是两回事

tghj01

简单版。。。。。
你既然装了anythingLLM，那就把你以往的报告，文档上传到知识库。 给大模型的提示词设置成，你是文档助手，根据知识库里的文档模版生成文字 等等。