deepseek吧 关注:108,311贴子:193,549
  • 31回复贴,共1

我真是服了这deepseek模型了,用cherrystudio调了半天就没对过

只看楼主收藏回复

我在本地部署了一个14B的dp模型,用的ollama,软件用的是cherrystudio,我的目的是想通过cherrystudio的挂载知识库功能结合dp做一个可以批改试卷,然后通过错题生成新试卷的工作流。结果调试了半天,一直出错,到底是我提示词还没搞懂,还是14B的模型也就这点头脑了?
下面我附上我的提示词和AI对话的内容,请吧里的大神帮我分析分析。
提示词:
# 人民警察学校教官
## 角色定位
作为一名优秀的人民警察学校教官,你的主要任务是批改考生上传的试卷,把答错的题目以表格的形式单独列出,并基于错题的知识点重新生成新的试卷并附上正确答案,帮助考生在学习和成长过程中克服困难,实现目标。
## 工作流程
-批改考生上传的试卷
-以表格的形式单独列出答错的题目
-基于错题所包含的知识点制定全新的试卷
## 试卷批改原则
-只比对答案,不需要对题目去分析
-只列出全部错题,不需要对错题去分析
-错题表格格式:序号----题干----考生答案----正确答案
##新试卷制定原则
-全部为单选题
-格式为题干和四个选项
-新的题目不能与错题相同
-新的题目数量不少于20道
接着使用一个word文档,内容是自己编的试题和答案,故意答错6道,上传给dp进行测试。
然后知识库中我上传了一个笔记,内容是试卷的标准答案,供dp进行比对。
对话内容:

正确的是:1、2、5、6、7、13这几道是错的,这个批改试卷找出错题部分就没对过,永远是找不全的,或者是找错了的,测试了几十次,最接近的一次是差一道没找出来,更有甚者,前面分析的过程中自己都说了某道题是错的,之后通过表格列出错题时却没有这道题,我真服了。。。,最过分的是,比如13题明明答案是D,dp读取参考资料后却硬是识别为B,或者测试试卷里某道题明明我答的是A,dp读出来变成B了。。。。
生成新试卷也有问题,有些时候出来的新题是可以的,但更多的时候仅仅只是选项顺序变了一下。难道我挂载知识库以后,dp就不懂得用自己模型的推理能力随机生成新东西了吗?


IP属地:浙江1楼2025-02-11 17:15回复
    没啥保密需求还是用api吧,除了满血版的,蒸馏版都是弱智


    IP属地:上海2楼2025-02-11 17:27
    收起回复


      IP属地:河南来自Android客户端3楼2025-02-11 22:04
      回复
        32b的应该好一些


        IP属地:江苏来自Android客户端4楼2025-02-12 02:57
        收起回复
          本地部署的都是人工智障,除非你能本地部署满血版,但满血版的配置不是一般人能搞到的


          IP属地:中国澳门5楼2025-02-12 03:06
          收起回复
            我觉着是不是ABCD这种手写字符不能完全精准识别?
            机批试卷都是用涂格子的答题卡。


            IP属地:江苏6楼2025-02-12 09:27
            收起回复
              我也遇到了这个问题,也是构建知识库,本地 14B 模型答非所问,但是用硅基流动接入的云端 14B 就完美回答,实在不知道为什么


              IP属地:福建来自手机贴吧7楼2025-02-13 09:23
              收起回复
                从硅基接入的,7B 都能基本回答正确,本地部署 的 14B 却都在胡言乱语。。。不知道是不是哪里没设置对


                IP属地:福建来自手机贴吧8楼2025-02-13 09:30
                收起回复
                  不需要用提示词。你只要将你的需求尽可能的精准的描述出来就行了。你可以介绍自己的身份,它会根据你的身份自动优化答案。知识库涉及到数据切割等问题,可能会导致无法正确取得全部数据…目前也都是在尝试,网上推荐用maxkb或anythingllm,我自己试过第二个,感觉一般,但没像你这么详细测试。


                  IP属地:浙江来自Android客户端9楼2025-02-13 09:52
                  收起回复
                    我觉得大概率是你本地部署的不太行


                    IP属地:四川来自iPhone客户端10楼2025-02-16 15:33
                    收起回复
                      有没有可能是cheerystudio太垃圾了。换个anything llm试试看


                      IP属地:上海来自iPhone客户端11楼2025-02-20 08:35
                      回复
                        你有点为难14b了


                        IP属地:广东来自iPhone客户端12楼2025-03-08 15:51
                        回复
                          找到原因了,ollama 本地部署的各种级别 deepseek 模型上下文默认被限制为 2K,用知识库的话这个参数很影响,需要用 ollama 调整参数


                          IP属地:福建来自Android客户端13楼2025-03-11 08:39
                          回复