正文
从人类反馈中强化学习代表了语言模型领域的重大进步,而通过「艾特」的方式做「精准提问」,也是当下为用户减轻幻觉,提高 LLM 回答真实性和准确性的一直直观方法,通过筛选指定的用户和用户回答,能够使得生成的内容更加可控和可靠。
例如,我如果想了解关于联邦学习(Federated Learning, FL)相关的知识,我就会选择艾特两位我熟悉的FL领域优质答主,艾特他们,让直答基于他们的创作来帮忙生成回答,这样可信度会很高。
如下思考过程,直答先分析了这两位答主,然后从他们的创作中提取相关信息,生成回答。
在大模型无所不知的情况下,我们需要做到是限制和缩小信息源,浓缩才是精华。
对于知乎这样一个问答社区而言,再没有比溯源到人、精准提问更好的更新了,这是其它专注大模型的平台所做不到的,宝贵的答主个体和他们的文字——这是知乎的钻石与希望。
|
答主:
神斗斗
我的总体评价是:
很实用,但还有提升空间。
第一、这两个功能我觉得非常实用,可以很大程度增加信息来源的
可靠性
。
第二、还有几个地方是可以改得更加
人性化
的。
一、信息来源可靠性大大提升
之前看过一篇帖子,是说有个网友问 DeepSeek 关于西安唐皇城交通的问题,DS 编造了一个非常详实的解释,甚至还有假的数据:
DeepSeek 的「AI 幻觉」案例
我也有类似的经历:有一次我回答一个关于「
洗纹身为什么这么贵
」的问题,想了解上海公立医院洗纹身的单价,结果 AI 给我的反馈像模像样,点进参考链接全都不是官方的信息。
链接点进去,根本就不是官方网站内容,可靠性不能保证
知乎直答这个溯源到人的功能,可以让你直观看到相关答主的社区真实创作,你可以很直观判断答主给的东西是否可靠。
个人最喜欢的有这几个点:
1、信息来源一目了然,指向性强,更容易判断可靠性
现在春招季,很多学生朋友会问职场相关的问题。比如问:
现在国企也在裁员,和私企没区别,那国企还有必要进吗?
知乎直答会在最前端给你整理信息来源,点击「全部」,还会在右侧把所有的参考都列出来:
知乎直答的「整理来源」功能