在UpHub AI本地部署推理过程中如何使用网站的 llms.txt
llms.txt是网站面向AI大模型的简洁版索引文档,它主要是简化AI推理或训练过程中使用网站的重要内容。比如网站有一个产品的知识内容网页(多个页面),那么可以把这些内容形成一个llms.txt(注,仅是举例,也可以把网站综合内容生成llms.txt),llms.txt主要是解决大模型上下文窗口限制,无法处理大量网页中的标记内容(比如:script、style、广告)等。而llms.txt则是把网页的标题、描述、网址作为简洁版索引,形成一个markdown格式的文档,这样在与AI对话时,就可以直接以附件形式提供给AI,让AI可以基于llms中的内容进行对话或总结或生成。同时llms.txt也是一些大型大模型训练公司在收集网站有效资料的重要来源。
以下是在UpHub AI本地部署AI大模型后,如何使用llms.txt来进行网站内容相关的对话。
(1) llms.txt来源:该llms.txt是基于哲涛H5远程桌面连接软件生成的,用于介绍哲涛的远程桌面连接软件;
(2) llms.txt生成:采用哲涛llms.txt生成工具(详情请访问:llms.txt生成工具);
(3) 如何使用?第一步在对话中把llms.txt作为附件上传到对话中,注:每一个大模型都有对话上下文窗口大小,比如Deepseek主要版本上下文为128KB,因此用于对话的llms.txt不应该超过128KB,同时还需要留足对话生成的内容窗口;如图所示:
(4) 基于llms.txt提问与回答:
同样,llms.txt在其它AI大模型支持上传附件时,在大多数情况下是可以直接使用的。比如:Deepseek、Google、QWen等。
比如在Deepseek对话中使用llms.txt:
生成效果如图: