using aigne, is there a way to fine tune whatever LLM we're using? please advise.
AIGNE 并不帮助你完成模型的微调工作,你需要用模型厂商提供的微调工具来训练微调模型,然后再AIGNE里可以使用微调过的模型。 例如 Open AI 提供了他们的微调工具。
然而,很多研究表明,大部分情况下,微调模型带来的效果可能不如 RAG 的效果。 RAG 的成本和实现难度远低于微调,因此可能更值得在RAG上下功夫。
thanks for the suggestion! will look into RAG.
2 replies
AIGNE 并不帮助你完成模型的微调工作,你需要用模型厂商提供的微调工具来训练微调模型,然后再AIGNE里可以使用微调过的模型。 例如 Open AI 提供了他们的微调工具。
然而,很多研究表明,大部分情况下,微调模型带来的效果可能不如 RAG 的效果。 RAG 的成本和实现难度远低于微调,因此可能更值得在RAG上下功夫。
thanks for the suggestion! will look into RAG.