税收业务智能问答的研究与应用.pdfVIP

税收业务智能问答的研究与应用

摘要

随着我国税务信息化建设的全面推进，税收业务的办理效率得到了显著提升，为社

会公众带来了更加便捷、高效的服务体验。但在税收业务的咨询方面还存在着专业要求

程度高、业务内容繁杂、征管关系错综复杂等问题。许多纳税人在税务方面存在知识盲

区，对于基本的税收概念和税务政策感到困惑，税务咨询量过大、咨询方式相对单一等

问题，也在一定程度上增加了各地税务机关单位的工作负担和咨询压力。

国家重视并呼吁社会公众参与人工智能的发展，响应国务院发布的新一代人工智能

发展规划号召，加强创新整合，促进人工智能技术与税收业务信息化深度融合、广泛应

用。本文基于大语言模型微调技术与系统开发相关理论，做了以下研究和工作：

(1)通过官网、实际项目组等渠道收集税收业务数据，并进行清除噪声以及数据变

换等预处理，以此为基础构建税收业务问答语料数据集；

(2)使用P-Tuningv2模型微调方法对选定的大语言基座模型ChatGLM2-6B进行税

收业务领域的微调训练，并在训练过程中，灵活调整诸如Batch_size和学习率等关键超

参数，提升模型的训练效果和性能，并结合RAG策略外挂知识库搭建税收业务领域的

微调大语言模型，最后对其性能进行验证；

(3)使用前端框架和后端技术处理用户的请求和调用微调后的ChatGLM2-6B大语

言模型进行智能问答，并使用HTTPS协议进行前后端的数据传输和通信，最终实现税

收业务智能问答系统；

税收业务智能问答系统以大语言模型为基础，结合专业的问答数据集进行机器微调

训练，构建适配的专业模型。目的在于从税法和税收政策的角度上给纳税人提供更加专

业的回答，进一步提升税务咨询效率、降低税收成本，具有深远的研究意义。

【关键词】：税收业务；智能问答；大语言模型；模型微调

ResearchandapplicationofintelligentQAin

taxbusiness

Abstract

Withtheextensiveadvancementoftaxinformationdevelopmentinourcountry,

effectiveness,orcompetencyoftaxprocessinghasbeensignificantlyadvanced,whichbrings

amoreconvenientandefficientserviceexperienceforthepublic.However,therearestillsome

problemsintaxconsulting,suchashighprofessionalrequirements,complicatedbusiness

contentsandcomplicatedcollectionandmanagementrelations.Manytaxpayershavea

knowledgeblindspotintaxationandareconfusedaboutbasictaxconceptsandpolicies.It

leadstoproblemssuchasalargeamountofconsultationandrelativelysingleconsultation

methods.Thetaxauthoritieshaveincreasedtheirworkburdenandconsultingpressuretoa

certainextent.

Thegovernmenthasplacedsignificanceonandencouragedpublicparticipationinthe

advan