及时 HLS:基于 LLM 的时序感知和架构特定 FPGA HLS 优化-计算机科学-大语言模型-检索增强生成.pdfVIP

及时 HLS:基于 LLM 的时序感知和架构特定 FPGA HLS 优化-计算机科学-大语言模型-检索增强生成.pdf

  1. 1、本文档共8页,可阅读全部内容。
  2. 2、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

(SpecialSession)

及时HLS:基于LLM的时序感知和架构特定

FPGAHLS优化

NowfelMashnoor,MohammadAkyash,HadiKamali,KimiaAzar

DepartmentofElectricalandComputerEngineering(ECE),UniversityofCentralFlorida,Orlando,FL32816,USA

{nowfel.mashnoor,mohammad.akyash,kamali,azar}@

摘要—实现FPGA目标的高级综合(HLS)中的时序收敛求,尤其是在使用高级综合(HLS)工具从C/C++代

和特定设计优化仍然是一个重大挑战,由于架构约束、资源利用码生成硬件时[4],[5]。

以及缺乏针对平台特定pragma的自动化支持之间的复杂相互

HLS工具如XilinxVitisHLS[6]提高了设计抽象

本作用。在这项工作中,我们提出了TimelyHLS,这是一个将大层次,但它们仍然严重依赖用户指导以生成高效的、符

型语言模型(LLMs)与检索增强生成(RAG)相结合的新框

译架,用于自动生成并迭代优化符合FPGA特定时序和性能要求合定时要求的硬件[7]。特别是,对性能至关重要的优

中的HLS代码。TimelyHLS由一个包含FPGA特定特征、综化(例如循环流水线化、循环展开、内存分割)通常由

1合指令和pragma模板的结构化架构知识库驱动。给定一个内嵌入在HLS源代码中的pragma或指令控制[8]。为给

v核,TimelyHLS会生成带有时序关键和设计特定pragma注定的设计和FPGA选择正确的pragma组合是一项非

2

6释的HLS代码。然后使用商业工具链评估合成的RTL,并通平凡的任务,通常需要深入的硬件专业知识[9]。

9过自定义测试平台验证仿真正确性与参考输出的一致性。在存在

7功能差异的情况下,TimelyHLS迭代地将综合日志和性能报告目前,HLS工具中缺乏针对特定平台的pragma(即

1

.纳入LLM引擎以进行优化。跨10种FPGA架构和多样化基专门针对特定FPGA架构或供应商的指令)的自动化

7

0准的实验结果表明,TimelyHLS减少了高达70%的手动调整支持。每个FPGA平台都会引入独特的资源和约束条

5需求,同时实现了最多4倍的延迟加速(例如,矩阵乘法为3.85件,这通常需要使用不同的pragma或者编码风格。设

2

:倍,Bitonic排序为3.7倍),并在某些情况下节省了超过50%

v计者必须手动调整他们的HLS代码以适应每个目标设

i的面积(例如,在Viterbi中FF减少57%)。TimelyHLS在

x平台之间始终能够实现时序收敛和功能正确性,突显出LLM驱备,因为在一个工具链中有效(甚至被识别)的pragma

r

a动、架构感知综合在自动化FPGA设计中的有效性。在另一个[10]上可能不适用。例如,针对XilinxFPGA

IndexTerms—FPGA,大型语言模型,高级综合,时序的设计人员可能会使用PIPELINEpragma来改进循环

收敛,检索增强生成启动间隔,而Intel的HLS编译器则需要不同的pragma

(ivdep)或编码规范才能达到类似的效果[11]。

I.介绍为了减轻HLS优化的挑战,研究人员开发了诸如

设计空间探索(DSE)框架[12],[13]等自动化方法,这

FPGAs提供了一个灵活的平台来加速多种算法,

文档评论(0)

zikele + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档