从酷炫的演示到可投入生产的固件：核心挑战与技术路线图

《ACM Transactions on Software Engineering and Methodology》：From Cool Demos to Production-Ready FMware: Core Challenges and a Technology Roadmap

　　

摘要 AI摘要

要查看此由AI生成的摘要，您必须具有高级访问权限。

了解更多 登录

摘要

摘要

基础模型（FM），如大型语言模型（LLM）的迅速发展，催生了FMware——将这些模型作为核心组件的软件系统。虽然构建演示级别的FMware相对简单，但将其转化为可投入生产的系统却面临诸多挑战，包括可靠性、高昂的实施成本、可扩展性以及隐私法规的合规性。本文通过半结构化的主题综合分析，识别了在多种数据源下将FMware商业化过程中遇到的关键问题。这些数据来源包括我们在开发FMArts（一个FMware生命周期工程平台）方面的行业经验、该平台与华为云的集成情况、学术出版物、我们在企业AI开放平台（OPEA）中的实际参与、组织AIware会议和培训营的经历，以及共同领导ISO SPDX SBOM关于AI和数据集的工作组。我们指出了在FM选择、数据和模型对齐、提示工程、代理协调、系统测试和部署等方面的关键问题，同时还探讨了内存管理、可观测性和反馈集成等跨领域问题。我们讨论了应对这些挑战所需的技术和策略，并提供了指导，以帮助实现从演示系统向可扩展、可投入生产的FMware解决方案的过渡。我们的研究结果强调了持续研究和跨行业合作对于推进可生产FMware发展的重要性。

AI摘要

AI生成摘要（实验性）

此摘要是通过自动化工具生成的，并非由文章作者撰写或审核。它旨在帮助读者发现研究内容的相关性，并协助来自相关研究领域的读者理解本文。它是对作者提供的摘要的补充，作者提供的摘要仍是文章的官方总结。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的生成版本。

要查看此由AI生成的通俗语言摘要，您必须具有高级访问权限。