随着ChatGPT(聊天生成预训练转换器)2022年11月的横空出世,“GPT”成为业界新宠、网络热词,其实广州也有自己的GPT,它就是InterGPT(大模型中间件)。8月27日,中山大学政务学院教授、广州南方学院公共管理学院院长、广东省粤有数数字化治理专委会联席主席陈天祥一行来到广州数字科技集团园区,现场调研运通链达公司,实地了解InterGPT产品研发和应用推广情况。运通链达CEO邹均博士介绍了InterGPT一年来的运行情况。
8月27日,陈天祥教授(左)、邹均博士(右)现场启动“AI与教育平台”
一年前的2023年8月,运通链达于发布了业内第一个大模型中间件InterGPT。 InterGPT旨在帮助企业训练垂类模型,降低企业大模型应用开发成本,提升效率,同时促进大模型的互联互通。调研现场,邹均博士详细介绍了InterGPT设计初心和一年来的运行情况,同时大家就目前大模型技术的发展以及企业在大模型应用方面面临的挑战做了深入的探讨。大模型应用中间件是介于通用大模型和大模型应用之间的软件系统。它的作用是隔离底层通用多模态大模型的技术复杂性,面向应用层提供包括集成整合开源或商用多模态大模型、基于大模型的智能体规划、工作流引擎、提示工程、反思评估、数据处理、垂类模型训练及微调、安全审计、大模型运维监控、性能评测等功能服务。大模型应用中间件可以有效降低企业应用大模型的技术和成本门槛,提升垂类大模型开发效率,支持大模型的私有化部署,保护企业数据安全和数据资产。
运通链达为广州数字科技集团旗下的AI先锋企业,屡有大胆创新之举。2024年8月29日,广东省电子信息行业协会发布国内首个AI大模型中间件团体标准 ——《大模型应用中间件通用技术要求》,该团体标准由南方电网电力科技股份有限公司和运通链达联合发起,具体执笔编写者有邹均、张晓晔、陈皓、罗钜文、牟松、梁添才、杨峰、相里朋、蓝云等人。两年来,连续两次有开创性举措,在邹均看来,“一年前建成了产品,现在是建立了标准,《大模型应用中间件通用技术要求》规定了大模型应用中间件产品的通用技术要求,包括以下几个方面内容:功能要求、架构设计、接口标准、性能要求和安全性要求。”
8月27日座谈会现场图
暨南大学新闻与传播学院教授、博导林爱珺,粤有数专委会执行主席、云宏研究院执行院长、教授蓝云,广东省计算机学会区块链专委会副主任委员兼秘书长、教授级高级工程师黄建新,华南师范大学MPA教育中心执行主任、教授、博导颜海娜,广州南方学院新技术与政府治理研究中心副秘书长黄宁,运通链达高级副总裁杨杰等专家一并参与了座谈交流。大家一致认为,积极开展面向企业员工的AI培训是克服目前大模型人才短缺的关键,同时,大力推广大模型中间件可以大幅降低企业大模型应用落地的技术门槛和成本,院校、科研机构和企业可以更广泛地集聚数字力量,加速企业数字化转型和数据要素化进程。
文 南方网 朱金丹、刘小满