邹均 广州中科智达数字科技有限公司创始人,广州运通链达金服科技有限公司CEO,曾任IBM全球咨询大中华区首席架构师兼中国软件协会区块链分会专家组主任,...
2025-09-24 1
邹均
广州中科智达数字科技有限公司创始人,广州运通链达金服科技有限公司CEO,曾任IBM全球咨询大中华区首席架构师兼中国软件协会区块链分会专家组主任,主编国内第一本区块链技术专著《区块链技术指南》
作为上世纪80年代末华南理工大学计算机系的毕业生,邹均一直站在信息科技的最前沿。从符号逻辑到神经网络和深度学习,最后到机器学习和大模型,他很早就涉猎人工智能发展过程中的各种技术路线,同时还编写了国内第一本区块链技术专著。在人工智能领域,他带领创业团队首先提出了大模型中间件(Inter GPT)的概念,并且发布了国内第一个人工智能大模型中间件的团体标准。
他眼里的人工智能产业从低到高可以分成四层:算力硬件、基座大模型、大模型中间件以及智能体、垂直领域的大模型应用。对于第三层,他表示,有了大模型中间件,千行百业才能安全合规地真正把大模型用起来,而这正是我们的机会。
定制服务
中间件结合大模型与企业业务
兼顾成本、性能、安全合规要求
模型的出现让AI成为一种普惠技术,人人都可以方便地使用大模型来实现问答对话、翻译、绘图、写文案等功能。然而对企业来说,要让企业真正可以将大模型与企业业务结合,同时又不用担心数据安全和合规的风险,则需要一个桥梁——大模型中间件。
首先,大模型缺乏行业的内部数据,专业知识深度不够,数据更新不及时,缺乏与真实世界的连接,这注定了大模型难以克服“数据幻觉”的缺点,在许多专业领域中用户能够很明显地感受到大模型在一本正经地“胡说八道”。
企业解决这个问题需要向大模型提供大量最新的专业数据,但这又会带来安全隐患,特别是涉及商业机密的数据很难让企业放心交给大模型进行训练。对于大企业来说,采取本地化部署或许是解决这一问题的方案,但本地部署需要的算力支持和高昂成本对于众多中小微企业来说显然并不现实。
“像数据安全管控、合规控制、智能体开发工具、运维监控等功能,既不可能在基座大模型上做,也不可能让每个企业在自己的大模型应用端上做,这样会导致重复,最佳的解决方案是设置中间层,这就是大模型中间件的市场”,邹均表示。
所谓中间件,就是介于大模型应用与大模型底座之间的一套DevOps(开发运维)软件,是在企业端用来管理维护大模型、开发智能体的工具。它可以帮助企业进行自身数据管理,让数据脱敏后再提供给大模型训练,利用知识库、知识图谱等工具抑制大模型幻觉,还能让企业根据不同场景综合调用各类型大模型,统一纳管大模型环境,包括本地部署的私有化大模型,以及线上的SaaS大模型,“概括地说,中间件就是一整套的管理工具,让企业大幅降低使用大模型的门槛”。
他告诉南都·琶洲π记者,2023年在国内首次提出大模型中间件的概念后,自己带领团队迅速做出了产品和落地应用案例。但是,现在很多头部企业也看到了其中的机会,目前市场竞争已经比较激烈,一些国内厂商如浪潮、东方通也推出了类似产品。不过他认为,相比而言,中科智达旗下的产品更成熟更全面,除了开发还有运维工具,让企业能够更方便跟自己业务集成,同时能够在兼顾成本和性能的前提下满足安全合规的要求。
据他介绍,中科智达的大模型中间件已经被许多本地企业使用。广州一家液压研究院用它来构建了内部液压行业大模型,进行内部培训,改变了以往师傅带徒弟的传统培训模式。另外还有本地高校利用中间件作为工具,让教师能够利用大模型做教案和阅卷,还有一家电力系统的科技企业采购了中间件进行施工安全监测。
在邹均看来,中科智达下一步的市场机会在于差异化竞争,“我们跟大厂不会直接pk,他们更擅长做2C的标准化大规模的产品,而我们的优势是做2B,用贴身定制和服务解决企业的需求”。
差异竞争
极安大模型将投入白云机场
计划未来与区块链技术融合
除了大模型中间件之外,目前中科智达还推出了一些垂类应用的行业大模型,专门用于安检识别的极安大模型XSafeGPT就是其中之一。
他告诉记者,极安大模型是公司跟白云机场合作的项目,主要用于即将投入使用的第三航站楼,届时新航站楼将引入人工智能来进行安检,改变以往单纯依靠人眼识别的局限,此外中科智达还有意将极安大模型继续推广到地铁、快递、景区和重大活动的安检场景中。
开发落地极安大模型的过程很好地体现了中科智达跟大厂差异化竞争的理念。首先x光安检的领域避开了传统安检行业巨头海康威视和大华技术,后者更侧重视频图像识别,x光图像并不是它们的重点。同时,在训练极安大模型时,中科智达直接采用的是阿里开源的视觉模型,同时采购了x光机厂家的数据进行了训练,最后做出了专门用于x光图像识别的垂类模型并且获得了商业落地的机会。
展望未来,邹均表示未来人工智能还有一个增量机会是跟区块链技术的融合。他认为,未来对人工智能技术的监管会日益重要,但监管不能完全靠人,也得靠技术,而区块链正好有监管和溯源机制,两者是互补的,区块链可以作为监管技术的一部分。
此外,随着国内数据日益成为一种生产要素,对数据的治理和流动也需要用区块链来保证数据的权益,大模型训练需要用到的数据也可以通过区块链进行合规授权。他最后也告诉记者,未来会继续强化中科智达的人工智能业务,增加在海珠的落地推广。 π
谈琶洲
琶洲不仅拥有算力基础设施,还有大量的垂直应用集聚和针对大模型应用示范的强大补贴,这三大特点注定琶洲可以成为国内大模型应用示范的高地。
采写:南都·琶洲π记者 魏凯
图片:受访者提供
相关文章
邹均 广州中科智达数字科技有限公司创始人,广州运通链达金服科技有限公司CEO,曾任IBM全球咨询大中华区首席架构师兼中国软件协会区块链分会专家组主任,...
2025-09-24 1
近日,郑州城发美寓机器人助手(以下简称“美寓机器人助手”)正式上线,标志着美寓迈入智能升级的又一新阶段。此次创新举措不仅为郑州人才公寓市场注入科技活力...
2025-09-24 1
医院每天采集的常规血液样本,或许蕴含着拯救生命的重要信息。滑铁卢大学研究团队最新发现,通过人工智能分析普通血检数据,医生能够在脊髓损伤早期准确预测患者...
2025-09-24 2
将花鸟山水、工业器件、医疗知识等带入展览大屏,在合肥企业安达创展,有一位横跨虚实两界的“造梦匠人”——门小雷,他曾先后获得“安徽省劳动模范”“合肥...
2025-09-24 1
soc是什么你肯定听说过手机芯片,它就像手机的大脑,负责指挥一切。但你可能注意到,过去大家常说“手机CPU”,现在却更常听到“SoC”这个词。这不仅仅...
2025-09-24 1
文|泡芙编辑|江娱迟前言谁没在玩《原神》时遇过手机突然发烫、画面猛掉帧?谁不盼着手游能有主机级的细腻光影,却总觉得“手机性能不够”是道坎?别急,中国企...
2025-09-24 1
连日来,国家网信办指导地方网信办依据有关规定,对多家平台采取了约谈、警告、从严处理责任人等处置处罚措施。虽情况各异,但不难看出一个共性问题,就是热搜榜...
2025-09-24 1
9月24日,东西湖区政府举办的人工智能专题学习第二讲开课,中国信通院工业互联网与物联网研究所副总工程师李琦琦受邀进行专题授课,区委副书记、区长周明出席...
2025-09-24 1
发表评论