实时
躬行求知诸暨振兴,守护乡村幸福“食”光 两部门紧急预拨5.4亿元支持湖南等省份做好抢险救灾工作 国家外汇局新开通部分行政许可网上办理功能 内地对港供电保障能力持续提升 节气播报:夏至 节气播报:小暑 新瑞鹏集团“爱猫项目组”成功举办猫宠主沙龙:为南京“猫宠主们” 【京津冀协同发展】津承协同发展促就业,人才共育共享迎新篇 国际癫痫关爱日——汇承脑科在行动 高骼乳业5周年丨行业大咖现身说法 儿童粉市场潜力巨大 暑期档开场!这份爱奇艺儿童、动漫、纪录片超豪华片单“硬控”你 FlyDeliver(FD配送):以创新引领全球即时配送新篇章 江西农业大学竹林研究团队赴瑞昌市嵋荣村开展创新施肥实验与野外 陵水影黎万像数字传媒产业有限公司第二部出品短剧开机 “韶山红·长征”,传承红色精神 赛德房车:坚决捍卫自主知识产权 收获成长 乐迎未来 廖家中学2023——2024学年度下期散学典礼 德琪医药希维奥®新适应症在华获批上市,为中国DLBCL患者带来新选 FlyDeliver(FD配送)品牌副总裁刘品恒受邀出席2024中国企业家峰会 追光逐梦 点亮未来 金堂奖奢居里携手意大利瑞加涂料,引领中国建博会新航向 2024中国家居荣耀红榜|东鹏整装卫浴荣获“智能卫浴智享空间先锋品 重磅荣誉|东鹏斩获2024中国家居荣耀红榜两项大奖 蒙城县三义路中学召开优秀学生座谈会 助力学生梦想启航 蒙城县三义路中学举行散学典礼 共迎暑假新起点 “光影颂华章·同心庆华诞”江西省庆祝中华人民共和国成立75周年 《诗画中国》着墨丹青山河,追觅诗情画意 宿迁市卫健委党委书记、主任张岩一行莅临泗阳康达医院调研指导 倒计时20天|东鹏瓷砖,为奥运喝彩 邛崃:“一桶好酒,等你好久”邛酒促销 活动即将闪亮登场 “救”得安心,“助”得贴心 湘潭医疗救助惠民生 湘潭市益智中学隆重召开第一届第三次教代会 筑牢师德 依法执教 湘潭市益智中学召开2024年春季学期期末教职工大会暨暑假安全工作 再创生命奇迹,湘潭760克早产儿顺利出院了! 中阿经贸投资(大湾区)交流活动举办 蔡冠深:推动更多港企参与中阿经 创意大咖与盛夏清凉碰撞 深圳首家肯悦咖啡落地光明 彭州市北君平中学党支部表彰大会暨在党50年纪念章颁发仪式 生态创新,智在必行——“智旋绿筑”为可持续发展贡献青春力量 樊登阳城行:走进神话之乡 领略阳城风华 张璐茗应邀参加旬邑县与西安交通大学人居学院政校联合科技创新赋 属于“胜利”的夏天,上海街头成索康尼主场 乌镇植材小学举行:追光逐梦 点亮未来活动 古林茂新焕生机 乡村振兴显成效 泰康HWP精英团队亮相上海,以“笑对未来”精神传递行业新标准 FlyDeliver(FD配送)副总裁刘品恒出席中外企业合作交流座谈会 ​神经外科领域的新星——黄彬医生 阶跃星辰闪耀WAIC:万亿参数与多模融合引领AGI之路 阶跃星辰:万亿参数+多模态,引领AGI之路 阶跃星辰:以万亿参数和多模融合叩响AGI大门
躬行求知诸暨振兴,守护乡村幸福“食”光 两部门紧急预拨5.4亿元支持湖南等省份做好抢险救灾工作 国家外汇局新开通部分行政许可网上办理功能 内地对港供电保障能力持续提升 节气播报:夏至 节气播报:小暑 新瑞鹏集团“爱猫项目组”成功举办猫宠主沙龙:为南京“猫宠主们” 【京津冀协同发展】津承协同发展促就业,人才共育共享迎新篇 国际癫痫关爱日——汇承脑科在行动 高骼乳业5周年丨行业大咖现身说法 儿童粉市场潜力巨大 暑期档开场!这份爱奇艺儿童、动漫、纪录片超豪华片单“硬控”你 FlyDeliver(FD配送):以创新引领全球即时配送新篇章 江西农业大学竹林研究团队赴瑞昌市嵋荣村开展创新施肥实验与野外 陵水影黎万像数字传媒产业有限公司第二部出品短剧开机 “韶山红·长征”,传承红色精神 赛德房车:坚决捍卫自主知识产权 收获成长 乐迎未来 廖家中学2023——2024学年度下期散学典礼 德琪医药希维奥®新适应症在华获批上市,为中国DLBCL患者带来新选 FlyDeliver(FD配送)品牌副总裁刘品恒受邀出席2024中国企业家峰会 追光逐梦 点亮未来 金堂奖奢居里携手意大利瑞加涂料,引领中国建博会新航向 2024中国家居荣耀红榜|东鹏整装卫浴荣获“智能卫浴智享空间先锋品 重磅荣誉|东鹏斩获2024中国家居荣耀红榜两项大奖 蒙城县三义路中学召开优秀学生座谈会 助力学生梦想启航 蒙城县三义路中学举行散学典礼 共迎暑假新起点 “光影颂华章·同心庆华诞”江西省庆祝中华人民共和国成立75周年 《诗画中国》着墨丹青山河,追觅诗情画意 宿迁市卫健委党委书记、主任张岩一行莅临泗阳康达医院调研指导 倒计时20天|东鹏瓷砖,为奥运喝彩 邛崃:“一桶好酒,等你好久”邛酒促销 活动即将闪亮登场 “救”得安心,“助”得贴心 湘潭医疗救助惠民生 湘潭市益智中学隆重召开第一届第三次教代会 筑牢师德 依法执教 湘潭市益智中学召开2024年春季学期期末教职工大会暨暑假安全工作 再创生命奇迹,湘潭760克早产儿顺利出院了! 中阿经贸投资(大湾区)交流活动举办 蔡冠深:推动更多港企参与中阿经 创意大咖与盛夏清凉碰撞 深圳首家肯悦咖啡落地光明 彭州市北君平中学党支部表彰大会暨在党50年纪念章颁发仪式 生态创新,智在必行——“智旋绿筑”为可持续发展贡献青春力量 樊登阳城行:走进神话之乡 领略阳城风华 张璐茗应邀参加旬邑县与西安交通大学人居学院政校联合科技创新赋 属于“胜利”的夏天,上海街头成索康尼主场 乌镇植材小学举行:追光逐梦 点亮未来活动 古林茂新焕生机 乡村振兴显成效 泰康HWP精英团队亮相上海,以“笑对未来”精神传递行业新标准 FlyDeliver(FD配送)副总裁刘品恒出席中外企业合作交流座谈会 ​神经外科领域的新星——黄彬医生 阶跃星辰闪耀WAIC:万亿参数与多模融合引领AGI之路 阶跃星辰:万亿参数+多模态,引领AGI之路 阶跃星辰:以万亿参数和多模融合叩响AGI大门

您的位置:首页 > 滚动资讯

通往AGI之路:阶跃星辰的万亿参数与多模态融合策略

  随着大模型智能水平的飞速提升,科技界对于AGI(通用人工智能)即将在几年内实现的预测声浪日益高涨。然而,在通向AGI的道路上,有哪些因素是必不可少的呢?这一问题已成为产业内备受关注的焦点。

  根据智东西7月4日的报道,在世界人工智能大会(WAIC)2024上,大模型领域的独角兽企业——阶跃星辰,正式发布了其Step系列模型的“全家桶”版本。这其中包括了万亿参数语言大模型Step-2、千亿参数多模态大模型Step-1.5V以及图像生成大模型Step-1X。这三款模型分别对应了Scaling Law(规模定律)、多模态理解和多模态生成,同时也体现了阶跃星辰对于实现AGI目标的判断,即万亿参数和多模态融合是关键。

通往AGI之路:阶跃星辰的万亿参数与多模态融合策略

  从首次亮相到正式发布,Step系列模型在参数规模和多模态能力上取得了显著进展。具体而言,Step-2在数理逻辑、编程、世界知识和指令遵循等方面已达到与GPT-4相当的水平;Step-1.5V则从图像理解升级到了视频理解;而Step-1X则全面支持600M、2B和8B三种参数量,在多模态理解和生成的统一技术路线上实现了重要突破。

  在阶跃星辰创始人姜大昕看来,要攀登AGI这座高峰,“万亿参数”和“多模态融合”是不可或缺的。他指出,在AI的发展阶段中,早期的语言、视觉、声音等不同模态是独立发展的,每个模型主要学习如何更好地表达各自模态的特点。如今,不同模态开始走向融合,但仍面临理解能力和生成能力难以同时实现的痛点。最终,生成和理解需要统一在一个模型中,并与具身智能相结合,使模型成为机器人或其他硬件设备的“大脑”,引领其探索并与世界交互,从而实现AGI。

  因此,多模态理解和生成的统一是通往AGI的必由之路。另一方面,根据Scaling Law,模型的参数量决定了其能力上限,因此全面进入万亿参数级别,甚至达到十万亿、百万亿参数量,是通往AGI的另一个核心要素。

  行业内第一梯队的大模型公司是如何做的呢?以OpenAI为例,其最新发布的GPT-4o模型全面加强了语音和视频交互能力,而“大力出奇迹”的暴力美学也是其屡试不爽的模型训练方式。这恰好印证了Scaling Law和多模态融合这两个关键点,与阶跃星辰所选择的路径不谋而合。

  在今年3月首次推出Step系列通用大模型并发布预览版后,经过100天的打磨,阶跃星辰在WAIC上正式发布了Step系列模型的“全家桶”版本。其中,Step-2在数理逻辑、编程、世界知识和指令遵循等方面已达到与GPT-4相当的水平。

  在算法架构方面,目前MoE模型的训练方式主要分为两种:基于已有模型向上复用训练或从头开始训练。第一种方式对算力需求较低,训练效率更高,但容易出现同质化严重等问题。相比之下,从头训练虽然更具挑战性,但能获得更高的模型上限。在设计MoE架构时,阶跃星辰选择了自主研发的道路。通过部分专家共享参数、异构化专家设计等架构设计,Step-2中的每个“专家模型”都得到了充分训练,不仅总参数量达到了万亿级别,而且每次训练或推理所激活的参数量也超过了市面上的大部分Dense模型。

  有了万亿参数的模型作为“老师”,Step-1.5V的推理能力大幅提升,可以根据图像内容进行各种高级推理任务,如解答数学题、编写代码、创作诗歌等。同时,基于创新的图文混排训练方法,Step-1.5V的感知能力增强,能够理解复杂的图表、流程图,并准确感知物理空间中复杂的几何位置。另一个重要的升级点是视频理解能力,Step-1.5V不仅能准确识别视频中的物体、人物和环境,还能理解视频的整体氛围和人物情绪。

通往AGI之路:阶跃星辰的万亿参数与多模态融合策略

  首次亮相的图像生成大模型Step-1X采用了全链路自研的DiT模型架构,支持600M、2B、8B三种不同的参数量,以满足不同场景的需求。其中,600M适合对速度敏感的轻量级场景;2B是适用于日常使用的主力模型,效果和速度达到平衡;而8B则追求更高、更极致的生成效果。Step-1X具备优秀的语义对齐能力和指令遵循能力,并针对中国元素进行了深度优化,支持中国元素和文化内容,同时更符合国人的审美风格。

  基于这一系列模型的能力,在彩色动画长片《大闹天宫》发行60周年之际,阶跃星辰与上海美术电影制片厂合作推出了一款H5 AI互动体验。根据用户上传的个人照片,大模型会识别人物特征,并结合《大闹天宫》的画风和角色进行风格迁移,生成新的肖像。在交互过程中,用户可以与大模型生成的剧情进行交谈,系统将根据用户的选择和回答分析其MBTI人格,并在天庭为其安排一项适合其人格的差事。

通往AGI之路:阶跃星辰的万亿参数与多模态融合策略

  值得一提的是,阶跃星辰的Step系列通用大模型凭借技术创新和广泛的应用落地,入选了WAIC 2024 SAIL(Super AI Leader)之星,这意味着阶跃星辰在技术和应用方面获得了业界的高度认可。

  自成立以来,阶跃星辰就在算力、数据、算法和系统四大要素上综合布局,坚定地投入到Scaling Law中。姜大昕认为,模型和产品的关系就像是灵魂和皮囊,“好看的皮囊千篇一律,有趣的灵魂万里挑一。”阶跃星辰希望通过“有趣的灵魂”来展示其产品的不同之处。

  因此,从成立的第一天起,阶跃星辰就开始同时开发模型和应用产品。应用作为牵引和数据补充,模型与应用深度绑定,通过双轮驱动将两者都做到极致。在应用落地的过程中,仅仅依靠一家公司自身存在局限性,需要不同公司之间的生态合作才能促进技术的创新和发展,加速技术的落地应用,推动整个行业的持续进步。

  通过自有产品和生态合作产品的结合,阶跃星辰积极探索了大模型的落地应用。在自有产品方面,阶跃星辰已发布了效率工具“跃问”和AI开放世界平台“冒泡鸭”两款自研产品,并已全面开放使用。其中,“跃问”作为一款个人效率助手,能够基于联网搜索、代码分析增强(POT)等能力,为用户提供信息查询、语言学习、创意写作、图文解读等多样化服务,帮助用户在工作、学习、生活等场景下解决问题。

  在生态合作产品方面,阶跃星辰在内容创作、金融财经、消费娱乐等领域与合作伙伴达成了深度合作,共同发掘面向C端用户的创新应用。例如,在WAIC亮相的《大闹天宫》就是阶跃星辰与上海电影共同推出的一款AI互动体验产品,将先进的AI大模型技术与《大闹天宫》的情境深度融合,用当代全新的视角领略中国传统文化的魅力,回顾经典动画作品的艺术成就,同时也为创作者打开了更多想象空间。

  在金融财经领域,阶跃星辰联合国泰君安和界面财联社推出了业内首家千亿级参数多模态证券垂直类大模型——君弘灵犀大模型。这是业内首个将大模型能力全面融入客户智能化服务体系中的案例,在智能投顾问答、投研内容生产和交互模式上为客户带来了新的体验。

  从模型到应用,对AGI的追求始终贯穿着阶跃星辰的战略布局。通过构建开放、合作的生态系统,阶跃星辰正在推动AI技术的广泛应用和行业的共同发展。

  在大模型领域“百花齐放”的背景下,越来越多的大厂高管投身于生成式AI创业,成为该赛道的主力军。据智东西统计,2023年至今,至少有25位大厂高管已投身生成式AI创业。这些创业公司所选择的细分赛道各不相同,涵盖了通用大模型、垂直大模型、生成式AI应用、AI基础设施、AI数据服务和AI咨询等全产业链环节。

  其中,阶跃星辰作为一家模型与产品双管齐下的创业公司,始终用行动践行着对AGI的终极追求。Step系列通用大模型和多样化的自有、合作产品是阶跃星辰在通往AGI之路上交出的最新答卷,“万亿+多模”也将成为大模型企业格局的分水岭。


责任编辑:柯鹏

推荐阅读
2024年暑运7月1日正式开启,为期62天。全国铁路预计发送旅客8.6亿人次,日均发送旅客1387万人次。

2024-07-05 22:05:12

点一杯以年画为拉花的“财神拿铁”,漫步赏景,一面是山花烂漫,一面是徽式古趣,好不自在。

2024-07-03 20:54:50

记者3日从山东省防汛抗旱指挥部办公室了解到,经会商研判,山东省防汛抗旱指挥部决定于7月2日18时终止抗旱四级应急响应。

2024-07-03 16:21:33

根据报告,当前,从国际形势看,全球数字化变革浪潮涌现,各国深入推进数字化发展战略,推动国际数字领域竞争日趋激烈,数字时代的国际格局正在加速重塑。

2024-07-01 18:24:33

“三伏”将至,全国多地正经历高温“炙烤”,而在青藏高原可可西里,这里的夏季最高温度常年低于10摄氏度。

2024-06-27 10:39:24

中国旅游研究院25日在三亚发布了《中国入境旅游发展报告(2023-2024)》。报告显示,2024年我国入境旅游市场发展态势持续向好。

2024-06-25 18:25:28