再与 ChatGPT 正面交锋?Meta 推出 Llama 3,号称“最强开源大模型”
时间:2024-04-19 16:33:42 来源: 热点科技
Meta 发布最新开源模型 Llama 3,号称 " 有史以来最强大的开源大模型 "。在 Llama 3 发布后没多久,就破纪录地登顶了全球开源 AI 社区 Hugging Face 排行榜,还使 Meta 股价在大盘小跌的情况下上涨了 1.54%,影响力可见一斑。
据了解,此次 Meta 推出的 Llama 3 模型共有 8B 和 70B 两个版本,大版本的 Llama 3 将有超过 4000 亿参数,相比上一代有显著提升。Meta 的 CEO 马克 · 扎克伯格表示," 根据我们目前看到的基准测试结果,Llama 3 无疑是市场上目前免费提供的同类产品中最智能、性能最出色的大模型。"
官方介绍,Llama 3 在两个定制的 24K GPU 集群上基于超过 15T 的数据新型了训练,这比 Llama 2 使用的数据集大 7 倍,代码也多出 4 倍,支持的 8K 上下文长度也是 Llama 2 容量的两倍。
Llama 3 与竞争对手的对比
Meta 还在 Llama 3 的开发中采用了多种创新技术,包括数据并行化、模型并行化和管道并行化,极大提高了训练效率。同时,Meta 也高度重视模型的安全性,推出了包括 Llama Guard 2、Code Shield 和 CyberSec Eval 2 在内的新版信任和安全工具,确保模型不会输出有害内容。
Meta 还计划在未来几个月陆续推出更多功能丰富的 Llama 3 模型,包括支持多语种的版本,Llama 3 将会被深度整合到 Meta 主要平台的搜索功能中,包括 Facebook、Instagram、WhatsApp 和 Messenger 等,升级后的 Meta AI 还将能够直接对链接内容进行简单总结。
此外,Meta 选择以开源的方式发布 Llama 3,意味着全球开发者都可以免费使用并改进这一模型。不过作为对比的是,百度创始人李彦宏也在近期表示,开源模型将会越来越落后," 大家以前用开源觉得开源便宜,其实在大模型场景下,开源是最贵的。所以开源模型会越来越落后。"
声明:凡资讯来源注明为其他媒体来源的信息,均为转载自其他媒体,并不代表本网站赞同其观点,也不代表本网站对其真实性负责。您若对该文章内容有任何疑问或质疑,请立即与易造机器人网(www.ez-robot.cn)联系,本网站将迅速给您回应并做处理。
电话:021-63900077