站长之家(ChinaZ.com) 4月19日 消息:Meta公司宣布了一项重大技术进展最新的开源模型——Llama3。该模型包括两个参数：8B（80亿参数）和70B（700亿参数），预计将于今年7月正式推出。Llama3模型不仅具有多模态能力，而且集成了新的计算机编码功能，可以输出文本和图像，表明它将在未来应用于雷鹏 Meta 智能眼镜等设备。

Meta与谷歌建立了合作伙伴关系，将实时搜索结果整合到谷歌中 AI 在助手的回复中，用户体验进一步提升。与前代 与Llama2相比，Llama3在多个行业的基准测试中取得了突破，特别是在推理、代码生成和指令跟踪方面。为了训练这个模型，Meta 在Llama3的训练中，建立了两个包含24000个GPU的集群，其中16000个GPU同时使用。

Llama3的发展预示着 Meta 在 AI 该领域的雄心壮志。目前，该公司正在开发中最大该模型的参数规模超过400B(400亿)。Meta Llama3的主要性能特征包括：

模型规模和类型：为对话和其他语言处理任务的优化提供8B和70B两种规模的预训练和指令调优生成文本模型。

模型架构：采用自回归法和基于优化的变换器架构，引入了分组查询注意机制，提高了大规模参数下的推理可扩展性。

训练与数据处理：使用超过15万亿的tokens进行预训练，训练集是Llama2的7倍，支持30种语言。

性能与基准测试：在对话、问答、推理等多项自动化基准测试中表现良好，并特别优化了现实世界场景。

Meta 还发布了基础 Llama3 AI 目前，助手已在美国以外的十多个国家推出。用户可以在 Facebook、Instagram、WhatsApp 和 Messenger 上使用 Meta AI 助手，可以推荐餐厅，规划周末活动，协助学习等。此外，Meta AI 还集成了搜索功能，无需切换应用程序即可直接访问网络上的实时信息。

Llama-3-70B-Instruct 已登陆Huging Chat ，可直接在上面使用！

体验地址：https://www.meta.ai/

模型下载：https://top.aibase.com/tool/meta-llama-3

Hugging Chat：https://huggingface.co/chat/conversation6621c6d78f6a8b64