Meta又出AI“神器”，开源免费的代码大模型CodeLlama对比ChatGPT如何？

转载

447 天前

6426

Kyle

文章转载来源：Kyle

原文来源：AGI创新实验室

图片来源：由无界 AI‌ 生成

Meta 近日发布了一个基于 Llama 2 进行微调构建的大型语言模型 Code Llama，可以使用文本提示生成代码，并且开源，可供研究和商业用途。

Code Llama是针对代码任务的公开 LLM 的最先进技术，有可能使当前开发人员的工作流程更快、更高效，并降低学习编码人员的进入门槛。 Code Llama 有潜力用作生产力和教育工具，帮助程序员编写更强大、文档更齐全的软件。

Code Llama的工作原理

今年 7 月，Meta（原 Facebook）发布了免费可商用的开源大模型 Llama 2。最新发布的 Code Llama 是 Llama2 的专门用于编码的专用版本，是通过在其特定于代码的数据集上进一步训练 Llama 2 来创建的，从同一数据集中采样更多数据的时间更长。

总的来说，Code Llama 具有增强的编码功能，建立在 Llama 2 之上。它可以根据代码和自然语言提示生成代码和有关代码的自然语言（例如，“给我写一个输出斐波那契序列的函数。”）它还可用于代码完成和调试。

Code Llama支持当今使用的许多最流行的语言，包括 Python、C++、Java、PHP、Typescript (Javascript)、C# 和 Bash。

Code Llama目前拥有三个参数版本：70亿参数、130 亿参数、340 亿参数。

每个版本都使用 500B 代码 token 和代码相关数据进行训练。 70亿和 130亿参数基础模型和指令模型也经过了中间填充 (FIM) 功能的训练，允许它们将代码插入到现有代码中，这意味着它们可以支持开箱即用的代码完成等任务。

这三种模型满足不同的服务和延迟要求。例如，70亿模型可以在单个 GPU 上运行。 340 亿模型返回最佳结果并提供更好的编码辅助，但较小的 70亿和 130 亿模型速度更快，更适合需要低延迟的任务，例如实时代码完成。

Code Llama模型提供了具有多达 10 万个上下文 token 的稳定生成。所有模型都在 16,000 个 token 的序列上进行训练，并在最多100,000 个 token 的输入上显示出改进。

除了是生成更长程序的先决条件之外，拥有更长的输入序列还可以为代码法学硕士解锁令人兴奋的新用例。例如，用户可以为模型提供来自其代码库的更多上下文，以使各代更相关。它还有助于调试较大代码库中的场景，在这种情况下，掌握与具体问题相关的所有代码对于开发人员来说可能具有挑战性。当开发人员面临调试大量代码时，他们可以将整个代码长度传递到模型中。

Meta还微调了 Code Llama 的两个附加版本：Code Llama - Python 和 Code Llama - Instruct。

Code Llama - Python是 Code Llama 的语言专用变体，在 Python 代码的 100B token 上进一步微调。
Code Llama - Instruct是 Code Llama 的指令微调和对齐版本。指令调整继续训练过程，但目标不同。该模型接受“自然语言指令”输入和预期输出。这使得它能够更好地理解人们对提示的期望。我们建议在使用 Code Llama 进行代码生成时使用 Code Llama - Instruct 版本，因为 Code Llama - Instruct 已经过微调，可以用自然语言生成有用且安全的答案。

但是不建议使用 Code Llama 或 Code Llama - Python 执行一般自然语言任务，因为这两个模型都不是为遵循自然语言指令而设计的。 Code Llama 专门用于特定于代码的任务，不适合作为其他任务的基础模型。

Code Llama的性能如何？

HumanEval和 Mostly Basic Python 编程 (MBPP) 是两个常用编码能力测试基准—— HumanEval 用于测试模型根据文档字符串完成代码的能力，MBPP 用于测试模型根据描述编写代码的能力。
根据这两个测试基准对 Code Llama 测试显示，Code Llama优于开源、特定代码的 Llama，并且优于 Llama 2 本身。例如，Code Llama 34B 在 HumanEval 上得分为 53.7%，在MBPP 上得分为 56.2%，超越了ChatGPT，但在 HumanEval 上仍逊于 GPT-4。