Llama 3 訓(xùn)練推理，上阿里云！

近日，Meta開(kāi)源最新Llama 3系列，阿里云魔搭社區(qū)第一時(shí)間上架全部4款模型。今天，阿里云百煉大模型服務(wù)平臺(tái)宣布在國(guó)內(nèi)首家推出針對(duì)Llama 3系列的限時(shí)免費(fèi)訓(xùn)練、部署、推理服務(wù)，企業(yè)和開(kāi)發(fā)者即日起即可在阿里云上基于其打造自己的專屬大模型。

Llama 3是Meta推出的新一代開(kāi)源大語(yǔ)言模型，擁有80億及700億參數(shù)版本，訓(xùn)練數(shù)據(jù)較Llama 2擴(kuò)大7倍，性能表現(xiàn)也大幅提升。不過(guò)，由于對(duì)特定語(yǔ)言或垂直領(lǐng)域能力的要求，企業(yè)和開(kāi)發(fā)者往往需要對(duì)開(kāi)源模型進(jìn)行再訓(xùn)練或微調(diào)，過(guò)程較為繁瑣。

為方便國(guó)內(nèi)開(kāi)發(fā)者，阿里云百煉平臺(tái)推出針對(duì)Llama 3的一鍵訓(xùn)練、部署、推理方案，且限時(shí)免除模型開(kāi)發(fā)和調(diào)用的算力費(fèi)用。企業(yè)和開(kāi)發(fā)者可在阿里云百煉模型廣場(chǎng)申請(qǐng)使用，通過(guò)后即可快速體驗(yàn)Llama 3效果，并與其他模型進(jìn)行直觀比較。 

希望直接進(jìn)行推理應(yīng)用的用戶，可在百煉上點(diǎn)擊模型調(diào)試、prompt模版等功能，快速基于Llama 3打造自己的AI助手。希望深度開(kāi)發(fā)的企業(yè)，可結(jié)合企業(yè)數(shù)據(jù)集，一鍵啟動(dòng)SFT全參訓(xùn)練或LoRA高效訓(xùn)練，后續(xù)利用百煉RAG檢索增強(qiáng)、智能體打造等能力進(jìn)行應(yīng)用開(kāi)發(fā)。 

百煉平臺(tái)融合了阿里云強(qiáng)大的AI基礎(chǔ)設(shè)施能力，企業(yè)和開(kāi)發(fā)者能獲得豐富的AI計(jì)算資源和極致彈性，輕松在云上完成對(duì)超大尺寸模型的深度開(kāi)發(fā)、高效部署和高并發(fā)推理。

·在基礎(chǔ)設(shè)施層，阿里云靈駿智算集群具備高達(dá)十萬(wàn)卡GPU的擴(kuò)展性；

·在AI平臺(tái)層，人工智能平臺(tái)PAI提供了高效靈活的調(diào)度能力，可10倍提升大模型訓(xùn)練性能，并穩(wěn)定運(yùn)行千卡任務(wù)5周以上；

·在模型即服務(wù)層面，阿里云打造了國(guó)內(nèi)最大規(guī)模的AI模型社區(qū)魔搭和模型服務(wù)平臺(tái)百煉，提供從大模型選型、體驗(yàn)到再訓(xùn)練、部署、應(yīng)用、推理的一站式服務(wù)。

作為中國(guó)云計(jì)算領(lǐng)導(dǎo)者，阿里云提出要做“AI時(shí)代最開(kāi)放的云”，全面支持中國(guó)大模型生態(tài)繁榮。從去年起，阿里云全尺寸、全模態(tài)開(kāi)源了自研通義千問(wèn)大模型，并深度支持對(duì)Llama、Mistral、Stable Diffusion、ComfyUI等開(kāi)源模型的開(kāi)發(fā)應(yīng)用，以及百川智能、智譜AI、零一萬(wàn)物、昆侖萬(wàn)維、vivo、復(fù)旦大學(xué)等眾多國(guó)內(nèi)機(jī)構(gòu)大模型的訓(xùn)練推理。目前，阿里云已成為中國(guó)大模型的公共算力底座，超過(guò)一半中國(guó)主流大模型跑在阿里云上。