Llama 3 訓練推理,上阿里云!

來源:阿里云
作者:阿里云
時間:2024-04-29
3146
近日,Meta開源最新Llama 3系列,阿里云魔搭社區(qū)第一時間上架全部4款模型。今天,阿里云百煉大模型服務平臺宣布在國內(nèi)首家推出針對Llama 3系列的限時免費訓練、部署、推理服務,企業(yè)和開發(fā)者即日起即可在阿里云上基于其打造自己的專屬大模型。

近日,Meta開源最新Llama 3系列,阿里云魔搭社區(qū)第一時間上架全部4款模型。今天,阿里云百煉大模型服務平臺宣布在國內(nèi)首家推出針對Llama 3系列的限時免費訓練、部署、推理服務,企業(yè)和開發(fā)者即日起即可在阿里云上基于其打造自己的專屬大模型。

dfsds.jpg

Llama 3是Meta推出的新一代開源大語言模型,擁有80億及700億參數(shù)版本,訓練數(shù)據(jù)較Llama 2擴大7倍,性能表現(xiàn)也大幅提升。不過,由于對特定語言或垂直領域能力的要求,企業(yè)和開發(fā)者往往需要對開源模型進行再訓練或微調(diào),過程較為繁瑣。

為方便國內(nèi)開發(fā)者,阿里云百煉平臺推出針對Llama 3的一鍵訓練、部署、推理方案,且限時免除模型開發(fā)和調(diào)用的算力費用。企業(yè)和開發(fā)者可在阿里云百煉模型廣場申請使用,通過后即可快速體驗Llama 3效果,并與其他模型進行直觀比較。 

希望直接進行推理應用的用戶,可在百煉上點擊模型調(diào)試、prompt模版等功能,快速基于Llama 3打造自己的AI助手。希望深度開發(fā)的企業(yè),可結合企業(yè)數(shù)據(jù)集,一鍵啟動SFT全參訓練或LoRA高效訓練,后續(xù)利用百煉RAG檢索增強、智能體打造等能力進行應用開發(fā)。 

百煉平臺融合了阿里云強大的AI基礎設施能力,企業(yè)和開發(fā)者能獲得豐富的AI計算資源和極致彈性,輕松在云上完成對超大尺寸模型的深度開發(fā)、高效部署和高并發(fā)推理。

·在基礎設施層,阿里云靈駿智算集群具備高達十萬卡GPU的擴展性;

·在AI平臺層,人工智能平臺PAI提供了高效靈活的調(diào)度能力,可10倍提升大模型訓練性能,并穩(wěn)定運行千卡任務5周以上;

·在模型即服務層面,阿里云打造了國內(nèi)最大規(guī)模的AI模型社區(qū)魔搭和模型服務平臺百煉,提供從大模型選型、體驗到再訓練、部署、應用、推理的一站式服務。

作為中國云計算領導者,阿里云提出要做“AI時代最開放的云”,全面支持中國大模型生態(tài)繁榮。從去年起,阿里云全尺寸、全模態(tài)開源了自研通義千問大模型,并深度支持對Llama、Mistral、Stable Diffusion、ComfyUI等開源模型的開發(fā)應用,以及百川智能、智譜AI、零一萬物、昆侖萬維、vivo、復旦大學等眾多國內(nèi)機構大模型的訓練推理。目前,阿里云已成為中國大模型的公共算力底座,超過一半中國主流大模型跑在阿里云上。

原文鏈接:點擊前往 >
版權說明:本文內(nèi)容來自于阿里云,本站不擁有所有權,不承擔相關法律責任。文章內(nèi)容系作者個人觀點,不代表快出海對觀點贊同或支持。如有侵權,請聯(lián)系管理員(zzx@kchuhai.com)刪除!
個人VIP