Qualcomm และ Meta ร่วมมือกันเพื่อนำโอเพ่นซอร์ส Llama v2 LLM มาสู่อุปกรณ์มือถือ

Qualcomm และ Meta ประกาศความร่วมมือในวันนี้ซึ่งจะช่วยให้ Llama v2 โมเดลภาษาขนาดใหญ่ (LLM) v2 ใหม่ของบริษัทโซเชียลมีเดียยอดนิยมของทุกคนสามารถทำงานบนอุปกรณ์เคลื่อนที่ได้ ในขณะที่ LLM หลายแห่งต้องการเซิร์ฟเวอร์ฟาร์มที่ขับเคลื่อนโดย NVIDIA GPU ที่มีราคาแพงมาก Llama 2 ตั้งใจที่จะทำงานบนชิป Qualcomm สำหรับโทรศัพท์และพีซีในปีหน้า Meta อ้างว่า Llama 2 สามารถบรรจุในแอปพลิเคชันขนาดเล็กที่สามารถทำงานบนโทรศัพท์ได้ในขณะที่ทำสิ่งเดียวกันกับ Chatbot ChatGPT ชั้นนำของตลาด

สิ่งสำคัญที่ควรทราบคือ Llama v2 เป็นความพยายามแบบโอเพ่นซอร์สจาก Meta บริษัทที่ตีพิมพ์"น้ำหนัก" ซึ่งเป็นชุดข้อมูลที่ช่วยควบคุมวิธีการทำงานของโมเดล AI นี่เป็นกลยุทธ์ที่แตกต่างอย่างมากเมื่อเปรียบเทียบกับ LLM ที่โดดเด่นอื่น ๆ เช่น Google Bard และ GPT-4 ของ OpenAI

ชิป Qualcomm มีหน่วยประมวลผลเทนเซอร์ (TPU) ที่บริษัทเชื่อว่าจะเหมาะสมสำหรับการคำนวณที่โมเดล AI กำหนด ระหว่างข้อเสนอ Llama v2 ที่มีประสิทธิภาพมากขึ้นของ Meta และความปรารถนาของ Qualcomm ที่จะมีส่วนร่วมมากขึ้นร้อนมากภาค AI เป็นไปได้ว่า NVIDIA อาจเผชิญกับการแข่งขันหาก Llama v2 จัดส่งบนอุปกรณ์พกพาในปีหน้าและเมื่อใด นอกจากนี้ยังสามารถเปิดประตูให้กับบริษัทจำนวนมากที่รอวิธีที่เหมาะสมกว่าในการนำ LLM ไปใช้ในระดับองค์กรหรือผู้บริโภค

Ghostbusters: Rise of the Ghost Lord กำลังมุ่งหน้าไปยัง Meta Quest ฤดูใบไม้ร่วงนี้#โกสท์บัสเตอร์ VR #เมต้าเควส3 pic.twitter.com/kahFahcqE2

– แช็คนิวส์ (@shacknews)1 มิถุนายน 2023

Meta และ Qualcomm ไม่ใช่คนแปลกหน้าในการทำงานร่วมกันQuest VR HMDทั้งหมดทำงานบนชิป Snapdragon รุ่นต่างๆ