Llama เวอร์ชันแรก (เขียนแบบ LLaMA และบางครั้งเรียกว่า Llama 1) ได้รับการประกาศเมื่อวันที่ 24 กุมภาพันธ์ 2023 ผ่านทางบล็อกโพสต์และเอกสารที่อธิบาย การฝึกอบรม สถาปัตยกรรม และประสิทธิภาพของโมเดล^{[ 17 ] [ 18 ]} รหัสการอนุมานที่ใช้ในการรันโมเดลได้รับการเผยแพร่สู่สาธารณะภายใต้ ใบอนุญาตโอเพนซอร์สGPLv3 ^{[ 19 ]}การเข้าถึงน้ำหนักของโมเดลได้รับการจัดการโดยกระบวนการสมัคร โดยจะอนุญาตให้เข้าถึงได้ "เป็นกรณีๆ ไปแก่นักวิจัยทางวิชาการ ผู้ที่เกี่ยวข้องกับองค์กรในภาครัฐ ภาคประชาสังคม และสถาบันการศึกษา และห้องปฏิบัติการวิจัยอุตสาหกรรมทั่วโลก" ^{[ 18 ]}

Llama ได้รับการฝึกฝนโดยใช้ข้อมูลที่เปิดเผยต่อสาธารณะเท่านั้น และได้รับการฝึกฝนในขนาดโมเดลต่างๆ โดยมีจุดประสงค์เพื่อให้เข้าถึงฮาร์ดแวร์ที่แตกต่างกันได้ง่ายขึ้น โมเดลนี้เป็นโมเดลพื้นฐานโดย เฉพาะ ^{[ 4 ]}แม้ว่าเอกสารจะมีตัวอย่างของเวอร์ชันที่ปรับแต่งคำสั่งของโมเดลก็ตาม^{[ 17 ]}

Meta AI รายงานว่าประสิทธิภาพของโมเดลพารามิเตอร์ 13 พันล้านตัวบน เกณฑ์มาตรฐาน NLP ส่วนใหญ่นั้น เหนือกว่าGPT-3 ที่มีขนาดใหญ่กว่ามาก (มีพารามิเตอร์ 175 พันล้านตัว) และโมเดลขนาดใหญ่ที่สุด 65 พันล้านตัวก็สามารถแข่งขันกับโมเดลที่ทันสมัย ​​เช่นPaLMและChinchillaได้^{[ 20 ]}

เมื่อวันที่ 18 กรกฎาคม 2023 Meta ร่วมกับMicrosoftประกาศเปิดตัว Llama 2 (เขียนแบบ LLaMa 2) ซึ่งเป็น Llama รุ่นต่อไป Meta ได้ฝึกฝนและปล่อย Llama 2 ออกมาในสามขนาดโมเดล ได้แก่ 7, 13 และ 70 พันล้านพารามิเตอร์^{[ 5 ]}สถาปัตยกรรมของโมเดลยังคงไม่เปลี่ยนแปลงมากนักจากโมเดล Llama 1 แต่ใช้ข้อมูลเพิ่มขึ้น 40% ในการฝึกฝนโมเดลพื้นฐาน^{[ 28 ]}

Llama 2 ประกอบด้วยโมเดลพื้นฐานและโมเดลที่ปรับแต่งมาเป็นพิเศษสำหรับการแชท นอกจากนี้ ยังแตกต่างจาก Llama เวอร์ชันดั้งเดิมตรงที่โมเดลทั้งหมดได้รับการเผยแพร่พร้อมน้ำหนักและสามารถนำไปใช้ในเชิงพาณิชย์ได้หลายกรณี เนื่องจากใบอนุญาตของ Llama บังคับใช้นโยบายการใช้งานที่ยอมรับได้ซึ่งห้ามไม่ให้ใช้ Llama ในบางวัตถุประสงค์ จึงไม่ใช่โอเพนซอร์ส การใช้คำว่าโอเพนซอร์ส ของ Meta เพื่ออธิบาย Llama นั้นถูกโต้แย้งโดยOpen Source Initiative (ซึ่งดูแลThe Open Source Definition ) และหน่วยงานอื่นๆ^{[ 29 ] [ 30 ]}

Code Llama เป็นการปรับแต่ง Llama 2 ด้วยชุดข้อมูลเฉพาะโค้ด เวอร์ชัน 7B, 13B และ 34B เปิดตัวเมื่อวันที่ 24 สิงหาคม 2023 และเวอร์ชัน 70B เปิดตัวเมื่อวันที่ 29 มกราคม 2024 ^{[ 31 ]}โดยเริ่มต้นจากโมเดลพื้นฐานจาก Llama 2 Meta AI จะฝึกชุดข้อมูลโค้ดเพิ่มเติมอีก 500B โทเค็น ก่อนที่จะฝึกข้อมูลบริบทแบบยาวเพิ่มเติมอีก 20B โทเค็น เพื่อสร้างโมเดลพื้นฐานของ Code Llama โมเดลพื้นฐานนี้ได้รับการฝึกฝนเพิ่มเติมด้วยโทเค็นคำสั่งติดตาม 5B เพื่อสร้างการปรับแต่งคำสั่ง โมเดลพื้นฐานอีกตัวหนึ่งถูกสร้างขึ้นสำหรับโค้ด Python ซึ่งได้รับการฝึกฝนด้วยโทเค็นโค้ด Python เท่านั้น 100B โทเค็น ก่อนที่จะฝึกข้อมูลบริบทแบบยาว^{[ 32 ]}

เมื่อวันที่ 18 เมษายน 2567 Meta ได้เปิดตัว Llama 3 โดยมีพารามิเตอร์สองขนาดคือ 8B และ 70B โมเดลได้รับการฝึกฝนล่วงหน้าด้วยข้อความประมาณ 15 ล้านล้านโทเค็นที่รวบรวมจาก “แหล่งข้อมูลสาธารณะ” โดยโมเดลคำสั่งได้รับการปรับแต่งอย่างละเอียดด้วย “ชุดข้อมูลคำสั่งสาธารณะ รวมถึงตัวอย่างที่มนุษย์ติดป้ายกำกับไว้มากกว่า 10 ล้านตัวอย่าง” การทดสอบของ Meta AI ในเดือนเมษายน 2567 แสดงให้เห็นว่า Llama 3 70B มีประสิทธิภาพเหนือกว่าGemini Pro 1.5 และClaude 3 Sonnet ในเกณฑ์มาตรฐานส่วนใหญ่ Meta ยังประกาศแผนการที่จะทำให้ Llama 3 รองรับหลายภาษาและหลายรูปแบบปรับปรุงการเข้ารหัสและการให้เหตุผล และเพิ่มหน้าต่างบริบท^{[ 33 ] [ 34 ]}

เกี่ยวกับกฎการปรับขนาดโมเดล Llama 3 แสดงให้เห็นในเชิงประจักษ์ว่า เมื่อโมเดลได้รับการฝึกฝนด้วยข้อมูลที่มากกว่าปริมาณ " Chinchilla -optimal" ประสิทธิภาพจะยังคงปรับขนาดแบบลอการิทึมเชิงเส้น ตัวอย่างเช่น ชุดข้อมูล Chinchilla-optimal สำหรับ Llama 3 8B คือ 200 พันล้านโทเค็น แต่ประสิทธิภาพยังคงปรับขนาดแบบลอการิทึมเชิงเส้นไปจนถึงชุดข้อมูลที่ใหญ่กว่าถึง 75 เท่า คือ 15 ล้านล้านโทเค็น^{[ 35 ]}

ระหว่างการสัมภาษณ์กับ Dwarkesh Patel มาร์ค ซักเคอร์เบิร์กกล่าวว่า Llama 3 เวอร์ชัน 8B มีประสิทธิภาพเกือบเท่ากับ Llama 2 ที่ใหญ่ที่สุด เมื่อเทียบกับรุ่นก่อนหน้า ซักเคอร์เบิร์กกล่าวว่าทีมงานประหลาดใจที่โมเดล 70B ยังคงเรียนรู้ต่อไปได้แม้กระทั่งเมื่อสิ้นสุดการฝึกโทเค็น 15T จึงตัดสินใจยุติการฝึกเพื่อมุ่งเน้นพลัง GPU ไปที่อื่น^{[ 36 ]}

Llama 3.1 เปิดตัวเมื่อวันที่ 23 กรกฎาคม พ.ศ. 2567 โดยมีพารามิเตอร์สามขนาด ได้แก่ 8B, 70B และ 405B ^{[ 37 ] [ 38 ]}

ซีรีส์ Llama 4 เปิดตัวในปี 2025 สถาปัตยกรรมได้รับการเปลี่ยนแปลงเป็นการผสมผสานของผู้เชี่ยวชาญโดยที่เครือข่ายย่อยของผู้เชี่ยวชาญของโมเดลเพียงบางส่วนเท่านั้นที่จะถูกเปิดใช้งานต่อโทเค็นอินพุต พวกมันเป็นแบบมัลติโมดอล (อินพุตข้อความและรูปภาพ เอาต์พุตข้อความ) และหลายภาษา (12 ภาษา) ^{[ 39 ]}โดยเฉพาะอย่างยิ่ง ในวันที่ 5 เมษายน 2025 ได้มีการเปิดตัวเวอร์ชันพื้นฐานและเวอร์ชันที่ปรับแต่งคำสั่งดังต่อไปนี้: ^{[ 40 ]}

• Scout: โมเดลที่มีพารามิเตอร์ใช้งาน 17 พันล้านตัว พร้อมผู้เชี่ยวชาญ 16 คน หน้าต่างบริบทขนาด 10 ล้านช่อง และมีพารามิเตอร์ทั้งหมด 109 พันล้านตัว
• Maverick: โมเดลที่มีพารามิเตอร์ใช้งาน 17 พันล้านตัว พร้อมผู้เชี่ยวชาญ 128 คน หน้าต่างบริบทขนาด 1 ล้านช่อง และมีพารามิเตอร์ทั้งหมด 400 พันล้านตัว

โมเดล Behemoth ก็ได้รับการประกาศออกมาเช่นกัน แต่ไม่ได้วางจำหน่าย Meta อ้างว่าเป็นโมเดลที่มีพารามิเตอร์ใช้งาน 288 พันล้านตัว มีผู้เชี่ยวชาญ 16 คน และพารามิเตอร์ทั้งหมดประมาณ 2 ล้านล้านตัว โมเดลนี้ยังอยู่ในระหว่างการพัฒนาเมื่อ Scout และ Maverick ถูกปล่อยออกมา Maverick ถูกพัฒนาต่อยอดมาจาก Behemoth ในขณะที่ Scout ถูกฝึกฝนขึ้นมาใหม่ทั้งหมด

ข้อมูลการฝึกอบรมประกอบด้วยข้อมูลที่เปิดเผยต่อสาธารณะ ข้อมูลที่ได้รับอนุญาต และข้อมูลที่เป็นกรรมสิทธิ์ของ Meta เช่น โพสต์ที่เผยแพร่ต่อสาธารณะจาก Instagram และ Facebook และการโต้ตอบของผู้คนกับ Meta AI การตัดความรู้คือเดือนสิงหาคม 2567 ^{[ 39 ]}

Meta อ้างในประกาศเปิดตัวว่า Llama 4 ทำคะแนนได้ดีกว่าGPT-4oในการทดสอบประสิทธิภาพ AI ของ LMArena ^{[ 41 ]}บริษัทยังระบุด้วยว่าคะแนนการทดสอบประสิทธิภาพของ Llama 4 นั้นได้มาจากการใช้ "เวอร์ชันแชททดลอง" ที่ยังไม่เปิดตัวของโมเดล ซึ่ง "ได้รับการปรับให้เหมาะสมสำหรับการสนทนา" ซึ่งแตกต่างจากเวอร์ชันของ Llama 4 ที่เผยแพร่สู่สาธารณะ^{[ 42 ]} LMArena ระบุว่าจะเปลี่ยนแปลงนโยบายเพื่อป้องกันไม่ให้เหตุการณ์นี้เกิดขึ้นซ้ำอีก และตอบว่า "การตีความนโยบายของเราของ Meta ไม่ตรงกับสิ่งที่เราคาดหวังจากผู้ให้บริการโมเดล Meta ควรทำให้ชัดเจนยิ่งขึ้นว่า 'Llama-4-Maverick-03-26-Experimental' เป็นโมเดลที่ปรับแต่งเพื่อปรับให้เหมาะสมกับความชอบของมนุษย์" ^{[ 41 ]}ผู้ใช้บางรายวิพากษ์วิจารณ์ Meta บนโซเชียลมีเดียเกี่ยวกับการใช้โมเดลเวอร์ชันแยกต่างหากที่ปรับแต่งสำหรับการทดสอบประสิทธิภาพ และบางรายยังกล่าวหา Meta ว่าฝึก Llama 4 บนชุดทดสอบเพื่อเพิ่มคะแนนการทดสอบประสิทธิภาพให้สูงขึ้น ซึ่ง Meta ปฏิเสธ^{[ 43 ]}

สำหรับคอลัมน์ค่าใช้จ่ายในการฝึกฝน ระบบจะแสดงเฉพาะค่าใช้จ่ายของโมเดลที่มากที่สุดโดยค่าเริ่มต้น ตัวอย่างเช่น "21,000" คือค่าใช้จ่ายในการฝึกฝนของ Llama 2 69B ในหน่วย petaFLOPS-day โดย 1 petaFLOPS-day = 1 petaFLOP/sec × 1 วัน = 8.64E19 FLOP "T" หมายถึง "ล้านล้าน" และ "B" หมายถึง "พันล้าน"

ตารางต่อไปนี้แสดงรายการรุ่นโมเดลหลักของ Llama พร้อมอธิบายการเปลี่ยนแปลงที่สำคัญที่รวมอยู่ในแต่ละเวอร์ชัน: ^{[ 44 ]}

เช่นเดียวกับ GPT-3 โมเดลตระกูล Llama เป็น ทรานส์ ฟอร์เมอร์ แบบ ถอดรหัสอัตโนมัติเท่านั้นแต่มีความแตกต่างเล็กน้อยบางประการ:

• Llama ใช้ ฟังก์ชันการเปิด ใช้งาน SwiGLU ^{[ 53 ]} แทน GeLU ของ GPT-3
• Llama ใช้การฝังตำแหน่งแบบหมุน (RoPE) ^{[ 54 ]}แทนการฝังตำแหน่งแบบสัมบูรณ์
• แทนที่จะใช้การปรับค่าเลเยอร์ให้เป็น^{มาตรฐาน} [ ^{55 ]} Llama ใช้RMSNorm ^{[ 56 ]}

พารามิเตอร์สำคัญของ Llama 3.1

	8B	70บี	405บี
ชั้นต่างๆ	32	80	126
ขนาดของแบบจำลอง	4,096	8,192	16,384
มิติ FFN	14,336	28,672	53,248
โปรดทราบ	32	64	128
หัวคีย์/ค่า	8	8	8
อัตราการเรียนรู้สูงสุด	3 × 10 −4	1.5 × 10 −4	0.8 × 10 −4
ฟังก์ชันการเปิดใช้งาน	สวีกลู
ขนาดคำศัพท์	128,000
การฝังตำแหน่ง	${\displaystyle \operatorname {RoPE} (\theta =500{,}000)}$

ผู้พัฒนา Llama มุ่งเน้นความพยายามไปที่การเพิ่มประสิทธิภาพของโมเดลโดยการเพิ่มปริมาณข้อมูลการฝึกฝน แทนที่จะเพิ่มจำนวนพารามิเตอร์ โดยให้เหตุผลว่าต้นทุนหลักของ LLM มาจากการอนุมานบนโมเดลที่ได้รับการฝึกฝนแล้ว มากกว่าต้นทุนการคำนวณของกระบวนการฝึกฝน

โมเดลพื้นฐานของ Llama 1 ได้รับการฝึกฝนบนชุดข้อมูลที่มีโทเค็น 1.4 ล้านล้านรายการ ซึ่งดึงมาจากแหล่งข้อมูลสาธารณะ ได้แก่: ^{[ 17 ]}

• เว็บเพจที่ดึงข้อมูลโดยCommonCrawl
• แหล่งเก็บซอร์สโค้ดแบบโอเพนซอร์สจากGitHub
• วิกิพีเดียใน 20 ภาษา
• หนังสือ ที่เป็นสาธารณสมบัติจากโครงการกูเตนเบิร์ก
• ชุดข้อมูลหนังสือ3 เล่ม
• ซอร์สโค้ดLaTeXสำหรับบทความทางวิทยาศาสตร์ที่อัปโหลดไปยังArXiv
• คำถามและคำตอบจากเว็บไซต์Stack Exchange

ในเดือนเมษายน พ.ศ. 2566 Together AI ได้เปิดตัวโครงการชื่อ RedPajama เพื่อทำซ้ำและเผยแพร่ชุดข้อมูล Llama เวอร์ชันโอเพนซอร์ส ซึ่งในขั้นต้นมีโทเค็นประมาณ 1.2 ล้านล้านโทเค็น ^{[ 57 ]}

โมเดลพื้นฐานของ Llama 2 ได้รับการฝึกฝนบนชุดข้อมูลที่มีโทเค็น 2 ล้านล้านรายการ ชุดข้อมูลนี้ได้รับการคัดสรรเพื่อลบเว็บไซต์ที่มักเปิดเผยข้อมูลส่วนบุคคลของผู้คน นอกจากนี้ยังเพิ่มจำนวนแหล่งข้อมูลที่ถือว่าน่าเชื่อถือ^{[ 28 ]} Llama 2 - Chat ได้รับการปรับแต่งเพิ่มเติมบนคู่คำถาม-คำตอบ 27,540 คู่ที่สร้างขึ้นสำหรับโครงการนี้ ซึ่งมีประสิทธิภาพดีกว่าชุดข้อมูลของบุคคลที่สามที่มีขนาดใหญ่กว่าแต่คุณภาพต่ำกว่า สำหรับการจัดเรียง AI นั้น ใช้การเรียนรู้แบบเสริมแรงพร้อมข้อเสนอแนะจากมนุษย์ (RLHF) ร่วมกับตัวอย่าง Meta จำนวน 1,418,091 ตัวอย่างและชุดข้อมูลขนาดเล็กอีกเจ็ดชุด ความลึกของบทสนทนาโดยเฉลี่ยอยู่ที่ 3.9 ในตัวอย่าง Meta, 3.0 สำหรับชุด Anthropic Helpful และ Anthropic Harmless และ 1.0 สำหรับชุดอื่นๆ อีกห้าชุด รวมถึง OpenAI Summarize, StackExchange เป็นต้น

Llama 3 ประกอบด้วยข้อมูลภาษาอังกฤษเป็นหลัก โดยมีข้อมูลมากกว่า 5% ในภาษาอื่นๆ อีกกว่า 30 ภาษา ชุดข้อมูลของมันถูกกรองโดยตัวจำแนกคุณภาพข้อความ และตัวจำแนกนั้นได้รับการฝึกฝนโดยข้อความที่สังเคราะห์โดย Llama 2 ^{[ 35 ]}

ในการฟ้องร้องMeta Platformsโดยผู้เขียน ได้แก่Richard Kadrey , Sarah SilvermanและTa-Nehisi Coatesมีการกล่าวหาว่าซีอีโอ Mark Zuckerberg อนุญาตให้ใช้เนื้อหาที่มีลิขสิทธิ์จากLibrary Genesisเพื่อฝึกโมเดล Llama AI และปกปิดการกระทำดังกล่าวโดยการลบเครื่องหมายลิขสิทธิ์ออกจากข้อมูล^{[ 58 ]}

โมเดล Llama 1 มีให้ใช้งานเฉพาะในรูปแบบโมเดลพื้นฐานที่ใช้การเรียนรู้แบบกำกับตนเอง (self-supervised learning) และไม่มีการปรับแต่ง (fine-tuning) โมเดล Llama 2 – Chat พัฒนามาจากโมเดล Llama 2 พื้นฐาน แตกต่างจากGPT-4ที่เพิ่มความยาวของบริบทในระหว่างการปรับแต่ง Llama 2 และ Code Llama - Chat มีความยาวบริบทเท่ากันที่ 4K โทเค็น การปรับแต่งแบบกำกับ (supervised fine-tuning) ใช้ฟังก์ชันการสูญเสียแบบอัตถารีเกรสซีฟ (autoregressive loss function) โดยกำหนดค่าการสูญเสียโทเค็นในข้อความแจ้งเตือนของผู้ใช้เป็นศูนย์ ขนาดแบทช์คือ 64

สำหรับการจัดเรียง AIนั้น ผู้ให้ข้อมูลที่เป็นมนุษย์จะเขียนข้อความแจ้งเตือนแล้วเปรียบเทียบผลลัพธ์ของโมเดลสองแบบ (โปรโตคอลแบบไบนารี) โดยให้ระดับความเชื่อมั่นและป้ายกำกับความปลอดภัยแยกต่างหากพร้อมอำนาจในการคัดค้าน โมเดลการให้รางวัลสองแบบแยกกันได้รับการฝึกฝนจากความชอบด้านความปลอดภัยและความเป็นประโยชน์โดยใช้การเรียนรู้แบบเสริมแรงจากข้อเสนอแนะของมนุษย์ (RLHF) ส่วนสำคัญทางเทคนิคคือการละทิ้งการใช้การเพิ่มประสิทธิภาพนโยบายแบบใกล้เคียง (PPO) เพียงอย่างเดียวสำหรับ RLHF – มีการใช้เทคนิคใหม่ที่อิงกับการสุ่มตัวอย่างแบบปฏิเสธตามด้วย PPO

เป้าหมายของการปรับปรุงคือความสอดคล้องในการสนทนาหลายรอบ เพื่อให้แน่ใจว่า "ข้อความระบบ" (คำแนะนำเบื้องต้น เช่น "พูดภาษาฝรั่งเศส" และ "ทำตัวเหมือนนโปเลียน") ได้รับการเคารพในระหว่างการสนทนา ซึ่งทำได้โดยใช้เทคนิค "Ghost attention" ใหม่ระหว่างการฝึกฝน โดยจะเชื่อมโยงคำแนะนำที่เกี่ยวข้องเข้ากับข้อความผู้ใช้ใหม่แต่ละข้อความ แต่จะตั้งค่าฟังก์ชันการสูญเสียเป็นศูนย์สำหรับโทเค็นในข้อความแจ้งเตือน (ส่วนต้นๆ ของการสนทนา)

Georgi Gerganov นักพัฒนาซอฟต์แวร์ได้เผยแพร่llama.cppเป็นโอเพนซอร์สเมื่อวันที่ 10 มีนาคม 2023 ซึ่งเป็นการนำ Llama มาเขียนใหม่ในภาษาC++ทำให้ระบบที่ไม่มี GPU ที่ทรงพลังสามารถรันโมเดลได้ในเครื่อง^{[ 70 ]}โครงการ llama.cpp ได้แนะนำรูปแบบไฟล์ GGUF ซึ่งเป็นรูปแบบไบนารีที่จัดเก็บทั้งเทนเซอร์และเมตาเดตา^{[ 71 ]}รูปแบบนี้เน้นการสนับสนุนประเภทการควอนไทเซชันที่แตกต่างกัน ซึ่งสามารถลดการใช้หน่วยความจำและเพิ่มความเร็วโดยแลกกับความแม่นยำของโมเดลที่ลดลง^{[ 72 ]}

llamafile ที่สร้างโดยJustine Tunneyเป็นเครื่องมือโอเพนซอร์สที่รวม llama.cpp กับโมเดลไว้ในไฟล์ปฏิบัติการเดียว Tunney และคณะได้แนะนำเคอร์เนลการคูณเมทริกซ์ที่ปรับให้เหมาะสมใหม่สำหรับ CPU x86 และ ARM ซึ่งช่วยปรับปรุงประสิทธิภาพการประเมินแบบทันทีสำหรับ ประเภทข้อมูล FP16และควอนไทซ์ 8 บิต^{[ 73 ]}

Booz Allen Hamiltonได้นำโมเดล Llama 3.2 ของ Meta ไปใช้งานบนสถานีอวกาศนานาชาติ (ISS) National Labs ซึ่งเป็นส่วนหนึ่งของโครงการที่เรียกว่า Space Llama ระบบนี้ทำงานบนSpaceborne Computer-2 ของHewlett Packard Enterprise และใช้ประโยชน์จากแพลตฟอร์ม A2E2 (AI for Edge Environments) ของ Booz Allen โดยใช้การประมวลผลแบบเร่งความเร็ว NVIDIA CUDA Space Llama แสดงให้เห็นว่าโมเดลภาษาขนาดใหญ่สามารถทำงานได้ในสภาพแวดล้อมที่ตัดขาดและมีข้อจำกัด เช่น ในอวกาศ ทำให้นักบินอวกาศสามารถเรียกดูและสรุปเอกสารโดยใช้คำถามภาษาธรรมชาติได้ แม้ว่าจะไม่มีการเชื่อมต่ออินเทอร์เน็ตก็ตาม^{[ 74 ] [ 75 ]}

ในปี 2024 มีรายงานว่านักวิจัยจากสถาบันวิทยาศาสตร์การทหารกองทัพปลดปล่อยประชาชน (สถาบันการทหารชั้นนำของจีน ) ได้พัฒนาเครื่องมือทางทหารโดยใช้ Llama ซึ่งMeta Platformsระบุว่าไม่ได้รับอนุญาตเนื่องจากใบอนุญาตของ Llama ห้ามการใช้โมเดลเพื่อวัตถุประสงค์ทางทหาร^{[ 76 ] [ 77 ]} Meta อนุญาตให้รัฐบาลสหรัฐฯ และผู้รับเหมาทางทหารของสหรัฐฯ ใช้ Llama ในเดือนพฤศจิกายน 2024 แต่ยังคงห้ามการใช้งานทางทหารโดยหน่วยงานที่ไม่ใช่ของสหรัฐฯ^{[ 30 ] [ 78 ]}