สำหรับปัญหาที่ง่ายมาก เช่น ฟังก์ชันของตัวแปรสองตัวที่อยู่ภายใต้ข้อจำกัดความเท่าเทียมกันเพียงข้อเดียว วิธีที่ใช้งานได้จริงที่สุดคือการใช้วิธีการแทนที่^{[ 4 ]}แนวคิดคือการแทนที่ข้อจำกัดลงในฟังก์ชันเป้าหมายเพื่อสร้างฟังก์ชันประกอบที่รวมผลกระทบของข้อจำกัดไว้ด้วย ตัวอย่างเช่น สมมติว่าเป้าหมายคือการเพิ่มค่าสูงสุด${\displaystyle f(x,y)=x\cdot y}$ขึ้นอยู่กับ${\displaystyle x+y=10}$ข้อจำกัดดังกล่าวหมายความว่า${\displaystyle y=10-x}$ซึ่งสามารถนำไปแทนที่ในฟังก์ชันเป้าหมายเพื่อสร้างได้${\displaystyle p(x)=x(10-x)=10x-x^{2}}$เงื่อนไขจำเป็นอันดับแรกให้ผลลัพธ์ดังนี้${\displaystyle {\frac {\partial p}{\partial x}}=10-2x=0}$ซึ่งสามารถหาคำตอบได้${\displaystyle x=5}$และด้วยเหตุนี้${\displaystyle y=10-5=5}$.

หากปัญหาที่มีข้อจำกัดมีเพียงข้อจำกัดแบบสมการเท่านั้น วิธีตัวคูณลากรางจ์สามารถใช้แปลงให้เป็นปัญหาที่ไม่มีข้อจำกัดได้ โดยจำนวนตัวแปรจะเท่ากับจำนวนตัวแปรเดิมบวกกับจำนวนข้อจำกัดแบบสมการเดิม หรืออีกทางหนึ่ง หากข้อจำกัดทั้งหมดเป็นข้อจำกัดแบบสมการและเป็นเชิงเส้นทั้งหมด สามารถแก้หาค่าตัวแปรบางตัวในรูปของตัวแปรอื่นได้ และสามารถแทนที่ตัวแปรบางตัวออกจากฟังก์ชันเป้าหมาย ทำให้ได้ปัญหาที่ไม่มีข้อจำกัดซึ่งมีจำนวนตัวแปรน้อยลง

ถ้าฟังก์ชันเป้าหมายและข้อจำกัดที่เข้มงวดทั้งหมดเป็นเชิงเส้น และข้อจำกัดที่เข้มงวดบางส่วนเป็นอสมการ ปัญหาดังกล่าวจะเป็นปัญหาการเขียนโปรแกรมเชิงเส้นซึ่งสามารถแก้ไขได้ด้วยวิธีซิมเพล็กซ์ซึ่งโดยทั่วไปแล้วจะใช้เวลาเป็นพหุนามในขนาดของปัญหา แต่ไม่รับประกัน หรือด้วยวิธีจุดภายในซึ่งรับประกันว่าจะทำงานได้ในเวลาเป็นพหุนาม

ถ้าฟังก์ชันเป้าหมายหรือข้อจำกัดบางส่วนเป็นแบบไม่เชิงเส้น และข้อจำกัดบางส่วนเป็นอสมการ ปัญหาดังกล่าวจะเป็นปัญหาการเขียนโปรแกรมแบบไม่เชิงเส้น

ถ้าข้อจำกัดที่เข้มงวดทั้งหมดเป็นเชิงเส้นและบางส่วนเป็นอสมการ แต่ฟังก์ชันเป้าหมายเป็นกำลังสอง ปัญหาดังกล่าวจะเป็น ปัญหา การเขียนโปรแกรมกำลังสองซึ่งเป็นประเภทหนึ่งของการเขียนโปรแกรมแบบไม่เชิงเส้น ยังคงสามารถแก้ไขได้ในเวลาพหุนามโดยวิธีวงรีหากฟังก์ชันเป้าหมายเป็นฟังก์ชันนูนมิฉะนั้นปัญหาอาจเป็นปัญหาNP- hard

วิธีการ KKT สำหรับการเขียนโปรแกรมไม่เชิงเส้น ซึ่งอนุญาตให้มีข้อจำกัดความไม่เท่าเทียมกันนั้นเป็นการขยายวิธีการตัวคูณลากรางจ์ และสามารถนำไปใช้ได้ภายใต้เงื่อนไขที่สามารถหาอนุพันธ์ได้และเป็นฟังก์ชันนูน

การหาค่าเหมาะสมที่สุดภายใต้ข้อจำกัดสามารถแก้ไขได้ด้วยอัลก อริทึม แบบ Branch-and-Boundซึ่งเป็นอัลกอริทึมแบบย้อนกลับ (Backtracking) ที่เก็บค่าใช้จ่ายของวิธีแก้ปัญหาที่ดีที่สุดที่พบระหว่างการทำงาน และใช้ค่าใช้จ่ายนั้นเพื่อหลีกเลี่ยงส่วนหนึ่งของการค้นหา กล่าวคือ เมื่อใดก็ตามที่อัลกอริทึมพบวิธีแก้ปัญหาบางส่วนที่ไม่สามารถขยายเพื่อสร้างวิธีแก้ปัญหาที่มีค่าใช้จ่ายดีกว่าค่าใช้จ่ายที่ดีที่สุดที่เก็บไว้ อัลกอริทึมจะย้อนกลับแทนที่จะพยายามขยายวิธีแก้ปัญหานั้น

โดยสมมติว่าต้องการลดต้นทุนให้เหลือน้อยที่สุด ประสิทธิภาพของอัลกอริธึมเหล่านี้ขึ้นอยู่กับวิธีการประเมินต้นทุนที่ได้จากการขยายโซลูชันบางส่วน ที่จริงแล้ว หากอัลกอริธึมสามารถย้อนกลับจากโซลูชันบางส่วนได้ ส่วนหนึ่งของการค้นหาก็จะถูกข้ามไป ยิ่งต้นทุนที่ประเมินได้ต่ำเท่าไร อัลกอริธึมก็จะยิ่งดีขึ้นเท่านั้น เนื่องจากต้นทุนที่ประเมินได้ต่ำมีแนวโน้มที่จะต่ำกว่าต้นทุนที่ดีที่สุดของโซลูชันที่พบจนถึงปัจจุบัน

ในทางกลับกัน ต้นทุนที่ประเมินไว้จะต้องไม่ต่ำกว่าต้นทุนที่แท้จริงที่สามารถได้รับจากการขยายโซลูชัน เพราะมิฉะนั้นอัลกอริทึมอาจย้อนกลับในขณะที่มีโซลูชันที่ดีกว่าโซลูชันที่ดีที่สุดที่พบมาแล้ว ดังนั้น อัลกอริทึมจึงต้องการขอบเขตบนของต้นทุนที่สามารถได้รับจากการขยายโซลูชันบางส่วน และขอบเขตบนนี้ควรมีค่าน้อยที่สุดเท่าที่จะเป็นไปได้

วิธีการที่แตกต่างไปจากแนวทางนี้เรียกว่าวิธีของ Hansen ซึ่งใช้วิธีช่วงเวลา^{[ 5 ]}โดยพื้นฐานแล้วจะใช้ข้อจำกัดรูปสี่เหลี่ยมผืนผ้า

วิธีหนึ่งในการประเมินขอบเขตบนสำหรับคำตอบบางส่วนคือการพิจารณาข้อจำกัดแบบอ่อนแต่ละข้อแยกกัน สำหรับข้อจำกัดแบบอ่อนแต่ละข้อ จะถือว่าค่าสูงสุดที่เป็นไปได้สำหรับการกำหนดค่าใดๆ ให้กับตัวแปรที่ยังไม่ได้กำหนดค่าคือค่าใดค่าหนึ่ง ผลรวมของค่าเหล่านี้คือขอบเขตบน เนื่องจากข้อจำกัดแบบอ่อนไม่สามารถมีค่าสูงกว่านี้ได้ และมีความแม่นยำเพราะค่าสูงสุดของข้อจำกัดแบบอ่อนอาจได้มาจากการประเมินที่แตกต่างกัน กล่าวคือ ข้อจำกัดแบบอ่อนอาจมีค่าสูงสุดสำหรับ${\displaystyle x=a}$ในขณะที่ข้อจำกัดอีกประการหนึ่งคือค่าสูงสุดสำหรับ${\displaystyle x=b}$.

อัลกอริทึม การกำจัดแบบบัคเก็ตสามารถปรับใช้กับการเพิ่มประสิทธิภาพข้อจำกัดได้ ตัวแปรที่กำหนดสามารถถูกลบออกจากปัญหาได้โดยการแทนที่ข้อจำกัดแบบอ่อนทั้งหมดที่มีตัวแปรนั้นด้วยข้อจำกัดแบบอ่อนใหม่ ต้นทุนของข้อจำกัดใหม่นี้คำนวณโดยสมมติค่าสูงสุดสำหรับทุกค่าของตัวแปรที่ถูกลบออก กล่าวคือ ถ้า${\displaystyle x}$คือตัวแปรที่จะถูกลบออก${\displaystyle C_{1},\ldots ,C_{n}}$คือข้อจำกัดแบบอ่อนที่ควบคุมมันอยู่ และ${\displaystyle y_{1},\ldots ,y_{m}}$ตัวแปรของพวกเขายกเว้น${\displaystyle x}$ข้อจำกัดแบบอ่อนตัวใหม่นี้กำหนดโดย:

${\displaystyle C(y_{1}=a_{1},\ldots ,y_{n}=a_{n})=\max _{a}\sum _{i}C_{i}(x=a,y_{1}=a_{1},\ldots ,y_{n}=a_{n}).}$

วิธีการกำจัดแบบบัคเก็ต (Bucket elimination) ทำงานโดยมีการเรียงลำดับตัวแปร (ตามอำเภอใจ) ตัวแปรแต่ละตัวจะเชื่อมโยงกับบัคเก็ตของข้อจำกัด โดยบัคเก็ตของตัวแปรนั้นจะประกอบด้วยข้อจำกัดทั้งหมดที่ตัวแปรนั้นมีค่าสูงสุดในลำดับ วิธีการกำจัดแบบบัคเก็ตจะดำเนินการจากตัวแปรสุดท้ายไปยังตัวแปรแรก สำหรับแต่ละตัวแปร ข้อจำกัดทั้งหมดในบัคเก็ตจะถูกแทนที่ตามวิธีการข้างต้นเพื่อลบตัวแปรนั้นออก จากนั้นข้อจำกัดที่ได้จะถูกนำไปใส่ในบัคเก็ตที่เหมาะสม