ปัญญาประดิษฐ์เชิงสร้างสรรค์ ( GenAI ) เป็นสาขาย่อยของปัญญาประดิษฐ์ (AI) ที่ใช้โมเดลเชิงสร้างสรรค์เพื่อสร้างข้อความรูปภาพวิดีโอเสียงรหัสซอฟต์แวร์(การเข้ารหัสแบบไวบ์ ) หรือข้อมูลรูปแบบอื่น ๆ^{[ 1 ]}โมเดลเหล่านี้เรียนรู้รูปแบบและโครงสร้างพื้นฐานของข้อมูลการฝึกอบรมและใช้ข้อมูลเหล่านั้นเพื่อสร้างข้อมูลใหม่^{[ 2 ]}เพื่อตอบสนองต่อข้อมูลป้อนเข้า ซึ่งมักอยู่ในรูปแบบของข้อความแจ้งภาษาธรรมชาติ^{[ 3 ] [ 4 ]}

เครื่องมือ AI เชิงสร้างสรรค์แพร่หลายมากขึ้นนับตั้งแต่ยุคเฟื่องฟูของ AIในช่วงทศวรรษ 2020 การเติบโตนี้เกิดขึ้นได้จากการพัฒนาเครือข่ายประสาทเทียมเชิงลึก โดยเฉพาะอย่างยิ่งโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งใช้สถาปัตยกรรมTransformer แอ ปพลิเค ชัน AI เชิงสร้างสรรค์ ได้แก่แชทบอทเช่นChatGPT , Claude , Copilot , DeepSeek , Doubao , Google Gemini , GrokและQwen ; โมเดล แปลงข้อความเป็นภาพเช่นDALL-E ^, Firefly , Stable DiffusionและMidjourney ; และ โมเดล แปลงข้อความเป็นวิดีโอเช่นVeo , LTXและSora ^{[ 5 ] [ 6 ] [ 7} ]

บริษัทต่างๆ ในหลากหลายภาคส่วนได้ใช้ AI เชิงสร้างสรรค์ รวมถึงบริษัทในด้านการพัฒนาซอฟต์แวร์ การดูแลสุขภาพ^{[ 8 ]}การเงิน^{[ 9 ]}ความบันเทิง^{[ 10 ]}บริการลูกค้า^{[ 11 ]}การขายและการตลาด^{[ 12 ]}ศิลปะ การเขียน^{[ 13 ]}และการออกแบบผลิตภัณฑ์^{[ 14 ]}

ปัญญาประดิษฐ์เชิงสร้างสรรค์ถูกนำไปใช้ในการก่ออาชญากรรมทางไซเบอร์และเพื่อหลอกลวงและควบคุมผู้คนผ่านข่าวปลอมและดีพเฟค [ ^{15 ] [ 16 ] โมเดล}ปัญญาประดิษฐ์เชิงสร้างสรรค์ได้รับการฝึกฝนจากผลงานที่มีลิขสิทธิ์ โดยไม่ได้ รับอนุญาตจากเจ้าของลิขสิทธิ์^{[ 17 ]} ระบบปัญญาประดิษฐ์เชิงสร้างสรรค์จำนวนมากใช้ ศูนย์ข้อมูลขนาดใหญ่ซึ่งผลกระทบต่อสิ่งแวดล้อมได้แก่ขยะอิเล็กทรอนิกส์การใช้น้ำจืดเพื่อการระบายความร้อน และการใช้พลังงานสูงซึ่งคาดว่าจะเพิ่มขึ้นอย่างต่อเนื่อง^{[ 18 ]}

ที่มาของสื่อที่สร้างขึ้นด้วยอัลกอริทึมสามารถสืบย้อนไปถึงการพัฒนาของห่วงโซ่มาร์คอฟซึ่งถูกนำมาใช้ในการจำลองภาษาธรรมชาติมาตั้งแต่ต้นศตวรรษที่ 20 นักคณิตศาสตร์ชาวรัสเซียAndrey Markovได้นำเสนอแนวคิดนี้ในปี 1906 ^{[ 19 ] [ 20 ]}รวมถึงการวิเคราะห์รูปแบบสระและพยัญชนะในEugene Oneginเมื่อได้รับการฝึกฝนบนคลังข้อความ แล้ว ห่วง โซ่มาร์คอฟสามารถสร้างข้อความที่มีความน่าจะเป็นได้^{[ 21 ] [ 22 ]}

ในช่วงต้นทศวรรษ 1970 ศิลปินเริ่มใช้คอมพิวเตอร์เพื่อขยายเทคนิคการสร้างภาพให้เหนือกว่าแบบจำลองมาร์คอ ฟ ฮา โรลด์ โคเฮนพัฒนาและจัดแสดงผลงานที่สร้างโดยAARONซึ่งเป็นโปรแกรมคอมพิวเตอร์บุกเบิกที่ออกแบบมาเพื่อสร้างภาพวาดโดยอัตโนมัติ^{[ 23 ]} คำว่าการวางแผน AI แบบสร้างภาพ หรือ การวางแผนแบบสร้างภาพ ถูกนำมาใช้ในช่วงทศวรรษ 1980 และ 1990 เพื่ออ้างถึงระบบการวางแผน AI โดยเฉพาะอย่างยิ่ง การวางแผนกระบวนการโดยใช้คอมพิวเตอร์ช่วยซึ่งใช้ในการสร้างลำดับการกระทำเพื่อให้บรรลุเป้าหมายที่กำหนด^{[ 24 ] [ 25 ]}ระบบการวางแผน AI แบบสร้างภาพใช้ วิธีการ AI เชิงสัญลักษณ์เช่นการค้นหาพื้นที่สถานะและความพึงพอใจของข้อจำกัดและเป็นเทคโนโลยีที่ "ค่อนข้างสมบูรณ์" ในช่วงต้นทศวรรษ 1990 พวกมันถูกใช้เพื่อสร้างแผนปฏิบัติการวิกฤตสำหรับการใช้งานทางทหาร^{[ 26 ]}แผนกระบวนการสำหรับการผลิต^{[ 24 ]}และแผนการตัดสินใจ เช่น ในยานอวกาศอัตโนมัติต้นแบบ^{[ 27 ]}

การเรียนรู้ของเครื่องใช้ทั้งแบบจำลองจำแนกและแบบจำลองสร้างเพื่อทำนายหรือสร้างข้อมูล นับตั้งแต่ช่วงปลายปี 2000 และต้นปี 2010 ความก้าวหน้าในการเรียนรู้เชิงลึกนำไปสู่การปรับปรุงที่สำคัญในการจำแนกภาพการรู้จำเสียงพูดและ การ ประมวลผลภาษาธรรมชาติ^{[ 28 ]}เครือข่ายประสาทเทียมในช่วงเวลานี้มักได้รับการฝึกฝนเป็น แบบจำลอง จำแนกเนื่องจากความยากลำบากในการฝึกแบบจำลองสร้าง^{[ 29 ]}

ในปี 2557 การนำโมเดลต่างๆ เช่นvariational autoencoder (VAE) และgenerative adversarial network (GAN) มาใช้ ทำให้สามารถสร้างแบบจำลองเชิงลึกที่มีประสิทธิภาพสำหรับข้อมูลที่ซับซ้อน เช่น รูปภาพ^{[ 30 ] [ 31 ]}

ในปี 2017 สถาปัตยกรรม Transformerช่วยให้เกิดความก้าวหน้าเพิ่มเติมในการสร้างแบบจำลองเชิงกำเนิดเมื่อเทียบกับ เครือข่าย หน่วยความจำระยะยาวแบบสั้น (LSTM) รุ่น ก่อนหน้า ^{[ 32 ]}ซึ่งนำไปสู่การพัฒนา แบบ จำลอง Transformer ที่ได้รับการฝึกฝนล่วงหน้าเชิงกำเนิด (GPT) โดยเริ่มจากGPT-1ในปี 2018 ^{[ 33 ]}

ในเดือนมีนาคม พ.ศ. 2563 การเปิดตัว15.ai ซึ่งเป็น แอปพลิเคชันบนเว็บฟรีที่สร้างโดยนักวิจัยนิรนามจาก MITที่สามารถสร้างเสียงตัวละครที่น่าเชื่อถือโดยใช้ข้อมูลการฝึกอบรมเพียงเล็กน้อย ถือเป็นหนึ่งในการใช้งาน AI แบบสร้างสรรค์ที่เปิดให้สาธารณะใช้งานได้เป็นครั้งแรก^{[ 34 ]}แพลตฟอร์มนี้ได้รับการยกย่องว่าเป็นบริการหลักแห่งแรกสำหรับdeepfake เสียง^{[ 35 ] [ 36 ]}

ในปี 2021 DALL-Eซึ่งเป็นโมเดลสร้างภาพแบบปิดแหล่งที่ มาที่ใช้ Transformerซึ่งพัฒนาโดย OpenAI ได้รับความสนใจอย่างกว้างขวางใน การ สร้างภาพจากข้อความ^{[ 37 ]}

โครงการอื่นๆ รวมถึงแนวทางโอเพนซอร์ส เช่น VQGAN+CLIP และ DALL·E Mini (ต่อมาเปลี่ยนชื่อเป็น Craiyon) ทำให้ระบบที่คล้ายกันเข้าถึงได้ง่ายขึ้นสำหรับสาธารณชน^{[ 38 ]}

Dream by Womboวางจำหน่ายในช่วงปลายปี 2021 ^{[ 39 ]}ตามด้วยการเปิดตัวMidjourneyและStable Diffusionในปี 2022 ^{[ 40 ] [ 41 ]}

ในเดือนพฤศจิกายน พ.ศ. 2565 ChatGPTได้ถูกเผยแพร่สู่สาธารณะ ภายในปี พ.ศ. 2566 ก็ทำให้ AI เชิงสร้างสรรค์เป็นที่นิยมสำหรับงานทั่วไปที่ใช้ข้อความเป็นหลัก^{[ 42 ] [ 43 ] [ 44 ]}

จากการสำรวจในปี 2024 โดยบริษัทวิจัยการตลาดIpsos พบ ว่า ประเทศ ในภูมิภาคเอเชียแปซิฟิกมีความมองโลกในแง่ดีมากกว่าสังคมตะวันตกเกี่ยวกับ AI แบบสร้างสรรค์ และมีอัตราการนำไปใช้ที่สูงกว่า แม้จะแสดงความกังวลเกี่ยวกับความเป็นส่วนตัวและอัตราการเปลี่ยนแปลง แต่ผู้ตอบแบบสอบถามในภูมิภาคเอเชียแปซิฟิก 68% เชื่อว่า AI มีผลกระทบเชิงบวกต่อโลก เมื่อเทียบกับ 57% ทั่วโลก^{[ 45 ]}จากการสำรวจโดยSASและ Coleman Parkes Research พบว่า ณ ปี 2023 ผู้ตอบแบบสอบถามชาวจีน 83% ใช้เทคโนโลยีนี้ ซึ่งสูงกว่าค่าเฉลี่ยทั่วโลกที่ 54% และอัตราของสหรัฐอเมริกาที่ 65% รายงาน ของสหประชาชาติระบุว่า หน่วยงานของจีนยื่นจดสิทธิบัตร AI แบบสร้างสรรค์มากกว่า 38,000 ฉบับ ตั้งแต่ปี 2014 ถึง 2023 ซึ่งมากกว่าประเทศอื่นๆ^{[ 46 ]}การสำรวจในปี 2024 โดย แอปโซเชียลมีเดีย Just So Soulรายงานว่า 18% ของผู้ตอบแบบสอบถามที่เกิดหลังปี 2000 ใช้ AI ที่สร้างขึ้น "เกือบทุกวัน" และมากกว่า 60% ของผู้ตอบแบบสอบถามชอบหรือรักเนื้อหาที่สร้างโดย AI (AIGC) ในขณะที่น้อยกว่า 3% ไม่ชอบหรือเกลียด^{[ 47 ]}

ภายในกลางปี ​​2025 บริษัทต่างๆ เริ่มละทิ้งโครงการนำร่อง AI เชิงสร้างสรรค์มากขึ้นเรื่อยๆ เนื่องจากประสบปัญหาในการบูรณาการ คุณภาพข้อมูล และผลตอบแทนที่ไม่เป็นไปตามที่คาดหวัง ทำให้นักวิเคราะห์จากGartnerและThe Economistอธิบายช่วงเวลานี้ว่าเป็นช่วงที่เข้าสู่"จุดต่ำสุดของความผิดหวัง" ของวงจรความนิยมของ Gartner ^{[ 48 ] [ 49 ]}

ปัญญาประดิษฐ์เชิงสร้างสรรค์ถูกนำไปประยุกต์ใช้ในอุตสาหกรรมต่างๆ มากมายสำหรับการสร้างเนื้อหาและการทำงานอัตโนมัติ ในด้านการดูแลสุขภาพ โมเดลเชิงสร้างสรรค์ถูกใช้สำหรับการค้นพบยาและการสร้างข้อมูลทางการแพทย์สังเคราะห์เพื่อฝึกระบบวินิจฉัย^{[ 50 ]}ในด้านการเงิน โมเดลเหล่านี้ถูกใช้สำหรับการร่างรายงาน การสร้างข้อมูล และการทำงานอัตโนมัติของบริการลูกค้า^{[ 51 ]}อุตสาหกรรมสื่อและความบันเทิงใช้ระบบเชิงสร้างสรรค์สำหรับงานต่างๆ เช่น การแต่งเพลง การพัฒนาบท และการสร้างภาพหรือวิดีโอ^{[ 52 ]}นักวิจัยและผู้กำหนดนโยบายได้แสดงความกังวลเกี่ยวกับความถูกต้อง การใช้ในทางที่ผิด และผลกระทบต่องานวิชาการและวิชาชีพ^{[ 51 ]}

โมเดลภาษาขนาดใหญ่ (LLM) ได้รับการฝึกฝนบนข้อความที่แยกเป็นโทเค็นจากคลังข้อมูลขนาดใหญ่ และมีความสามารถใน การประมวลผล ภาษาธรรมชาติการแปลด้วยเครื่องและการสร้างภาษาธรรมชาติ^{[ 53 ]}

LLM สามารถใช้เป็นแบบจำลองพื้นฐานสำหรับงานปลายทางต่างๆ ได้^{[ 54 ]}นอกจากนี้ยังสามารถฝึกฝนบนซอร์สโค้ดเพื่อสร้างโปรแกรมจากข้อความแจ้งได้อีกด้วย^{[ 55 ]}

ในปี 2016 WaveNet ของ DeepMind ได้แสดงให้เห็นว่าโครงข่ายประสาทเทียมเชิงลึกสามารถสร้างรูปคลื่นเสียงดิบได้^{[ 56 ]}ซึ่งทำให้การสังเคราะห์เสียงพูดมีความสมจริงมากขึ้นเมื่อเทียบกับวิธีการก่อนหน้านี้ ระบบต่อมา เช่น Tacotron 2 ได้แสดงให้เห็นถึงการสร้างข้อความเป็นเสียงพูดแบบครบวงจรด้วยโครงข่ายประสาทเทียม^{[ 57 ]}

AI เชิงสร้างสรรค์สามารถใช้สร้างงานศิลปะภาพได้^{[ 58 ] ระบบ}ดังกล่าวได้รับการฝึกฝนโดยใช้คู่ภาพและข้อความ ตัวอย่างเช่นStable Diffusion , DALL-EและMidjourney ^[ 59 ^]

AI เชิงสร้างสรรค์สามารถใช้สร้างวิดีโอที่สมจริงได้ ระบบต่างๆ เช่น Runway ได้แสดงให้เห็นถึงความสามารถในการสร้างวิดีโอจากข้อความ^{[ 60 ]}

แบบจำลองเชิงกำเนิดสามารถใช้สำหรับการวางแผนการเคลื่อนที่และการควบคุมหุ่นยนต์โดยการเรียนรู้จากข้อมูลก่อนหน้า^{[ 61 ]}

โมเดลเชิงกำเนิดสามารถช่วยในการทำงานอัตโนมัติ ของงาน สร้างโมเดล 3 มิติรวมถึงการสร้างสินทรัพย์ 3 มิติจากข้อความหรือรูปภาพ^{[ 62 ]}

แบบจำลองโลกคือเครือข่ายประสาทที่ออกแบบมาเพื่อเรียนรู้การแสดงแทนของสภาพแวดล้อมทางกายภาพ รวมถึงคุณสมบัติเชิงพื้นที่และพลวัต^{[ 63 ]}ระบบมัลติโมดอลล่าสุดได้ขยายขีดความสามารถเหล่านี้โดยการบูรณาการวิสัยทัศน์ ภาษา และการกระทำเข้าไว้ในแบบจำลองที่เป็นหนึ่งเดียว^{[ 64 ]}

ระบบ AI เชิงสร้างสรรค์ถูกนำมาใช้ในคณิตศาสตร์และวิทยาศาสตร์คอมพิวเตอร์เพื่อสร้างโปรแกรมคอมพิวเตอร์บทพิสูจน์โครงสร้าง หรืออัลกอริทึม ที่เป็นไป ได้

ในปี 2023 Google DeepMindได้เปิดตัวFunSearchซึ่งเป็นวิธีการสร้างโปรแกรมคอมพิวเตอร์ที่แก้ปัญหาทางคณิตศาสตร์และอัลกอริทึม FunSearch ถูกนำมาใช้เพื่อค้นพบโครงสร้างทางคณิตศาสตร์ใหม่ใน ^{ปัญหา}ชุดฝาปิดและปัญหาการบรรจุลงถัง [ ^{65 ] [ 66 ] [ 67 ]}

ในปี 2023 Google DeepMind ได้เปิดตัวAlphaDevซึ่งใช้ในการค้นพบ อัลกอริ ทึมการเรียงลำดับขนาด เล็ก ที่มีประสิทธิภาพเหนือกว่าเกณฑ์มาตรฐานของมนุษย์ที่ทราบมาก่อนหน้านี้ และได้ถูกรวมเข้ากับไลบรารีการเรียงลำดับC++มาตรฐานLLVM ^{[ 68 ] [ 69 ]}ในปี 2025 Google DeepMind ได้เปิดตัวAlphaEvolveซึ่งเป็นระบบ AI สำหรับการค้นพบและเพิ่มประสิทธิภาพอัลกอริทึมทั่วไป AlphaEvolve ใช้ LLM เพื่อเสนอการเปลี่ยนแปลงโค้ด ตัวประเมินอัตโนมัติเพื่อประเมินผู้สมัครแต่ละราย และ กระบวนการ วิวัฒนาการเพื่อปรับปรุงอัลกอริทึมอย่างต่อเนื่อง^{[ 70 ]}

ในปี 2026 เพื่อตอบสนองต่อการใช้ AI เชิงสร้างสรรค์ที่เพิ่มมากขึ้นในการค้นพบทางคณิตศาสตร์ กลุ่มนักคณิตศาสตร์ได้ออกปฏิญญาไลเดนว่าด้วยปัญญาประดิษฐ์และคณิตศาสตร์ซึ่งแนะนำให้เปิดเผยการใช้ AI ในเอกสารงานวิจัย รับรองว่าเอกสารที่ใช้ AI ช่วยเหลือจะได้รับการตรวจสอบโดยผู้ทรงคุณวุฒิ และจัดหาทรัพยากรทางกฎหมายและเงินทุนสาธารณะเพื่อให้สถาบันการศึกษาและบริษัทที่แสวงหาผลกำไรสามารถแข่งขันกันได้อย่างเท่าเทียมกัน^{[ 71 ]}

ในปี 2023 Google DeepMind ได้แนะนำ GNoME ซึ่งเป็นวิธีการเสนอโครงสร้างผลึก อนินทรีย์ที่เป็นไปได้ สำหรับการคัดกรองเชิงคำนวณและการสังเคราะห์เชิงทดลองในวิทยาศาสตร์วัสดุ^{[ 72 ]}วิธีการวิทยาศาสตร์วัสดุอื่นๆ ได้แก่ MatterGen ^{[ 73 ]} CDVAE ^{[ 74 ]}และ CrystalFlow ^{[ 75 ] [ 76 ]}

การเพิ่มประสิทธิภาพกลไกการสร้าง (GEO) คือการปฏิบัติในการจัดโครงสร้างเนื้อหาดิจิทัลและจัดการการแสดงตนทางออนไลน์เพื่อปรับปรุงการมองเห็นในการตอบสนองที่สร้างโดยระบบ AI แบบสร้าง การปฏิบัตินี้มีอิทธิพลต่อวิธีที่แบบจำลองภาษาขนาดใหญ่ (LLM) ดึงข้อมูล สรุป และนำเสนอข้อมูลเพื่อตอบคำถามของผู้ใช้^{[ 77 ]}คำศัพท์ที่เกี่ยวข้อง ได้แก่ การเพิ่มประสิทธิภาพกลไกคำตอบ (AEO) ^{[ 77 ]}และการเพิ่มประสิทธิภาพปัญญาประดิษฐ์ (AIO) ^{[ 78 ]}

โมเดล AI แบบสร้างข้อมูลใช้ในการขับเคลื่อน ผลิตภัณฑ์ แชทบอทเช่นChatGPT เครื่องมือการเขียนโปรแกรมเช่นGitHub Copilot [ ^{79 ] ผลิตภัณฑ์}แปลงข้อความเป็นภาพเช่น Midjourney และผลิตภัณฑ์แปลงข้อความเป็นวิดีโอ เช่นRunway Gen-2 ^{[ 80 ]}คุณสมบัติ AI แบบสร้างข้อมูลได้รับการบูรณาการเข้ากับผลิตภัณฑ์เชิงพาณิชย์ที่มีอยู่มากมาย เช่นMicrosoft Office ( Microsoft Copilot ) ^{[ 81 ]} Google Photos [ ^{82 ] และ} Adobe Suite ( Adobe Firefly ) ^{[ 83 ]}โมเดล AI แบบสร้างข้อมูลจำนวนมากยังมีให้ใช้งานในรูปแบบซอฟต์แวร์โอเพนซอร์ส รวมถึง Stable Diffusion และ โมเดลภาษา LLaMA ^{[ 84 ]}

โมเดล AI เชิงสร้างสรรค์ขนาดเล็กที่มีพารามิเตอร์มากถึงไม่กี่พันล้านตัวสามารถทำงานบนสมาร์ทโฟนอุปกรณ์ฝังตัว และคอมพิวเตอร์ส่วนบุคคลได้ ตัวอย่างเช่น LLaMA-7B (เวอร์ชันที่มีพารามิเตอร์ 7 พันล้านตัว) สามารถทำงานบนRaspberry Pi 4 ได้ ^{[ 85 ]}และ Stable Diffusion เวอร์ชันหนึ่งสามารถทำงานบนiPhone 11 ได้ ^{[ 86 ]}

โมเดลขนาดใหญ่ที่มีพารามิเตอร์หลายหมื่นล้านตัวสามารถทำงานบนแล็ปท็อปหรือคอมพิวเตอร์เดสก์ท็อปได้ เพื่อให้ได้ความเร็วที่ยอมรับได้ โมเดลขนาดนี้อาจต้องใช้ตัวเร่งความเร็วเช่น ชิป GPUที่ผลิตโดยNVIDIAและAMDหรือ Neural Engine ที่รวมอยู่ใน ผลิตภัณฑ์ Apple Siliconตัวอย่างเช่น LLaMA เวอร์ชันที่มีพารามิเตอร์ 65 พันล้านตัวสามารถกำหนดค่าให้ทำงานบนพีซีเดสก์ท็อปได้^{[ 87 ]}

ข้อดีของการรัน AI เชิงสร้างสรรค์ในพื้นที่ ได้แก่ การปกป้องความเป็นส่วนตัวและทรัพย์สินทางปัญญาและการหลีกเลี่ยงการจำกัดอัตราและการเซ็นเซอร์ subreddit r / LocalLLaMA โดยเฉพาะอย่างยิ่งเน้นการใช้การ์ดกราฟิกเกมระดับผู้บริโภค^{[ 88 ]}ผ่านเทคนิคต่างๆ เช่นการบีบอัด

โมเดลภาษาที่มีพารามิเตอร์หลายแสนล้านตัว เช่น GPT-4 หรือPaLMมักทำงานบน คอมพิวเตอร์ ในศูนย์ข้อมูล ที่ติดตั้งหน่วยประมวล ผลกราฟิก (GPU) จำนวนมาก(เช่น NVIDIA H100 ) หรือ ชิป เร่งความเร็ว AI (เช่น Google TPU ) โดยทั่วไปแล้ว โมเดลขนาดใหญ่เหล่านี้จะเข้าถึงได้ในรูปแบบ บริการ คลาวด์ผ่านทางอินเทอร์เน็ต

ในปี 2022 การควบคุมการส่งออกใหม่ของสหรัฐอเมริกาเกี่ยวกับการประมวลผลขั้นสูงและเซมิคอนดักเตอร์ไปยังประเทศจีนได้กำหนดข้อจำกัดในการส่งออก ชิป GPUและชิปเร่งความเร็ว AI ที่ใช้สำหรับ AI แบบสร้างสรรค์ ไปยังประเทศจีน ^{[ 89 ]}ชิปเช่น NVIDIA A800 ^{[ 90 ]}และBiren Technology BR104 ^{[ 91 ]}ได้รับการพัฒนาขึ้นเพื่อตอบสนองความต้องการของมาตรการคว่ำบาตร

มีซอฟต์แวร์ฟรีในตลาดที่สามารถจดจำข้อความที่สร้างโดยปัญญาประดิษฐ์แบบสร้างสรรค์ (เช่นGPTZero ) รวมถึงรูปภาพ เสียง หรือวิดีโอที่มาจากปัญญาประดิษฐ์ดังกล่าว^{[ 92 ]}กลยุทธ์การลดผลกระทบที่เป็นไปได้สำหรับ การตรวจ จับเนื้อหา AI แบบสร้างสรรค์ได้แก่การใส่ลายน้ำดิจิทัลการตรวจสอบความถูกต้องของเนื้อหาการดึงข้อมูลและ แบบจำลองตัวจำแนกประเภทการเรียนรู้ ของเครื่อง^{[ 93 ]}แม้จะอ้างว่ามีความแม่นยำ แต่ทั้งตัวตรวจจับข้อความ AI ฟรีและแบบเสียเงินมักสร้างผลลัพธ์ที่เป็นเท็จ โดยกล่าวหานักเรียนอย่างผิดพลาดว่าส่งงานที่สร้างโดย AI ^{[ 94 ] [ 95 ]}

เครือข่ายปฏิปักษ์เชิงกำเนิด (GANs) เป็นเทคนิคการสร้างแบบจำลองเชิงกำเนิดซึ่งประกอบด้วยเครือข่ายประสาทสองเครือข่าย ได้แก่ ตัวสร้างและตัวจำแนก ซึ่งได้รับการฝึกฝนพร้อมกันในสภาพแวดล้อมการแข่งขัน ตัวสร้างจะสร้างข้อมูลสังเคราะห์โดยการแปลงสัญญาณรบกวนแบบสุ่มให้เป็นตัวอย่างที่คล้ายกับชุดข้อมูลการฝึกฝน ตัวจำแนกได้รับการฝึกฝนให้แยกแยะข้อมูลจริงออกจากข้อมูลสังเคราะห์ที่สร้างโดยตัวสร้าง โมเดลทั้งสองมีส่วนร่วมใน เกม มินิแม็กซ์ : ตัวสร้างมีเป้าหมายที่จะสร้างข้อมูลที่สมจริงมากขึ้นเรื่อยๆ เพื่อ "หลอก" ตัวจำแนก ในขณะที่ตัวจำแนกจะปรับปรุงความสามารถในการแยกแยะข้อมูลจริงออกจากข้อมูลปลอม การตั้งค่าการฝึกฝนอย่างต่อเนื่องนี้ทำให้ตัวสร้างสามารถสร้างเอาต์พุตที่มีคุณภาพสูงและสมจริงได้^{[ 96 ]}

Variational autoencoders (VAEs) เป็นโมเดลการเรียนรู้เชิงลึกที่เข้ารหัสข้อมูลตามหลักความน่าจะเป็น โดยทั่วไปจะใช้สำหรับงานต่างๆ เช่นการลดสัญญาณรบกวนจากภาพการบีบอัดข้อมูลการระบุรูปแบบที่ผิดปกติ และการจดจำใบหน้า แตก ต่างจากautoencoders มาตรฐานซึ่งบีบอัดข้อมูลอินพุตลงในการแสดงแทนแฝงแบบคงที่ VAEs จำลองพื้นที่แฝงเป็นการกระจายความน่าจะเป็น ทำให้สามารถสุ่มตัวอย่างและแทรกสอดระหว่างจุดข้อมูลได้อย่างราบรื่น ตัวเข้ารหัส ("โมเดลการจดจำ") จะแมปข้อมูลอินพุตไปยังพื้นที่แฝง สร้างค่าเฉลี่ยและความแปรปรวนที่กำหนดการกระจายความน่าจะเป็น ตัวถอดรหัส ("โมเดลการสร้าง") จะสุ่มตัวอย่างจากการกระจายแฝงนี้และพยายามสร้างอินพุตดั้งเดิมขึ้นมาใหม่^{[ 97 ]}

Transformer กลายเป็นรากฐานของ ซีรี่ส์ Generative Pre-trained Transformer (GPT) ที่พัฒนาโดย OpenAI ซึ่งมาแทนที่โมเดลแบบวนซ้ำและแบบคอนโวลูชัน แบบดั้งเดิม กลไก Self-attentionช่วยให้โมเดลสามารถกำหนดความสำคัญสัมพัทธ์ของแต่ละโทเค็นในลำดับเมื่อทำนายโทเค็นถัดไป ซึ่งจะช่วยปรับปรุงความเข้าใจในบริบท แตกต่างจากโครงข่ายประสาทแบบวนซ้ำ Transformer จะประมวลผลโทเค็นแบบขนาน ซึ่งช่วยเพิ่มประสิทธิภาพการฝึกอบรมและความสามารถในการปรับขนาด^{[ 32 ]}

ในสหรัฐอเมริกากลุ่มบริษัทต่างๆ รวมถึง OpenAI, Alphabet และ Meta ได้ลงนามในข้อตกลงโดยสมัครใจกับฝ่ายบริหารของไบเดนในเดือนกรกฎาคม 2023 เพื่อ ใส่ลายน้ำให้กับเนื้อหาที่สร้าง โดยAI ^{[ 98 ]}ในเดือนตุลาคม 2023 คำสั่งบริหารที่ 14110ได้นำพระราชบัญญัติการผลิตเพื่อการป้องกันประเทศ มาใช้ เพื่อกำหนดให้บริษัททั้งหมดในสหรัฐอเมริกาต้องรายงานข้อมูลต่อรัฐบาลกลางเมื่อทำการฝึกอบรมโมเดล AI ที่มีผลกระทบสูงบางประเภท^{[ 99 ] [ 100 ]}

ในสหภาพยุโรป (EU) พระราชบัญญัติปัญญาประดิษฐ์รวมถึงข้อกำหนดในการเปิดเผยเนื้อหาที่มีลิขสิทธิ์ที่ใช้ในการฝึกอบรมระบบ AI แบบสร้างสรรค์ และติดป้ายกำกับผลลัพธ์ที่สร้างโดย AI ดังกล่าว^{[ 101 ] [ 102 ]}

ในประเทศจีนมาตรการชั่วคราวสำหรับการจัดการบริการ AI เชิงสร้างสรรค์ที่ออกโดยสำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีนควบคุม AI เชิงสร้างสรรค์ที่เปิดเผยต่อสาธารณะ ซึ่งรวมถึงข้อกำหนดในการใส่ลายน้ำให้กับภาพหรือวิดีโอที่สร้างขึ้น ข้อบังคับเกี่ยวกับข้อมูลการฝึกอบรมและคุณภาพของป้ายกำกับ ข้อจำกัดในการเก็บรวบรวมข้อมูลส่วนบุคคล และแนวทางที่ว่าบริการ AI เชิงสร้างสรรค์ต้อง "ยึดมั่นในค่านิยมหลักของสังคมนิยม" ^{[ 103 ] [ 104 ]}

ระบบ AI เชิงสร้างสรรค์ เช่นChatGPTและMidjourneyได้รับการฝึกฝนบนชุดข้อมูลขนาดใหญ่ที่เปิดเผยต่อสาธารณะ ซึ่งรวมถึงผลงานที่มีลิขสิทธิ์ นักพัฒนา AI โต้แย้งว่าการฝึกฝนดังกล่าวได้รับการคุ้มครองภายใต้การใช้งานที่เป็นธรรมในขณะที่ผู้ถือลิขสิทธิ์โต้แย้งว่าเป็นการละเมิดสิทธิ์ของพวกเขา^{[ 105 ]}

ผู้สนับสนุนการฝึกอบรมการใช้งานที่เป็นธรรมได้โต้แย้งว่าเป็นการใช้งานที่เปลี่ยนแปลงไปและไม่เกี่ยวข้องกับการทำให้สำเนาของงานที่มีลิขสิทธิ์พร้อมใช้งานสำหรับสาธารณะ^{[ 105 ]}นักวิจารณ์ได้โต้แย้งว่าเครื่องสร้างภาพเช่นMidjourneyสามารถสร้างสำเนาที่เกือบจะเหมือนกันของภาพที่มีลิขสิทธิ์บางภาพได้^{[ 106 ]}และโปรแกรม AI ที่สร้างขึ้นนั้นแข่งขันกับเนื้อหาที่พวกมันได้รับการฝึกฝน^{[ 107 ]}

ณ ปี 2024 มีคดีความหลายคดีที่เกี่ยวข้องกับการใช้เนื้อหาที่มีลิขสิทธิ์ในการฝึกอบรมที่ยังคงดำเนินอยู่ Getty Imagesได้ฟ้องร้องStability AIเกี่ยวกับการใช้ภาพของตนในการฝึกStable Diffusion [ ^{108 ] ทั้ง} Authors GuildและThe New York Timesได้ฟ้องร้องMicrosoftและOpenAIเกี่ยวกับการใช้ผลงานของพวกเขาในการฝึกChatGPT ^{[ 109 ] [ 110 ]}

คำถามอีกประการหนึ่งคือ ผลงานที่สร้างโดย AI สามารถได้รับการคุ้มครองลิขสิทธิ์ได้หรือไม่สำนักงานลิขสิทธิ์แห่งสหรัฐอเมริกาได้ตัดสินว่า ผลงานที่สร้างโดยปัญญาประดิษฐ์โดยปราศจากการป้อนข้อมูลจากมนุษย์นั้นไม่สามารถมีลิขสิทธิ์ได้ เนื่องจากขาดผู้สร้างสรรค์ที่เป็นมนุษย์^{[ 111 ]}ผู้เชี่ยวชาญด้านกฎหมายบางคนได้เสนอแนะว่าNaruto v. Slater (2018) ซึ่งศาลอุทธรณ์เขตที่ 9 ของสหรัฐอเมริกาตัดสินว่าสิ่งที่ไม่ใช่มนุษย์ไม่สามารถเป็นผู้ถือลิขสิทธิ์ของงานศิลปะได้ อาจเป็นบรรทัดฐานที่เป็นไปได้ในการดำเนินคดีลิขสิทธิ์เกี่ยวกับผลงานที่สร้างโดย AI แบบสร้างสรรค์^{[ 112 ]}อย่างไรก็ตาม สำนักงานยังได้เริ่มรับฟังความคิดเห็นจากสาธารณะเพื่อพิจารณาว่ากฎเหล่านี้จำเป็นต้องได้รับการปรับปรุงสำหรับ AI แบบสร้างสรรค์หรือไม่^{[ 113 ]}

ในเดือนมกราคม พ.ศ. 2568 สำนักงานลิขสิทธิ์แห่งสหรัฐอเมริกา (USCO) ได้ออกคำแนะนำอย่างละเอียดเกี่ยวกับการใช้เครื่องมือ AI ในกระบวนการสร้างสรรค์ และได้กำหนดว่า "...ระบบ AI แบบสร้างสรรค์ยังนำเสนอเครื่องมือที่ช่วยให้ผู้ใช้สามารถควบคุมได้เช่นกัน [สิ่งเหล่านี้] ช่วยให้ผู้ใช้สามารถควบคุมการเลือกและการจัดวางองค์ประกอบสร้างสรรค์แต่ละส่วนได้ การที่การแก้ไขดังกล่าวจะตรงตามมาตรฐานขั้นต่ำของความริเริ่มสร้างสรรค์ที่จำเป็นภายใต้Feist หรือ ไม่นั้น จะขึ้นอยู่กับการพิจารณาเป็นรายกรณี ในกรณีที่ตรงตามมาตรฐาน ผลลัพธ์ที่ได้ควรได้รับการคุ้มครองลิขสิทธิ์" ^{[ 114 ]}ต่อมา USCO ได้จดทะเบียนงานศิลปะภาพชิ้นแรกที่ประกอบด้วยวัสดุที่สร้างโดย AI ทั้งหมด โดยมีชื่อว่า "A Single Piece of American Cheese" ^{[ 115 ]}

การพัฒนาปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) ได้ก่อให้เกิดความกังวลจากรัฐบาลธุรกิจ และบุคคลทั่วไป ส่งผลให้เกิดการประท้วง การดำเนินคดีทางกฎหมาย การเรียกร้องให้ระงับการทดลอง AIและการดำเนินการโดยรัฐบาลหลายแห่ง ในการบรรยายสรุปของคณะมนตรีความมั่นคงแห่งสหประชาชาติ ในเดือนกรกฎาคม 2023 เลขาธิการอันโตนิโอ กูเตเรสกล่าวว่า "ปัญญาประดิษฐ์เชิงสร้างสรรค์มีศักยภาพมหาศาลทั้งในด้านดีและด้านร้ายในวงกว้าง" ว่า AI อาจ "เร่งการพัฒนาทั่วโลก" และมีส่วนช่วยเศรษฐกิจโลกได้ระหว่าง 10 ถึง 15 ล้านล้านดอลลาร์ภายในปี 2030 แต่การใช้ในทางที่ผิด "อาจก่อให้เกิดการเสียชีวิตและการทำลายล้างในระดับที่น่าสยดสยอง การบาดเจ็บทางจิตใจอย่างกว้างขวาง และความเสียหายทางจิตใจอย่างลึกซึ้งในระดับที่คาดไม่ถึง" ^{[ 116 ]} นอกจากนี้ ปัญญาประดิษฐ์เชิงสร้างสรรค์ยังก่อให้เกิด คาร์บอนฟุตพริ้นท์จำนวนมาก^{[ 117 ]}

การศึกษาที่นำเสนอในการประชุม Human Factors in Computing Systems ปี 2026 พบว่าการพึ่งพา AI ที่สร้างขึ้นมากเกินไปอาจลดความสามารถในการแยกแยะข้อมูลที่ผิดพลาดได้^{[ 118 ] [ 119 ]}การศึกษานี้ติดตามผู้เข้าร่วมส่วนใหญ่จากสหราชอาณาจักรและสหรัฐอเมริกาเป็นระยะเวลา 4 สัปดาห์^{[ 119 ]}

AI แบบสร้างสรรค์สามารถใช้ในการสร้างและแก้ไขบทความวิชาการ ถอดความแหล่งข้อมูล และแปลภาษา การใช้ AI แบบสร้างสรรค์ในห้องเรียนได้ท้าทายคำจำกัดความดั้งเดิมของการลอกเลียนแบบทางวิชาการนำไปสู่พลวัตแบบ "แมวกับหนู" ระหว่างนักเรียนที่ใช้ AI และสถาบันที่พยายามตรวจจับ^{[ 120 ]}หลังจากการเปิดตัว ChatGPT ไม่นาน เขตการศึกษาและมหาวิทยาลัยหลายแห่งได้ออกคำสั่งห้ามใช้เทคโนโลยีนี้ชั่วคราว แม้ว่าสถาบันหลายแห่งจะเปลี่ยนไปใช้แนวนโยบายการบูรณาการแบบจัดการแล้วก็ตาม^{[ 120 ]}อย่างไรก็ตาม การนำนโยบายเหล่านี้ไปใช้มักขาดความชัดเจน งานวิจัยชี้ให้เห็นว่าภาระในการตีความ "การใช้งานที่ยอมรับได้" มักตกอยู่กับนักเรียนและครูแต่ละคน ทำให้เกิดสภาพแวดล้อมที่ความซื่อสัตย์ทางวิชาการยากที่จะกำหนดและบังคับใช้^{[ 121 ]}

การใช้งานที่เสนอโดยทั่วไปสำหรับครูคือการให้คะแนนและให้ข้อเสนอแนะ บริษัทต่างๆ เช่น Pearson และ ETS ใช้ AI ในการให้คะแนนไวยากรณ์ กลไก การใช้คำ และรูปแบบการเขียน แต่ไม่ใช่สำหรับความคิดหลักหรือโครงสร้างโดยรวม^{[ 122 ]}สภาครูภาษาอังกฤษแห่งชาติระบุว่าการให้คะแนนด้วยเครื่องจักรทำให้ผู้เรียนรู้สึกว่างานเขียนของตนเองไม่คุ้มค่าที่จะอ่าน^{[ 123 ]}การให้คะแนนด้วย AI ยังให้ผลลัพธ์ที่ไม่ยุติธรรมสำหรับนักเรียนจากภูมิหลังทางชาติพันธุ์ที่แตกต่างกันอีกด้วย^{[ 124 ]}

ตั้งแต่ช่วงเริ่มต้นของการพัฒนา AI มีข้อโต้แย้งที่เสนอโดยJoseph Weizenbaumผู้สร้างELIZAและคนอื่นๆ เกี่ยวกับว่างานที่คอมพิวเตอร์สามารถทำได้นั้นควรทำโดยคอมพิวเตอร์จริงๆ หรือไม่ เนื่องจากความแตกต่างระหว่างคอมพิวเตอร์และมนุษย์ และระหว่างการคำนวณเชิงปริมาณและการตัดสินเชิงคุณภาพตามคุณค่า^{[ 126 ]}ในเดือนเมษายน 2023 มีรายงานว่า AI สร้างภาพส่งผลให้งานของนักวาดภาพประกอบวิดีโอเกมในประเทศจีนหายไปถึง 70% ^{[ 127 ] [ 128 ]}ในเดือนกรกฎาคม 2023 การพัฒนา AI เชิงสร้างสรรค์มีส่วนทำให้เกิดข้อพิพาทแรงงานในฮอลลีวูดในปี 2023 Fran Drescherประธานสมาคมนักแสดงภาพยนตร์ (Screen Actors Guild ) ประกาศว่า "ปัญญาประดิษฐ์เป็นภัยคุกคามต่อการดำรงอยู่ของวิชาชีพสร้างสรรค์" ในระหว่างการประท้วงของ SAG-AFTRA ในปี 2023 [ ^{129 ] AI}สร้างเสียงถูกมองว่าเป็นความท้าทายที่อาจเกิดขึ้นกับภาคส่วนการพากย์เสียง^{[ 130 ] [ 131 ]}

อย่างไรก็ตาม การศึกษาในปี 2025 สรุปว่าตลาดแรงงานของสหรัฐฯ ยังไม่ประสบกับการหยุดชะงักที่เห็นได้ชัดเจนจากปัญญาประดิษฐ์เชิงสร้างสรรค์^{[ 132 ]}การศึกษาอีกฉบับหนึ่งรายงานว่าคนงานชาวเดนมาร์กที่ใช้แชทบอทประหยัดเวลาได้เฉลี่ย 2.8% และไม่พบการเปลี่ยนแปลงที่สำคัญในรายได้หรือชั่วโมงการทำงาน^{[ 133 ]}

ในเดือนมกราคม 2023 Futurismได้เปิดเผยเรื่องราวว่าCNETใช้เครื่องมือ AI ภายในที่ไม่เปิดเผยในการเขียนเรื่องราวอย่างน้อย 77 เรื่อง หลังจากข่าวนี้เผยแพร่ CNET ได้โพสต์แก้ไขเรื่องราว 41 เรื่อง^{[ 134 ]}ในเดือนเมษายน 2023 Die Aktuelle ได้เผยแพร่บทสัมภาษณ์ปลอมของ Michael Schumacherที่สร้างโดย AI ^{[ 135 ]}ในเดือนพฤษภาคม 2024 Futurismตั้งข้อสังเกตว่าวิดีโอระบบจัดการเนื้อหาของ AdVon Commerce ซึ่งใช้ AI แบบสร้างสรรค์ในการผลิตบทความสำหรับสื่อต่างๆ ที่กล่าวถึงข้างต้น ปรากฏว่าแสดงให้เห็นว่าพวกเขา "ได้ผลิตบทความหลายหมื่นบทความสำหรับสำนักพิมพ์มากกว่า 150 แห่ง" ^{[ 136 ]}ในปี 2025 รายงานจาก American Sunlight Project ระบุว่าเครือข่าย Pravdaกำลังเผยแพร่บทความมากถึง 10,000 บทความต่อวัน และสรุปว่าเนื้อหาส่วนใหญ่มีเป้าหมายเพื่อผลักดันเรื่องเล่าของรัสเซียเข้าสู่แบบจำลองภาษาขนาดใหญ่ผ่านข้อมูลการฝึกอบรมของพวกเขา^{[ 137 ]}

ในเดือนมิถุนายน พ.ศ. 2567 สถาบันรอยเตอร์ได้เผยแพร่รายงานข่าวสารดิจิทัลประจำปี พ.ศ. 2567 โดยจากการสำรวจความคิดเห็นของผู้คนในอเมริกาและยุโรป สถาบันรอยเตอร์รายงานว่า 52% และ 47% ตามลำดับ รู้สึกไม่สบายใจกับข่าวที่ผลิตโดย "ปัญญาประดิษฐ์เป็นส่วนใหญ่โดยมีการกำกับดูแลจากมนุษย์บ้าง" และ 23% และ 15% ตามลำดับ รายงานว่ารู้สึกสบายใจ 42% ของชาวอเมริกันและ 33% ของชาวยุโรปรายงานว่าพวกเขารู้สึกสบายใจกับข่าวที่ผลิตโดย "มนุษย์เป็นส่วนใหญ่โดยได้รับความช่วยเหลือจากปัญญาประดิษฐ์บ้าง" ผลการสำรวจทั่วโลกรายงานว่าผู้คนรู้สึกไม่สบายใจกับหัวข้อข่าวที่เกี่ยวข้องกับการเมือง (46%) อาชญากรรม (43%) และข่าวท้องถิ่น (37%) ที่ผลิตโดยปัญญาประดิษฐ์มากกว่าหัวข้อข่าวอื่นๆ^{[ 138 ]}การสำรวจของ Pew Research ในปี พ.ศ. 2568 พบว่าผู้ใหญ่ชาวอเมริกันประมาณครึ่งหนึ่งกล่าวว่าปัญญาประดิษฐ์จะมีผลกระทบเชิงลบอย่างมาก (24%) หรือค่อนข้างมาก (26%) ต่อข่าวสารที่ผู้คนได้รับในสหรัฐอเมริกาในอีก 20 ปีข้างหน้า^{[ 139 ]}

แบบจำลองภาษาอาจเชื่อมโยงอาชีพบางอย่างกับเพศที่เฉพาะเจาะจง หากรูปแบบดังกล่าวแพร่หลายในข้อมูล^{[ 140 ]}ในทำนองเดียวกัน ระบบสร้างภาพที่ได้รับคำสั่งด้วยคำต่างๆ เช่น "รูปถ่ายของซีอีโอ" พบว่าสร้างภาพของผู้ชายผิวขาวมากกว่าสัดส่วนเมื่อได้รับการฝึกฝนบนชุดข้อมูลที่มีอคติ^{[ 141 ]}

ซอฟต์แวร์ AI โดยเฉพาะเมื่อใช้ซอฟต์แวร์การจดจำเสียง จะประสบปัญหาในการจดจำและเข้าใจความบกพร่องในการพูด ตัวอย่างเช่น ผู้ที่มีอาการพูดติดอ่างจะประสบปัญหาในการเปิดใช้งานผู้ช่วยสั่งงานด้วยเสียง เช่น Gemini และ Siri เนื่องจากวิธีการฝึกฝนซอฟต์แวร์^{[ 142 ]}

บริษัทที่ใช้ระบบ AI ในการคัดเลือกผู้สมัครเข้าทำงานใหม่ยังคัดกรองผู้ที่มีสำเนียงและวิธีการพูดที่แตกต่างออกไป เนื่องจากซอฟต์แวร์การจดจำเสียงจะถอดความวิธีการพูดของผู้สมัครระหว่างกระบวนการสัมภาษณ์อย่างไม่ถูกต้อง ด้วยเหตุนี้ ผู้พิการและผู้ที่มีสำเนียงแปลกๆ จึงมักไม่ได้รับการสัมภาษณ์จากผู้สัมภาษณ์ที่เป็นมนุษย์เมื่อใช้ระบบ AI ที่สร้างขึ้นเหล่านี้^{[ 143 ]}ทั้งนี้เนื่องจากโมเดล AI จำนวนมากได้รับการฝึกฝนและผลิตในสหรัฐอเมริกา ดังนั้นจึงใช้สำเนียงอเมริกันเป็นหลัก^{[ 144 ]}

Deepfakes ( คำผสมระหว่าง "deep learning" และ "fake" ^{[ 145 ]} ) คือสื่อที่สร้างโดย AI ซึ่งนำบุคคลในภาพหรือวิดีโอที่มีอยู่แล้วมาแทนที่ด้วยภาพของบุคคลอื่นโดยใช้เครือข่ายประสาทเทียม [ ^{146 ] Deepfakes}ได้รับความสนใจและความกังวลอย่างกว้างขวางเนื่องจากถูกนำไปใช้ในวิดีโอโป๊ดาราปลอม , วิดีโอโป๊แก้แค้น , ข่าวปลอม , เรื่องหลอกลวง , ข้อมูล สุขภาพที่บิดเบือน , การฉ้อโกงทางการเงินและการแทรกแซงการเลือกตั้งจากต่างประเทศอย่าง ลับๆ ^{[ 147 ] [ 148 ] [ 149 ] [ 150 ] [ 151 ]}

ในเดือนกรกฎาคม พ.ศ. 2566 บริษัทตรวจสอบข้อเท็จจริงLogicallyพบว่าโมเดล AI สร้างสรรค์ยอดนิยมอย่างMidjourney , DALL-E 2และStable Diffusionจะสร้างภาพข้อมูลเท็จที่ดูน่าเชื่อถือเมื่อถูกกระตุ้นให้ทำเช่นนั้น เช่น ภาพการทุจริตการเลือกตั้งในสหรัฐอเมริกาและภาพผู้หญิงมุสลิมที่สนับสนุนพรรค Bharatiya Janata Party ของ อินเดีย^{[ 152 ]}

กรณีที่ผู้ใช้ใช้ซอฟต์แวร์ในทางที่ผิดเพื่อสร้างคำพูดที่ก่อให้เกิดความขัดแย้งโดยใช้น้ำเสียงเลียนแบบคนดัง เจ้าหน้าที่รัฐ และบุคคลที่มีชื่อเสียงอื่นๆ ได้ก่อให้เกิดข้อกังวลด้านจริยธรรมเกี่ยวกับ AI สร้างเสียง [ ^{153 ] [ 154 ] [ 155 ] [ 156 ] [ 157 ] [ 158 ] เพื่อ}เป็นการตอบสนอง บริษัทต่างๆ เช่น ElevenLabs ได้ระบุว่าจะทำงานเพื่อลดการใช้ในทางที่ผิดที่อาจเกิดขึ้นผ่านมาตรการป้องกันและการตรวจสอบตัวตน^{[ 159 ]}

ความกังวลและกลุ่มแฟนคลับเกิดขึ้นจากดนตรีที่สร้างโดย AIซอฟต์แวร์เดียวกันที่ใช้ในการโคลนเสียงถูกนำมาใช้กับเสียงของนักดนตรีชื่อดังเพื่อสร้างเพลงที่เลียนแบบเสียงของพวกเขา ซึ่งได้รับทั้งความนิยมอย่างมากและคำวิจารณ์^{[ 160 ] [ 161 ] [ 162 ]}เทคนิคที่คล้ายกันนี้ยังถูกนำมาใช้เพื่อสร้างเพลงเวอร์ชันที่มีคุณภาพดีขึ้นหรือเวอร์ชันเต็มความยาวที่รั่วไหลออกมาหรือยังไม่ได้รับการเผยแพร่^{[ 163 ]}

ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) ได้รับการกล่าวถึงว่าถูกนำไปใช้โดยแคมเปญโฆษณาชวนเชื่อที่ได้รับการสนับสนุนจากรัฐในการฟอกข้อมูลตามรายงานของGraphika ในปี 2025 ปัญญาประดิษฐ์เชิงสร้างสรรค์ถูกใช้เพื่อฟอกบทความจาก สื่อของรัฐบาลจีนเช่นChina Global Television Networkผ่านเว็บไซต์โซเชียลมีเดียต่างๆ เพื่อพยายามปกปิดที่มาของบทความ^{[ 164 ]}

นิวยอร์กไทมส์ให้คำจำกัดความของ slopว่าคล้ายคลึงกับ spam : "เนื้อหา AI ที่ด้อยคุณภาพหรือไม่พึงประสงค์ในโซเชียลมีเดีย ศิลปะ หนังสือ และ ... ในผลการค้นหา" ^{[ 165 ]}นักข่าวได้แสดงความกังวลเกี่ยวกับขนาดของเนื้อหาที่สร้างขึ้นคุณภาพต่ำเมื่อเทียบกับการกลั่นกรองเนื้อหาโซเชียลมีเดีย ^{[ 166 ]}แรงจูงใจทางการเงินจากบริษัทโซเชียลมีเดียในการเผยแพร่เนื้อหาดังกล่าว ^{[ 166 ] [ 167 ]}ข้อความทางการเมืองที่เป็นเท็จ ^{[ 167 ]}การส่งบทความวิจัยทางวิทยาศาสตร์แบบสแปม ^{[ 168 ]}เวลาและความพยายามที่เพิ่มขึ้นในการค้นหาเนื้อหาที่มีคุณภาพสูงกว่าหรือที่ต้องการบนอินเทอร์เน็ต ^{[ 169 ]}การจัดทำดัชนีเนื้อหาที่สร้างขึ้นโดยเครื่องมือค้นหา ^{[ 170 ]}และเกี่ยวกับวารสารศาสตร์เอง ^{[ 171 ]} การศึกษาพบว่า AI สามารถสร้างข้ออ้าง การอ้างอิง หรือบทสรุปที่ไม่ถูกต้องซึ่งฟังดูถูกต้องอย่างมั่นใจ ซึ่งเป็นปรากฏการณ์ที่เรียกว่า hallucination ^{[ 172 ] [ 173 ] [ 174 ] [ 175 ]}

บทความที่ตีพิมพ์โดยนักวิจัยจาก Amazon Web Services AI Labs พบว่าประโยคมากกว่า 57% จากตัวอย่างประโยคกว่า 6 พันล้านประโยคจากCommon Crawlซึ่งเป็นภาพรวมของเว็บเพจนั้นถูกแปลโดยเครื่องจักรการแปลอัตโนมัติเหล่านี้จำนวนมากถูกมองว่ามีคุณภาพต่ำ โดยเฉพาะอย่างยิ่งสำหรับประโยคที่ถูกแปลเป็นอย่างน้อยสามภาษา ภาษาที่มีทรัพยากรน้อย (เช่นWolof , Xhosa ) จำนวนมากถูกแปลเป็นภาษาต่างๆ มากกว่าภาษาที่มีทรัพยากรมาก (เช่น อังกฤษ ฝรั่งเศส) ^{[ 176 ] [ 177 ]}

ในเดือนกันยายน พ.ศ. 2567 Robyn Speerผู้เขียน wordfreq ซึ่งเป็นฐานข้อมูลโอเพนซอร์สที่คำนวณความถี่ของคำจากข้อความบนอินเทอร์เน็ต ได้ประกาศว่าเธอหยุดอัปเดตข้อมูลด้วยเหตุผลหลายประการ ได้แก่ ค่าใช้จ่ายสูงในการรับข้อมูลจากRedditและTwitterการมุ่งเน้นที่ AI เชิงสร้างสรรค์มากเกินไปเมื่อเทียบกับวิธีการอื่น ๆ ใน ชุมชน การประมวลผลภาษาธรรมชาติและ "AI เชิงสร้างสรรค์ทำให้ข้อมูลปนเปื้อน" ^{[ 178 ]}

การนำเครื่องมือ AI เชิงสร้างสรรค์มาใช้ทำให้เกิดเนื้อหาที่สร้างโดย AI จำนวนมากในหลายสาขา งานวิจัยจากUniversity College Londonประมาณการว่าในปี 2023 บทความวิชาการมากกว่า 60,000 บทความ—มากกว่า 1% ของสิ่งพิมพ์ทั้งหมด—น่าจะเขียนขึ้นโดยได้รับความช่วยเหลือจาก LLM ^{[ 179 ]}จากข้อมูลของ สถาบัน AI ที่เน้นมนุษย์เป็นศูนย์กลางของ มหาวิทยาลัยสแตน ฟอร์ด ประมาณ 17.5% ของเอกสารวิทยาศาสตร์คอมพิวเตอร์ที่ตีพิมพ์ใหม่ และ 16.9% ของข้อความที่ผ่านการตรวจสอบโดยผู้ทรงคุณวุฒิในปัจจุบันมีเนื้อหาที่สร้างโดย LLM ^{[ 180 ]}

หากมีการรวมเนื้อหาที่สร้างโดย AI ไว้ในข้อมูลใหม่ที่รวบรวมจากอินเทอร์เน็ตเพื่อฝึกฝนโมเดล AI เพิ่มเติม อาจเกิดข้อบกพร่องในโมเดลที่ได้^{[ 181 ]}การฝึกฝนโมเดล AI โดยใช้เฉพาะผลลัพธ์จากโมเดล AI อื่น จะทำให้ได้โมเดลที่มีคุณภาพต่ำกว่า การทำซ้ำกระบวนการนี้ โดยที่แต่ละโมเดลใหม่ได้รับการฝึกฝนโดยใช้ผลลัพธ์จากโมเดลก่อนหน้า จะนำไปสู่การเสื่อมคุณภาพอย่างต่อเนื่อง และในที่สุดก็จะเกิด " โมเดลล่มสลาย " หลังจากทำซ้ำหลายครั้ง^{[ 182 ]}

ในทางกลับกันข้อมูลสังเคราะห์สามารถนำไปใช้ฝึกโมเดลการเรียนรู้ของเครื่องได้ในขณะที่ยังคงรักษาความเป็นส่วนตัวของผู้ใช้ไว้^{[ 183 ]}แนวทางนี้ไม่ได้จำกัดอยู่แค่การสร้างข้อความเท่านั้น การสร้างภาพยังถูกนำมาใช้เพื่อฝึกโมเดลการมองเห็นด้วยคอมพิวเตอร์อีกด้วย^{[ 183 ]}

มีการสร้าง เว็บไซต์จำนวนมากที่อนุญาตให้ใช้ภาพหรือวิดีโอที่สร้างโดย AI อย่างชัดเจน^{[ 184 ]}และสิ่งนี้ถูกนำมาใช้เพื่อสร้างเนื้อหาที่ผิดกฎหมาย เช่นการข่มขืนสื่อลามกอนาจารเด็ก [ ^{185 ] [ 186 ] การ}ร่วมเพศกับศพและ การร่วมเพศ กับ สัตว์

ความสามารถของ AI เชิงสร้างสรรค์ในการสร้างเนื้อหาปลอมที่สมจริงถูกนำไปใช้ประโยชน์ในอาชญากรรมไซเบอร์หลายประเภท รวมถึงการหลอกลวงแบบฟิชชิ่ง^{[ 187 ]} วิดีโอและเสียง Deepfakeถูกนำมาใช้เพื่อสร้างข้อมูลเท็จและการฉ้อโกง ในปี 2020 Shuman Ghosemajumder อดีต หัวหน้าฝ่ายฉ้อโกงการคลิก ของ Google ได้โต้แย้งว่าเมื่อวิดีโอ Deepfake สมจริงอย่างสมบูรณ์แบบแล้ว ผู้ชมจะไม่รู้สึกแปลกใจอีกต่อไป ซึ่งอาจนำไปสู่การยอมรับข้อมูลเท็จโดยไม่วิพากษ์วิจารณ์^{[ 188 ]}นอกจากนี้โมเดลภาษาขนาดใหญ่และ AI สร้างข้อความรูปแบบอื่นๆ ยังถูกนำมาใช้เพื่อสร้างรีวิวปลอมของ เว็บไซต์ อีคอมเมิร์ซเพื่อเพิ่มคะแนน^{[ 189 ]}อาชญากรไซเบอร์ได้สร้างโมเดลภาษาขนาดใหญ่ที่เน้นการฉ้อโกง รวมถึง WormGPT และ FraudGPT ^{[ 190 ]}

การศึกษาในปี 2023 แสดงให้เห็นว่า AI ที่สร้างขึ้นสามารถเสี่ยงต่อการเจาะระบบการใช้จิตวิทยาแบบย้อนกลับและ การโจมตี แบบฉีดทันทีทำให้ผู้โจมตีสามารถขอความช่วยเหลือในการร้องขอที่เป็นอันตราย เช่น การสร้างวิศวกรรมสังคมและการโจมตีแบบฟิชชิ่ง [ ^{191 ] นอกจาก}นี้ นักวิจัยคนอื่นๆ ยังได้แสดงให้เห็นว่าโมเดลโอเพนซอร์สสามารถปรับแต่งเพื่อลบข้อจำกัดด้านความปลอดภัยได้ในราคาประหยัด^{[ 192 ]}

ในปี 2025 อิสราเอลได้ลงนามในสัญญามูลค่า 6 ล้านดอลลาร์สหรัฐกับบริษัท Clock Tower X ซึ่งตั้งอยู่ในสหรัฐอเมริกา โดยมีเป้าหมายเพื่อมีอิทธิพลต่อChatGPT , GeminiและGrokโดยการเผยแพร่ข้อมูลสนับสนุนอิสราเอลบนโซเชียลมีเดียและเว็บไซต์ นี่เป็นความพยายามที่จะใช้ประโยชน์จาก เทคนิค การสร้างข้อมูลที่เสริมด้วยการดึงข้อมูล (RAG) ซึ่ง LLM ใช้เพื่อจัดหาข้อมูลที่ทันสมัยมากขึ้น^{[ 193 ] [ 194 ] [ 195 ]}

กฎหมายCLOUD Actอนุญาตให้หน่วยงานของสหรัฐอเมริการ้องขอข้อมูลจากผู้ให้บริการที่อยู่ภายใต้ขอบเขตของกฎหมาย รวมถึงผู้ให้บริการ AI บางราย โดยไม่คำนึงถึงว่าข้อมูลนั้นถูกจัดเก็บไว้ที่ใด^{[ 196 ] [ 197 ]}ศาลสามารถสั่งให้บริษัทแม่ให้ข้อมูลที่บริษัทลูกถือครองอยู่ และคำสั่งดังกล่าวอาจมาพร้อมกับข้อกำหนดการไม่เปิดเผยข้อมูลที่ป้องกันไม่ให้ผู้ให้บริการแจ้งผู้ใช้ที่ได้รับผลกระทบ^{[ 198 ]}กรอบการทำงานนี้ได้รับการอธิบายในความเห็นทางกฎหมายว่าก่อให้เกิดความขัดแย้งทางกฎหมายกับมาตรา 48 ของระเบียบการคุ้มครองข้อมูลทั่วไป (GDPR) ซึ่งจำกัดการถ่ายโอนข้อมูลส่วนบุคคลเพื่อตอบสนองต่อคำสั่งศาลหรือคำสั่งทางปกครองของต่างประเทศ เว้นแต่จะอยู่บนพื้นฐานของข้อตกลงระหว่างประเทศ^{[ 199 ]}ด้วยเหตุนี้ ผู้ให้บริการที่ดำเนินงานในทั้งสองเขตอำนาจศาลอาจเผชิญกับภาระผูกพันทางกฎหมายที่ขัดแย้งกันภายใต้กฎหมายของสหรัฐอเมริกาและสหภาพยุโรป^{[ 199 ]}

AI มีผลกระทบต่อสิ่งแวดล้อมอย่างมากเนื่องจากการใช้พลังงานที่เพิ่มขึ้นทั้งจากการฝึกอบรมและการใช้งาน^{[ 117 ]}นักวิทยาศาสตร์และนักข่าวได้แสดงความกังวลเกี่ยวกับผลกระทบต่อสิ่งแวดล้อมที่เกิดจากการพัฒนาและการใช้งานโมเดลแบบสร้างภาพ ได้แก่การปล่อย ก๊าซ _{CO2 ในปริมาณมาก} ^{[ 201 ] [ 202 ] [ 203 ]}การใช้น้ำจืดจำนวนมากสำหรับศูนย์ข้อมูล^{[ 204 ] [ 205 ]}การใช้ไฟฟ้าในปริมาณมาก^{[ 202 ] [ 206 ] [ 207 ]} ขยะอิเล็กทรอนิกส์^{[ 208 ]}และมลพิษจากไอเสียของเครื่องกำเนิดไฟฟ้าดีเซลสำรอง^{[ 209 ]}นอกจากนี้ยังมีความกังวลว่าผลกระทบเหล่านี้อาจเพิ่มขึ้นเมื่อโมเดลเหล่านี้ถูกรวมเข้ากับเครื่องมือค้นหาที่ใช้กันอย่างแพร่หลาย เช่น Google Search และ Bing ^{[ 206 ]}เมื่อแชทบอทและแอปพลิเคชันอื่นๆ ได้รับความนิยมมากขึ้น^{[ 205 ] [ 206 ]}และเมื่อโมเดลจำเป็นต้องได้รับการฝึกอบรมใหม่^{[ 206 ]}

คาดว่าปริมาณการปล่อยก๊าซคาร์บอนไดออกไซด์จากปัญญาประดิษฐ์เชิงสร้างสรรค์ทั่วโลกจะเพิ่มขึ้นอย่างต่อเนื่อง โดยอาจมีการปล่อยก๊าซคาร์บอนไดออกไซด์ต่อปีตั้งแต่ 18.21 ถึง 245.94 ล้านตัน_{ภายใน}ปี 2035 ^{[ 210 ]} โดยประมาณการสูงสุดสำหรับปี 2035 ใกล้เคียงกับผลกระทบของ อุตสาหกรรมเนื้อวัวของสหรัฐอเมริกาต่อการปล่อยก๊าซ (ปัจจุบันคาดว่าจะปล่อยก๊าซ 257.5 ล้านตันต่อปี ณ ปี 2024) ^{[ 211 ]}

^{กลยุทธ์การบรรเทาผลกระทบที่เสนอ ได้แก่ การคำนึงถึงต้นทุนด้านสิ่งแวดล้อมที่อาจเกิด ขึ้น}ก่อนการพัฒนาแบบจำลองหรือการรวบรวมข้อมูล^{[ 201 ]}การเพิ่มประสิทธิภาพของศูนย์ข้อมูลเพื่อลดการใช้ไฟฟ้า/พลังงาน^{[ 203 ] [ 206 ] [ 207 ]}การสร้างแบบจำลองการเรียนรู้ของเครื่อง ที่มีประสิทธิภาพมากขึ้น [ ^{202 ] [ 204 ] [ 205 ]}การลดจำนวนครั้งที่แบบจำลองจำเป็นต้องได้รับการฝึกฝนใหม่^{[ 203 ]}การพัฒนากรอบการทำงานที่รัฐบาลกำกับดูแลสำหรับการตรวจสอบผลกระทบต่อสิ่งแวดล้อมของแบบจำลองเหล่านี้^{[ 203 ] [ 204 ]}การควบคุมความโปร่งใสของแบบจำลองเหล่านี้^{[ 203 ]}การควบคุมการใช้พลังงานและน้ำ^{[ 204 ]}การสนับสนุนให้นักวิจัยเผยแพร่ข้อมูลเกี่ยวกับรอยเท้าคาร์บอนของแบบจำลอง^{[ 203 ] [ 206 ]}และการเพิ่มจำนวนผู้เชี่ยวชาญเฉพาะด้านที่เข้าใจทั้งการเรียนรู้ของเครื่องและวิทยาศาสตร์ภูมิอากาศ^{[ 203 ]}

การฝึกอบรมโมเดล AI ล้ำสมัยต้องใช้พลังการประมวลผลมหาศาล โดยปกติแล้วมีเพียง บริษัท เทคโนโลยีขนาดใหญ่ เท่านั้น ที่มีทรัพยากรทางการเงินเพียงพอที่จะลงทุนดังกล่าว บริษัทสตาร์ทอัพขนาดเล็ก เช่นCohereและOpenAIจึงต้องซื้อสิทธิ์การเข้าถึงศูนย์ข้อมูลจากGoogleและMicrosoftตามลำดับ^{[ 212 ]}

เครื่องมือต่างๆ เช่นGPTZeroสามารถตรวจจับเนื้อหาที่สร้างโดย AI ได้ อย่างไรก็ตาม เครื่องมือเหล่านี้ก็อาจกล่าวหาผิดพลาดได้เช่นกัน ( ผลบวกเท็จ ) ^{[ 213 ]}การใส่ลายน้ำดิจิทัลเป็นเทคนิคที่ช่วยปรับปรุงความแม่นยำในการตรวจจับ โดยทำงานด้วยการเปลี่ยนแปลงเนื้อหาที่สร้างขึ้นจากแหล่งที่มา ในลักษณะที่ละเอียดอ่อนซึ่งสามารถตรวจจับได้ด้วยซอฟต์แวร์ที่เกี่ยวข้อง

ในปี 2023 OpenAIได้พัฒนาเครื่องมือลายน้ำสำหรับChatGPTพวกเขาไม่ได้เปิดตัวเครื่องมือนี้ เนื่องจากกังวลว่าผู้ใช้จะเปลี่ยนไปใช้ของคู่แข่ง นอกจากนี้พวกเขายังโต้แย้งว่ามันสามารถหลีกเลี่ยงได้ง่าย เช่น โดยการขอให้ AI ตัวอื่นเรียบเรียงประโยคใหม่^{[ 214 ] [ 215 ]}

ในเดือนมีนาคม พ.ศ. 2568 สำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีนได้ออกกฎระเบียบกำหนดให้ผู้ให้บริการออนไลน์ต้องติดฉลากเนื้อหา AI ^{[ 216 ]}

ในเดือนพฤษภาคม พ.ศ. 2568 Google ได้เปิดใช้งานเครื่องมือลายน้ำ SynthID ซึ่งจะทำเครื่องหมายผลลัพธ์จาก Gemini (ข้อความ), Imagen (รูปภาพ) และ Veo (วิดีโอ) ในการตรวจจับผลลัพธ์จากผลิตภัณฑ์เหล่านี้ จะใช้พอร์ทัล "ตัวตรวจจับ SynthID" ของ Google ^{[ 217 ]}

^{ในเดือนมิถุนายน พ.ศ. 2568}ผู้ใช้เข้าใจผิดกล่าวหาบริษัทเกมว่าใช้ AI ที่สร้างขึ้นสำหรับวิดีโอเกมLittle DroidและCatly [ ^{218 ]}

• He, Ran; Cao, Jie; Tan, Tieniu (2025). "ปัญญาประดิษฐ์เชิงสร้างสรรค์: มุมมองทางประวัติศาสตร์" National Science Review . 12 (5) nwaf050. doi : 10.1093/nsr/nwaf050 . PMC  11970245 . PMID  40191253 .
• เจมส์ เกลค , " นกแก้วในเครื่องจักร " (บทวิจารณ์หนังสือของเอมิลี เอ็ม. เบนเดอร์และ อเล็กซ์ ฮันนา เรื่องThe AI ​​Con: How to Fight Big Tech's Hype and Create the Future We Want , Harper, 274 หน้า; และเจมส์ บอยล์เรื่องThe Line: AI and the Future of Personhood , MIT Press, 326 หน้า), The New York Review of Books , เล่มที่ LXXII, ฉบับที่ 12 (24 กรกฎาคม 2025), หน้า 43–46 “ข้อความแชทนั้นดูจืดชืดและซ้ำซาก เนื้อสัมผัสถูกทำให้เรียบ ขอบคมถูกขัดให้เรียบ ไม่มีแชทบ็อกซ์ไหนเคยพูดได้ว่าเดือนเมษายนเป็นเดือนที่โหดร้ายที่สุด หรือว่าหมอกมาเหมือนเท้าแมวเล็กๆ (ถึงแม้ว่าตอนนี้อาจจะพูดได้ เพราะหนึ่งในทักษะหลักของพวกมันคือการลอกเลียนแบบ ) และเมื่อข้อความที่สร้างขึ้นมาอย่างสังเคราะห์ผิดพลาด มันก็อาจผิดพลาดอย่างตลกขบขัน เมื่อแฟนหนังคนหนึ่งถาม Google ว่านักแสดงคนหนึ่งแสดงในHeat หรือ ไม่ เขาได้รับ 'ภาพรวม AI' นี้: 'ไม่ แองเจลินา โจลีไม่ได้อยู่ใน Heat' (หน้า 44)”