Deepfakes ( คำผสมระหว่าง' deep learning 'และ' fake ' ^{[ 1 ]} ) คือภาพ วิดีโอ หรือเสียงที่ได้รับการแก้ไขหรือสร้างขึ้นโดยใช้ปัญญาประดิษฐ์เครื่องมือที่ใช้ AI หรือซอฟต์แวร์ตัดต่อเสียงและวิดีโอ อาจแสดงภาพบุคคลจริงหรือสมมติ และถือเป็นรูปแบบหนึ่งของสื่อสังเคราะห์ซึ่งก็คือสื่อที่มักสร้างขึ้นโดยระบบปัญญาประดิษฐ์โดยการรวมองค์ประกอบสื่อต่างๆ เข้าด้วยกันเป็นสิ่งประดิษฐ์สื่อใหม่^{[ 2 ] [ 3 ] [ 4 ]}

แม้ว่าการสร้างเนื้อหาปลอมจะไม่ใช่เรื่องใหม่ แต่ deepfakes ใช้ประโยชน์จากเทคนิคการเรียนรู้ของเครื่องและปัญญาประดิษฐ์ อย่างมีเอกลักษณ์ ^{[ 5 ] [ 6 ] [ 7 ]}รวมถึง อัลกอริธึม การจดจำใบหน้าและเครือข่ายประสาท เทียม เช่นvariational autoencodersและgenerative adversarial networks (GANs) ^{[ 6 ] [ 8 ]}ในทางกลับกัน สาขานิติวิทยาศาสตร์ภาพได้ทำงานเพื่อพัฒนาเทคนิคในการ ตรวจ จับภาพที่ถูกดัดแปลง^{[ 9 ]} deepfakes ได้รับความสนใจอย่างกว้างขวางเนื่องจากศักยภาพในการนำไปใช้สร้างสื่อลามกอนาจารเด็กวิดีโอโปร์โนของคนดัง โป ร์โนแก้แค้นข่าวปลอมเรื่องหลอกลวงการกลั่นแกล้งและการ ฉ้อโกง ^ทางการเงิน^{[ 10 ] [ 11 ] [ 12 ]} [ ^{13 ]}

นักวิชาการได้แสดงความกังวลเกี่ยวกับศักยภาพของ deepfake ในการส่งเสริมข้อมูลเท็จและคำพูดที่แสดงความเกลียดชัง^{[ 14 ]}รวมถึงการแทรกแซงการเลือกตั้ง^{[ 15 ]}เพื่อตอบสนองต่อเรื่องนี้ อุตสาหกรรม เทคโนโลยีสารสนเทศและรัฐบาลได้เสนอคำแนะนำและวิธีการในการตรวจจับและลดผลกระทบจากการใช้งาน deepfake งานวิจัยทางวิชาการยังได้เจาะลึกถึงปัจจัยที่ผลักดันให้เกิดการมีส่วนร่วมของ deepfake ในโลกออนไลน์ ตลอดจนมาตรการตอบโต้ที่เป็นไปได้ต่อการนำ deepfake ไปใช้ในทางที่ผิด

จากความบันเทิง แบบดั้งเดิม ไปจนถึงเกมเทคโนโลยี deepfake ได้พัฒนาให้มีความน่าเชื่อถือมากขึ้น^{[ 16 ]}และเข้าถึงได้ง่ายสำหรับสาธารณชน ทำให้เกิดการเปลี่ยนแปลงในอุตสาหกรรม บันเทิงและ สื่อ^{[ 17 ]}

การตกแต่งภาพถ่ายได้รับการพัฒนาขึ้นในศตวรรษที่ 19 และในไม่ช้าก็ถูกนำไปประยุกต์ใช้กับภาพยนตร์ เทคโนโลยีพัฒนาขึ้นอย่างต่อเนื่องในช่วงศตวรรษที่ 20 และพัฒนาไปอย่างรวดเร็วยิ่งขึ้นด้วยการมาถึงของวิดีโอดิจิทัล

เทคโนโลยี Deepfake ได้รับการพัฒนาโดยนักวิจัยในสถาบันการศึกษาตั้งแต่ช่วงทศวรรษ 1990 และต่อมาโดยมือสมัครเล่นในชุมชนออนไลน์^{[ 18 ] [ 19 ]}เมื่อไม่นานมานี้ วิธีการดังกล่าวได้รับการนำไปใช้ในอุตสาหกรรม^{[ 20 ] [ 1 ]}

การพัฒนาเครือข่ายปฏิปักษ์เชิงสร้างสรรค์ (GANs)ในช่วงกลางทศวรรษ 2010 ถือเป็นจุดเปลี่ยนทางเทคนิคที่สำคัญในการวิวัฒนาการของ deepfake GANs ช่วยให้สามารถสร้างภาพและวิดีโอปลอมที่มีความสมจริงสูงได้โดยการฝึกเครือข่ายประสาทเทียมที่แข่งขันกัน ทำให้ได้ความแม่นยำทางภาพที่ดีขึ้นมากเมื่อเทียบกับวิธีการสร้างเนื้อหาแบบเดิมโดยใช้กฎหรือการใช้ autoencoders และเป็นพื้นฐานสำหรับวิธีการ deepfake สมัยใหม่^{[ 21 ] [ 22 ]}

งานวิจัยเชิงวิชาการที่เกี่ยวข้องกับ deepfakes แบ่งออกเป็นสาขาวิทยาการคอมพิวเตอร์ซึ่งเป็นสาขาย่อยของวิทยาการคอมพิวเตอร์^{[ 18 ]}ซึ่งพัฒนาเทคนิคสำหรับการสร้างและระบุ deepfakes และแนวทางด้านมนุษยศาสตร์และสังคมศาสตร์ที่ศึกษาผลกระทบทางสังคม จริยธรรม สุนทรียศาสตร์ ตลอดจนผลกระทบด้านวารสารศาสตร์และข้อมูลข่าวสารของ deepfakes ^{[ 23 ]}เนื่องจาก deepfakes มีความซับซ้อนและแพร่หลายมากขึ้น ด้วยนวัตกรรมจากเครื่องมือ AI จึงมีการวิจัยอย่างมากในการพัฒนาวิธีการตรวจจับและกำหนดปัจจัยที่ขับเคลื่อนการมีส่วนร่วมกับ deepfakes บนอินเทอร์เน็ต^{[ 24 ] [ 25 ]} Deepfakes ปรากฏบนแพลตฟอร์มโซเชียลมีเดียและส่วนอื่นๆ ของอินเทอร์เน็ตเพื่อวัตถุประสงค์ต่างๆ รวมถึงความบันเทิง การศึกษาที่เกี่ยวข้องกับ deepfakes และข้อมูลที่ผิดพลาดซึ่งมีจุดประสงค์เพื่อกระตุ้นให้เกิดปฏิกิริยาที่รุนแรง^{[ 26 ]}ยังมีช่องว่างในการวิจัยที่เกี่ยวข้องกับการแพร่กระจายของ deepfakes บนโซเชียลมีเดีย ความคิดเชิงลบและการตอบสนองทางอารมณ์เป็นปัจจัยขับเคลื่อนหลักสำหรับผู้ใช้ในการแชร์ deepfakes ^{[ 27 ]}

ในการศึกษาภาพยนตร์ deepfakes แสดงให้เห็นว่า "ใบหน้าของมนุษย์กำลังกลายเป็นวัตถุสำคัญที่คลุมเครือในยุคดิจิทัล" ^{[ 28 ]}ศิลปินวิดีโอได้ใช้ deepfakes เพื่อ "เขียนประวัติศาสตร์ภาพยนตร์ใหม่อย่างสนุกสนานโดยการนำภาพยนตร์คลาสสิกมาดัดแปลงใหม่ด้วยนักแสดงดาวเด่นคนใหม่" ^{[ 29 ] [ 30 ]}นักวิชาการภาพยนตร์ Christopher Holliday วิเคราะห์ว่าการเปลี่ยนแปลงเพศและเชื้อชาติของผู้แสดงในฉากภาพยนตร์ที่คุ้นเคยทำให้การจำแนกและการจัดประเภททางเพศไม่มั่นคง^{[ 30 ]}แนวคิดเรื่อง " queering " deepfakes ยังได้รับการกล่าวถึงในการอภิปรายของ Oliver M. Gingrich เกี่ยวกับงานศิลปะสื่อที่ใช้ deepfakes เพื่อกำหนดกรอบทางเพศใหม่^{[ 31 ]} รวมถึง Zizi: Queering the Dataset ของ ศิลปินชาวอังกฤษJake Elwes ซึ่งเป็นงานศิลปะที่ใช้ deepfakes ของแดร็กควีนเพื่อเล่นกับเพศอย่างตั้งใจ ศักยภาพด้านสุนทรียศาสตร์ของ deepfakes ก็เริ่มได้รับการสำรวจเช่นกัน จอห์น เฟลตเชอร์ นักประวัติศาสตร์ละครตั้งข้อสังเกตว่าการสาธิต deepfakes ในช่วงแรกๆ นั้นถูกนำเสนอในรูปแบบการแสดง และวางสิ่งเหล่านี้ไว้ในบริบทของละคร โดยกล่าวถึง "การเปลี่ยนแปลงกระบวนทัศน์ที่น่ากังวลบางประการ" ที่ deepfakes แสดงให้เห็นในฐานะประเภทการแสดง^{[ 32 ]}

ในขณะที่การศึกษาเชิงวิชาการภาษาอังกฤษส่วนใหญ่เกี่ยวกับ deepfake มุ่งเน้นไปที่ความกังวลของชาวตะวันตกเกี่ยวกับข้อมูลเท็จและภาพลามกอนาจาร นักมานุษยวิทยาดิจิทัล Gabriele de Seta ได้วิเคราะห์การรับรู้ deepfake ของชาวจีน ซึ่งรู้จักกันในชื่อhuanlianซึ่งแปลว่า "ใบหน้าที่เปลี่ยนแปลง" คำศัพท์ภาษาจีนนี้ไม่มีคำว่า "fake" เหมือนกับ deepfake ในภาษาอังกฤษ และ de Seta โต้แย้งว่าบริบททางวัฒนธรรมนี้อาจอธิบายได้ว่าทำไมการตอบสนองของจีนจึงมุ่งเน้นไปที่มาตรการควบคุมในทางปฏิบัติเพื่อ "ความเสี่ยงจากการฉ้อโกง สิทธิ์ในภาพ ผลกำไรทางเศรษฐกิจ และความไม่สมดุลทางจริยธรรม" ^{[ 33 ]}

โครงการสำคัญในช่วงแรกคือโปรแกรม "Video Rewrite" ซึ่งเผยแพร่ในปี 1997 โปรแกรมนี้ปรับเปลี่ยนฟุตเทจวิดีโอที่มีอยู่ของบุคคลที่กำลังพูดเพื่อแสดงให้บุคคลนั้นขยับปากตามคำพูดจากแทร็กเสียงอื่น^{[ 34 ]}นับเป็นระบบแรกที่ทำการสร้างภาพเคลื่อนไหวใบหน้าแบบอัตโนมัติอย่างสมบูรณ์ และทำเช่นนั้นโดยใช้เทคนิคการเรียนรู้ของเครื่องเพื่อสร้างความเชื่อมโยงระหว่างเสียงที่ผลิตโดยตัวแบบในวิดีโอและรูปร่างของใบหน้าของตัวแบบ^{[ 34 ]}

โครงการทางวิชาการร่วมสมัยมุ่งเน้นไปที่การสร้างวิดีโอที่สมจริงยิ่งขึ้นและการปรับปรุงเทคนิค deepfake ^{[ 35 ] [ 36 ]}โปรแกรม "Synthesizing Obama" ซึ่งเผยแพร่ในปี 2017 ได้ปรับเปลี่ยนฟุตเทจวิดีโอของอดีตประธานาธิบดีบารัค โอบามาเพื่อแสดงภาพเขาขยับปากตามคำพูดที่อยู่ในแทร็กเสียงแยกต่างหาก^{[ 35 ]}โครงการนี้ระบุว่าผลงานวิจัยหลักคือ เทคนิค ภาพเสมือนจริงสำหรับการสังเคราะห์รูปทรงปากจากเสียง^{[ 35 ]}โปรแกรม "Face2Face" ซึ่งเผยแพร่ในปี 2016 ได้ปรับเปลี่ยนฟุตเทจวิดีโอของใบหน้าของบุคคลเพื่อแสดงภาพพวกเขาเลียนแบบการแสดงออกทางสีหน้าของบุคคลอื่น^{[ 36 ]}โครงการนี้เน้นย้ำผลงานวิจัยหลักคือการพัฒนาวิธีการแรกสำหรับการจำลองการแสดงออกทางสีหน้าแบบเรียลไทม์โดยใช้กล้องที่ไม่จับภาพความลึก ทำให้เทคนิคนี้สามารถใช้งานได้กับกล้องทั่วไปของผู้บริโภค

นักวิจัยยังแสดงให้เห็นว่า deepfakes กำลังขยายไปสู่โดเมนอื่นๆ เช่น ภาพทางการแพทย์^{[ 37 ]}ในงานนี้ แสดงให้เห็นว่าผู้โจมตีสามารถแทรกหรือลบมะเร็งปอดในภาพสแกน CT 3 มิติ ของผู้ป่วยได้โดยอัตโนมัติ ผลลัพธ์ที่ได้นั้นน่าเชื่อถือมากจนสามารถหลอกรังสีแพทย์ 3 คนและ AI ตรวจจับมะเร็งปอดที่ทันสมัยที่สุดได้ เพื่อแสดงให้เห็นถึงภัยคุกคาม ผู้เขียนได้ทำการโจมตีโรงพยาบาลสำเร็จใน การทดสอบการเจาะระบบ แบบWhite hat ^{[ 38 ]}

การสำรวจ deepfake ที่เผยแพร่ในเดือนพฤษภาคม 2020 ให้ข้อมูลลำดับเวลาของความก้าวหน้าในการสร้างและการตรวจจับ deepfake ในช่วงไม่กี่ปีที่ผ่านมา^{[ 39 ]}การสำรวจระบุว่านักวิจัยได้มุ่งเน้นไปที่การแก้ไขความท้าทายต่อไปนี้ในการสร้าง deepfake:

• การสรุปโดยทั่วไป การสร้าง deepfake คุณภาพสูงมักทำได้โดยการฝึกฝนด้วยวิดีโอเป้าหมายเป็นเวลาหลายชั่วโมง ความท้าทายคือการลดปริมาณข้อมูลการฝึกฝนและเวลาในการฝึกฝนโมเดลให้เหลือน้อยที่สุด เพื่อให้ได้ภาพที่มีคุณภาพ และเพื่อให้สามารถใช้งานโมเดลที่ฝึกฝนแล้วกับ บุคคล ใหม่ (ที่ไม่เคยเห็นมาก่อนในระหว่างการฝึกฝน)
• การฝึกแบบจับคู่ข้อมูล การฝึกโมเดลแบบมีผู้กำกับดูแลสามารถให้ผลลัพธ์ที่มีคุณภาพสูงได้ แต่ต้องใช้การจับคู่ข้อมูล ซึ่งเป็นกระบวนการค้นหาตัวอย่างของอินพุตและเอาต์พุตที่ต้องการเพื่อให้โมเดลเรียนรู้ การจับคู่ข้อมูลนั้นยุ่งยากและไม่เหมาะสมเมื่อฝึกกับข้อมูลหลายชุดและพฤติกรรมใบหน้าหลายแบบ วิธีแก้ปัญหาบางอย่าง ได้แก่ การฝึกแบบกำกับตนเอง (โดยใช้เฟรมจากวิดีโอเดียวกัน) การใช้เครือข่ายที่ไม่จับคู่ เช่น Cycle-GAN หรือการปรับแต่งการฝังข้อมูลของเครือข่าย
• การรั่วไหลของอัตลักษณ์ นี่คือกรณีที่อัตลักษณ์ของผู้ควบคุม (เช่น นักแสดงที่ควบคุมใบหน้าในการจำลองเหตุการณ์) ถูกถ่ายโอนไปยังใบหน้าที่สร้างขึ้นเพียงบางส่วน แนวทางแก้ไขที่เสนอมา ได้แก่ กลไกความสนใจ การเรียนรู้แบบจำกัดจำนวนตัวอย่าง การแยกส่วน การแปลงขอบเขต และการเชื่อมต่อแบบข้าม
• สิ่งกีดขวาง เมื่อส่วนใดส่วนหนึ่งของใบหน้าถูกบดบังด้วยมือ ผม แว่นตา หรือสิ่งของอื่นๆ อาจทำให้เกิดสิ่งผิดปกติขึ้นได้ สิ่งกีดขวางที่พบบ่อยคือการปิดปาก ซึ่งซ่อนส่วนภายในของปากและฟันไว้ วิธีการแก้ไขบางอย่าง ได้แก่ การแบ่งส่วนภาพระหว่างการฝึกฝนและการเติมภาพในส่วนที่ขาดหายไป
• ความสอดคล้องเชิงเวลา ในวิดีโอที่มี deepfake อาจเกิดสิ่งผิดปกติ เช่น การกระพริบและการสั่นไหว เนื่องจากเครือข่ายไม่มีบริบทของเฟรมก่อนหน้า นักวิจัยบางคนจึงให้บริบทนี้หรือใช้การสูญเสียความสอดคล้องเชิงเวลาแบบใหม่เพื่อช่วยปรับปรุงความสมจริง เมื่อเทคโนโลยีพัฒนาขึ้น ปัญหาดังกล่าวก็ลดลง

โดยรวมแล้ว คาดว่า deepfakes จะมีผลกระทบหลายประการต่อสื่อและสังคม การผลิตสื่อ การนำเสนอสื่อ ผู้ชมสื่อ เพศ กฎหมายและข้อบังคับ และการเมือง^{[ 40 ]}

คำว่าdeepfakeมีต้นกำเนิดในช่วงปลายปี 2017 จาก ผู้ใช้ Redditชื่อ "deepfakes" ^{[ 41 ]}เขาและสมาชิกคนอื่นๆ ในกลุ่ม "r/deepfakes" ของ Reddit ได้แชร์ deepfake ที่พวกเขาสร้างขึ้น โดยวิดีโอจำนวนมากเกี่ยวข้องกับการสลับใบหน้าของคนดังไปไว้บนร่างกายของนักแสดงในวิดีโอโป๊^{[ 41 ]}ในขณะที่เนื้อหาที่ไม่ใช่วิดีโอโป๊นั้นรวมถึงวิดีโอจำนวนมากที่มีการสลับใบหน้าของนักแสดงนิโคลัส เคจเข้าไปในภาพยนตร์ต่างๆ^{[ 42 ]}

หลังจากการแนะนำครั้งแรกนี้ การพัฒนาโดยมือสมัครเล่นเติบโตอย่างรวดเร็วเนื่องจากมีซอฟต์แวร์โอเพนซอร์สและบทช่วยสอนบนอินเทอร์เน็ต เครื่องมือที่ใช้งานได้ฟรี เช่น FakeApp, FaceSwap และ DeepFaceLab ช่วยให้ผู้ใช้ที่ไม่มีการศึกษาอย่างเป็นทางการด้านวิทยาการคอมพิวเตอร์สามารถสร้างวิดีโอ deepfake ด้วยฮาร์ดแวร์สำหรับผู้บริโภคได้^{[ 43 ] [ 21 ]}ฟอรัมออนไลน์ เช่น Reddit, GitHub และ YouTube มีความสำคัญต่อการเผยแพร่ซอฟต์แวร์ คำแนะนำ และเนื้อหาตัวอย่าง และช่วยเผยแพร่และพัฒนาการสร้าง deepfake โดยมือสมัครเล่นให้เร็วขึ้น^{[ 21 ]}

ชุมชนออนไลน์อื่นๆ ยังคงแชร์ภาพลามกอนาจารบนแพลตฟอร์มที่ไม่ได้แบนภาพลามกอนาจารแบบ deepfake ^{[ 44 ]}

ในเดือนมกราคม พ.ศ. 2561 แอปพลิเคชันเดสก์ท็อปที่เป็นกรรมสิทธิ์ชื่อ "FakeApp" ได้เปิดตัว^{[ 45 ]}แอปนี้ช่วยให้ผู้ใช้สามารถสร้างและแชร์วิดีโอที่มีการสลับใบหน้าของตนเองกับผู้อื่นได้อย่างง่ายดาย^{[ 46 ]}ณ ปี พ.ศ. 2562 "FakeApp" ได้ถูกแทนที่ด้วยทางเลือกโอเพนซอร์สเป็นส่วนใหญ่ เช่น "Faceswap", "DeepFaceLab" ที่ใช้บรรทัดคำสั่ง และแอปบนเว็บ เช่น DeepfakesWeb ^{[ 47 ] [ 48 ] [ 49 ]}

บริษัทขนาดใหญ่เริ่มใช้ deepfake ^{[ 20 ]}วิดีโอฝึกอบรมของบริษัทสามารถสร้างได้โดยใช้อวตาร deepfake และเสียงของพวกเขา ตัวอย่างเช่นSynthesiaซึ่งใช้เทคโนโลยี deepfake กับอวตารเพื่อสร้างวิดีโอส่วนบุคคล^{[ 50 ]}แอปมือถือMomoสร้างแอปพลิเคชัน Zao ซึ่งอนุญาตให้ผู้ใช้ซ้อนใบหน้าของตนเองลงบนคลิปโทรทัศน์และภาพยนตร์ด้วยภาพเดียว^{[ 20 ]}ในปี 2019 บริษัท AI ของญี่ปุ่น DataGrid ได้สร้าง deepfake ร่างกายเต็มรูปแบบที่สามารถสร้างบุคคลขึ้นมาใหม่ได้ตั้งแต่เริ่มต้น^{[ 51 ]}

ภายในปี 2020 มี deepfake เสียงและซอฟต์แวร์ AI ที่สามารถโคลนเสียงมนุษย์ ได้ จากคำพูดเพียงไม่กี่วินาที^{[ 52 ] [ 53 ]}เครื่องมือสำหรับการตรวจจับ deepfake ก็เริ่มปรากฏขึ้นเช่นกัน^{[ 54 ] [ 55 ] [ 56 ]}แอป deepfake บนมือถือชื่อ Impressions เปิดตัวในเดือนมีนาคม 2020 ซึ่งเป็นแอปแรกสำหรับการสร้างวิดีโอ deepfake ของคนดังจากโทรศัพท์มือถือ^{[ 57 ] [ 58 ]}

ความสามารถของเทคโนโลยี Deepfake ในการสร้างข้อความและการกระทำของผู้อื่นสามารถขยายไปถึงผู้เสียชีวิตได้ เช่น ในการบำบัดความเศร้าโศกที่ช่วยให้สามารถสื่อสารกับคนที่รักที่เสียชีวิตไปแล้วได้^{[ 59 ]}ในเดือนตุลาคม 2020 คิม คาร์ดาเชียนได้โพสต์วิดีโอที่มีภาพโฮโลแกรม ของ โรเบิร์ต คาร์ดาเชียนบิดาผู้ล่วงลับของเธอซึ่งสร้างโดยบริษัท Kaleida โดยใช้การผสมผสานระหว่างการแสดง การติดตามการเคลื่อนไหว เอฟเฟ็กต์เสียง เอฟเฟ็กต์ภาพ และเทคโนโลยี DeepFake เพื่อสร้างภาพลวงตา^{[ 60 ] [ 61 ]}

ในปี 2020 มีการสร้างวิดีโอ deepfake ของ Joaquin Oliver เหยื่อของการกราดยิงที่ Parklandซึ่งเป็นส่วนหนึ่งของแคมเปญความปลอดภัยด้านอาวุธปืน พ่อแม่ของ Oliver ร่วมมือกับองค์กรไม่แสวงผลกำไร Change the Ref และ McCann Health เพื่อผลิตวิดีโอที่ Oliver กระตุ้นให้ผู้คนสนับสนุนกฎหมายความปลอดภัยด้านอาวุธปืน และนักการเมืองที่สนับสนุนก็ทำเช่นเดียวกัน^{[ 62 ]}

ในปี 2022 วิดีโอ deepfake ของเอลวิส เพรสลีย์ถูกนำมาใช้ในรายการAmerica's Got Talent 17 ^{[ 63 ]}

Deepfakes อาศัย โครงข่ายประสาทเทียมชนิดหนึ่งที่เรียกว่าautoencoder ^{[ 64 ]}ซึ่งประกอบด้วย encoder ที่ลดภาพลงเป็นพื้นที่แฝงที่ มีมิติต่ำกว่า และ decoder ที่สร้างภาพขึ้นใหม่จากตัวแทนแฝง^{[ 65 ]} Deepfakes ใช้สถาปัตยกรรมนี้โดยมี encoder สากลที่เข้ารหัสบุคคลลงในพื้นที่แฝง ตัวแทนแฝงประกอบด้วยคุณลักษณะสำคัญเกี่ยวกับลักษณะใบหน้าและท่าทางของร่างกาย จากนั้นสามารถถอดรหัสได้ด้วยโมเดลที่ฝึกฝนมาโดยเฉพาะสำหรับเป้าหมาย ซึ่งหมายความว่าข้อมูลรายละเอียดของเป้าหมายจะถูกซ้อนทับบนคุณลักษณะใบหน้าและร่างกายพื้นฐานของวิดีโอต้นฉบับที่แสดงอยู่ในพื้นที่แฝง

การอัปเกรดที่เป็นที่นิยมสำหรับสถาปัตยกรรมนี้คือการเชื่อมต่อเครือข่ายปฏิปักษ์เชิงสร้างสรรค์เข้ากับตัวถอดรหัสGANจะฝึกตัวสร้าง ซึ่งในกรณีนี้คือตัวถอดรหัส และตัวแยกแยะในความสัมพันธ์แบบปฏิปักษ์ เครือข่ายแรกที่เรียกว่าตัวสร้าง พยายามสร้างภาพปลอม ในขณะที่เครือข่ายที่สอง ตัวแยกแยะ จะแยกแยะระหว่างภาพจริงและภาพปลอมโดยใช้ชุดข้อมูลที่ถูกต้องเพื่อเป็นแนวทางในการตัดสิน^{[ 66 ]}สิ่งนี้ทำให้ตัวสร้างสร้างภาพที่เลียนแบบความเป็นจริงได้ดีมาก เนื่องจากข้อบกพร่องใด ๆ จะถูกตรวจจับโดยตัวแยกแยะ^{[ 67 ]}ทั้งสองอัลกอริทึมจะปรับปรุงอย่างต่อเนื่องในเกมผลรวมเป็นศูนย์ทำให้ deepfakes ยากที่จะต่อสู้ด้วย เนื่องจากมีการพัฒนาอย่างต่อเนื่อง เมื่อใดก็ตามที่พบข้อบกพร่อง ก็สามารถแก้ไขได้^{[ 67 ]}

โคลนดิจิทัลของนักแสดงมืออาชีพเคยปรากฏในภาพยนตร์มาก่อน และคาดว่าความก้าวหน้าในเทคโนโลยี deepfake จะทำให้โคลนดังกล่าวเข้าถึงได้ง่ายและมีประสิทธิภาพมากขึ้น^{[ 68 ]}การใช้เทคโนโลยี AI เป็นประเด็นสำคัญในการประท้วง SAG-AFTRA ในปี 2023เนื่องจากเทคนิคใหม่ ๆ ทำให้สามารถสร้างและจัดเก็บภาพเหมือนดิจิทัลเพื่อใช้แทนนักแสดงได้^{[ 69 ]}

ดิสนีย์ได้ปรับปรุงเอฟเฟกต์ภาพโดยใช้เทคโนโลยีการสลับใบหน้า deepfake ความละเอียดสูง^{[ 70 ]}ดิสนีย์ได้ปรับปรุงเทคโนโลยีของตนผ่านการฝึกอบรมแบบก้าวหน้าซึ่งตั้งโปรแกรมไว้เพื่อระบุการแสดงออกทางใบหน้า การนำคุณสมบัติการสลับใบหน้ามาใช้ และการทำซ้ำเพื่อทำให้ผลลัพธ์มีความเสถียรและละเอียดขึ้น^{[ 70 ]}เทคโนโลยี deepfake ความละเอียดสูงนี้ช่วยประหยัดต้นทุนการดำเนินงานและการผลิตได้อย่างมาก^{[ 71 ]}โมเดลการสร้าง deepfake ของดิสนีย์สามารถสร้างสื่อที่สร้างโดย AI ที่ความละเอียด 1024 x 1024 พิกเซล ซึ่งต่างจากโมเดลทั่วไปที่สร้างสื่อที่ความละเอียด 256 x 256 พิกเซล^{[ 71 ]}เทคโนโลยีนี้ช่วยให้ดิสนีย์สามารถลดอายุตัวละครหรือฟื้นคืนชีพนักแสดงที่เสียชีวิตได้^{[ 72 ]}เทคโนโลยีที่คล้ายกันนี้ถูกใช้โดยแฟนๆ ในช่วงแรกเพื่อแทรกใบหน้าลงในสื่อที่มีอยู่โดยไม่เป็นทางการ เช่น การซ้อนใบหน้าวัยหนุ่มของแฮริสัน ฟอร์ด ลงบนใบหน้าของฮัน โซโลใน Solo: A Star Wars Story ^{[ 73 ]}ดิสนีย์ใช้ deepfake สำหรับตัวละครเจ้าหญิงเลอาในRogue Oneและลุค สกายวอล์คเกอร์ในThe MandalorianและThe Book of Boba Fett ^{[ 74 ] [ 75 ]}

ในภาพยนตร์แอ็คชั่นไซไฟระทึกขวัญภาษาทมิฬ ของอินเดีย เรื่อง The Greatest of All Time ปี 2024 ตัวละคร Jeevan ในวัยรุ่น ของ Vijayรับบทโดย Ayaz Khan โดยใบหน้าวัยรุ่นของ Vijay นั้นสร้างขึ้นโดยใช้AI deepfake ^{[ 76 ]}ในเดือนพฤษภาคม 2025 บริษัท Xicoia ของเนเธอร์แลนด์ ซึ่งเป็นส่วนหนึ่งของบริษัทผลิตภาพยนตร์ Particle6 ที่ก่อตั้งโดยนักแสดงและนักแสดงตลก Eline Van der Veldenได้พัฒนา นักแสดงหญิงที่สร้างโดย AI ชื่อ Tilly Norwood ^{[ 77 ]}

เทคโนโลยี Deepfake ยังถูกนำมาใช้ในด้านการศึกษาและสื่อเพื่อสร้างวิดีโอที่สมจริงและเนื้อหาแบบโต้ตอบ ซึ่งนำเสนอวิธีการใหม่ๆ ในการดึงดูดผู้ชม

ในเดือนมีนาคม พ.ศ. 2561 โจเซฟ อายเออร์เล ศิลปินสหวิทยาการ ได้เผยแพร่ผลงานวิดีโอชื่อUn'emozione per sempre 2.0 (ชื่อภาษาอังกฤษ: The Italian Game ) ศิลปินได้ใช้เทคโนโลยี Deepfake เพื่อสร้างนักแสดง AI ซึ่ง เป็นเวอร์ชันสังเคราะห์ของ ออร์เนลลา มูติดาราภาพยนตร์ยุค 80 ที่เดินทางข้ามเวลาจากปี พ.ศ. 2521 ถึง พ.ศ. 2561 สถาบันเทคโนโลยีแมสซาชูเซตส์ได้อ้างอิงผลงานศิลปะชิ้นนี้ในการศึกษาเรื่อง "ภูมิปัญญารวมหมู่" ^{[ 78 ]}ศิลปินใช้การเดินทางข้ามเวลา ของออร์เนลลา มูติ เพื่อสำรวจการสะท้อนความคิดของคนรุ่นต่างๆ พร้อมทั้งตรวจสอบคำถามเกี่ยวกับบทบาทของการยั่วยุในโลกของศิลปะ^{[ 79 ]}สำหรับการสร้างทางเทคนิค อายเออร์เลใช้ฉากของนางแบบเคนดัล เจนเนอร์โปรแกรมได้แทนที่ใบหน้าของเจนเนอร์ด้วยใบหน้าของออร์เนลลา มูติ ที่คำนวณโดย AI ส่งผลให้นักแสดง AI มีใบหน้าของนักแสดงชาวอิตาลี ออร์เนลลา มูติ และร่างกายของเคนดัล เจนเนอร์

Deepfake ถูกนำมาใช้กันอย่างแพร่หลายในการเสียดสีหรือล้อเลียนคนดังและนักการเมือง เว็บซีรีส์Sassy Justice ปี 2020 ที่สร้างโดยTrey ParkerและMatt Stoneมีการใช้ deepfake ของบุคคลสาธารณะเพื่อเสียดสีเหตุการณ์ปัจจุบันและสร้างความตระหนักรู้เกี่ยวกับเทคโนโลยี deepfake ^{[ 80 ]}

Deepfakes สามารถใช้สร้างวัสดุแบล็กเมล์ที่กล่าวหาเหยื่ออย่างผิดๆ รายงานของ American Congressional Research Serviceเตือนว่า deepfakes อาจถูกใช้เพื่อแบล็กเมล์เจ้าหน้าที่ที่ได้รับการเลือกตั้งหรือผู้ที่มีสิทธิ์เข้าถึงข้อมูลลับเพื่อวัตถุประสงค์ในการจารกรรมหรือมีอิทธิพล^{[ 81 ]}

เมื่อหรือหากไม่สามารถแยกแยะของปลอมออกจากหลักฐานจริงได้อย่างน่าเชื่อถือ เหยื่อที่ถูกแบล็กเมล์ด้วยหลักฐานดิจิทัลอาจอ้างว่าสิ่งประดิษฐ์ที่แท้จริงเป็นของปลอม จึงพยายามปฏิเสธความรับผิดชอบโดยอาศัยข้อโต้แย้งเรื่องความไม่สามารถแยกแยะระหว่างหลักฐานปลอมและหลักฐานจริงได้ ผลที่คาดหวังคือการทำให้ความน่าเชื่อถือของเอกสารแบล็กเมล์ที่มีอยู่บางส่วนเป็นโมฆะ ซึ่งหากเป็นหลักฐานเพียงอย่างเดียวที่ผู้แบล็กเมล์เก็บไว้และคณะลูกขุนไม่สามารถแยกแยะออกจากหลักฐานปลอมได้ภายใต้ข้อโต้แย้งนี้ ในทางทฤษฎีอาจทำให้ความภักดีต่อผู้แบล็กเมล์ลดลงและจำกัดการควบคุมของพวกเขาที่มีต่อผู้ถูกแบล็กเมล์ ปรากฏการณ์นี้เรียกว่า "การขยายตัวของแบล็กเมล์" เนื่องจากในทางทฤษฎีมัน "ลดคุณค่า" ของเอกสารแบล็กเมล์ที่แท้จริง^{[ 82 ]}เป็นไปได้ที่จะใช้ฮาร์ดแวร์ GPU ทั่วไปร่วมกับโปรแกรมซอฟต์แวร์ขนาดเล็กเพื่อสร้างเนื้อหาปลอมที่ตั้งใจจะแบล็กเมล์ใครก็ตามที่ฝ่ายตรงข้ามมีข้อมูลฝึกฝนจำนวนมาก^{[ 83 ]}อย่างไรก็ตาม แม้แต่ของปลอมที่ถูกดัดแปลงอย่างระมัดระวังก็ยังสามารถตรวจพบได้

การมีอยู่ของเทคนิคที่มีประสิทธิภาพในการสร้างหลักฐานเท็จแสดงให้เห็นอย่างชัดเจนว่าการรวมกันของวิดีโอ เสียง ภาพถ่าย หรือหลักฐานอื่น ๆ ที่สามารถสร้างขึ้นได้เพียงอย่างเดียวเป็นพื้นฐานสำหรับการตัดสินลงโทษอาชญากรรมนั้นถือเป็นมาตรฐานที่อันตรายและไม่แน่นอน เนื่องจากความเป็นไปได้ของหลักฐานที่ถูกสร้างขึ้นอย่างมีเจตนาร้าย ทำให้ความสำคัญของพยานที่เห็นเหตุการณ์โดยตรงหลายคนมีความสำคัญมากขึ้น โดยเฉพาะอย่างยิ่งสำหรับข้อกล่าวหาที่ร้ายแรงกว่า^{[ 84 ]}

เมื่อวันที่ 8 มิถุนายน 2022 ^{[ 85 ]}แดเนียล เอ็มเม็ต อดีต ผู้เข้าแข่งขัน AGTได้ร่วมมือกับบริษัทสตาร์ทอัพAI ^{[ 86 ] [ 87 ]} Metaphysic AI เพื่อสร้าง deepfake ที่สมจริงมาก ๆ ให้ปรากฏเป็นไซมอน โคเวลล์ โคเวลล์ซึ่งมีชื่อเสียงในด้านการวิจารณ์ผู้เข้าแข่งขันอย่างรุนแรง^{[ 88 ]}กำลังแสดงเพลง " You're The Inspiration " ของChicago บนเวที เอ็มเม็ตร้องเพลงบนเวทีขณะที่ภาพของไซมอน โคเวลล์ปรากฏขึ้นบนหน้าจอด้านหลังเขาอย่างพร้อมเพรียงกันอย่างสมบูรณ์แบบ^{[ 89 ]}

เมื่อวันที่ 30 สิงหาคม 2022 Metaphysic AI ได้สร้าง 'deep-fake' ของSimon Cowell , Howie MandelและTerry Crewsที่กำลังร้องเพลงโอเปร่าบนเวที^{[ 90 ]}

เมื่อวันที่ 13 กันยายน 2022 Metaphysic AI ได้แสดงร่วมกับเอลวิส เพรสลีย์เวอร์ชั่นสังเคราะห์ในรอบชิงชนะเลิศของรายการ^America 's Got Talent [ ^{91 ]}

โครงการปัญญาประดิษฐ์15.aiของMITถูกนำมาใช้ในการสร้างเนื้อหาสำหรับกลุ่มแฟนคลับ บนอินเทอร์เน็ตหลายกลุ่ม โดยเฉพาะบนโซเชียลมีเดีย^{[ 92 ] [ 93 ] [ 94 ]}

ในปี 2023 วงดนตรีABBAและKissได้ร่วมมือกับIndustrial Light & MagicและPophouse Entertainmentเพื่อพัฒนาอวตาร deepfake ที่สามารถแสดงคอนเสิร์ตเสมือนจริงได้^{[ 95 ]}

พวกมิจฉาชีพและนักต้มตุ๋นใช้ deepfake เพื่อหลอกลวงผู้คนให้เข้าร่วมโครงการลงทุนปลอมการฉ้อโกงทางการเงินสกุลเงินดิจิทัลการโอนเงินและการติดตามการรับรองต่างๆภาพลักษณ์ของคนดังและนักการเมืองถูกนำมาใช้ในการหลอกลวงขนาดใหญ่ เช่นเดียวกับภาพลักษณ์ของบุคคลทั่วไป ซึ่งถูกนำมาใช้ใน การโจมตี แบบ spearphishingตามรายงานของBetter Business Bureauการหลอกลวงด้วย deepfake กำลังแพร่หลายมากขึ้น^{[ 96 ]}การหลอกลวงเหล่านี้เป็นสาเหตุของการสูญเสียจากการฉ้อโกงทั่วโลกประมาณ 12 พันล้านดอลลาร์^{[ 97 ]}ตามรายงานล่าสุด คาดว่าตัวเลขเหล่านี้จะสูงถึง 40 พันล้านดอลลาร์ในอีกสามปีข้างหน้า^{[ 97 ]}

การรับรองปลอมได้นำเอาตัวตนของคนดังอย่างTaylor Swift [ ^{98 ] [ 96 ]} Tom Hanks [ ^{99 ] Oprah} Winfrey [ ^{100 ]}และElon Musk [ ^{101 ] ผู้}ประกาศข่าว^{[ 102 ]}เช่นGayle King ^{[ 99 ]}และSally Bundock [ ^{103 ] และ}นักการเมืองอย่างLee Hsien Loong ^{[ 104 ]}และJim Chalmers [ ^{105 ] [ 106 ] มา ใช้ ใน ทางที่ ผิด}วิดีโอของพวกเขาปรากฏในโฆษณาออนไลน์บนYouTube , FacebookและTikTokซึ่งมีนโยบายต่อต้านสื่อสังเคราะห์และสื่อที่ถูกดัดแปลง [ ^{107 ] [ 98 ] [ 108 ] โฆษณา} ที่แสดงวิดีโอเหล่านี้มีผู้คนเห็นหลายล้านคน แคมเปญ ฉ้อโกง Medicare แคมเปญ เดียวมียอดเข้าชมมากกว่า 195 ล้านครั้งจากวิดีโอหลายพันรายการ^{[ 107 ] [ 109 ]} Deepfakes ถูกนำมาใช้สำหรับ: การแจก เครื่องครัว Le Creuset ปลอม โดยคิด "ค่าจัดส่ง" โดยไม่ได้รับสินค้า ยกเว้นค่าใช้จ่ายรายเดือนที่ซ่อนอยู่; ^{[ 98 ]}ลูกอมลดน้ำหนักที่คิดราคามากกว่าที่บอกไว้มาก; ^{[ 100 ]}การแจก iPhone ปลอม; ^{[ 98 ] [ 108 ]}และ โครงการ ลงทุน หลอกลวง ที่ทำให้รวยเร็ว [ ^{101 ] [ 110 ] [ 111 ] และ}โครงการ^สกุลเงินดิจิทัล^{[ 104} ] ^{[ 112 ]}

เสียงปลอม (Audio deepfake)ถูกนำมาใช้เป็นส่วนหนึ่งของ กลโกง ทางสังคมโดยหลอกลวงให้ผู้คนคิดว่าพวกเขากำลังได้รับคำสั่งจากบุคคลที่น่าเชื่อถือ^{[ 113 ]}ในปี 2019 ซีอีโอของบริษัทพลังงานในสหราชอาณาจักรถูกหลอกลวงทางโทรศัพท์ โดยเขาได้รับคำสั่งให้โอนเงิน 220,000 ยูโรไปยังบัญชีธนาคารในฮังการีโดยบุคคลที่รายงานว่าใช้เทคโนโลยีเสียงปลอมเพื่อเลียนแบบเสียงของประธานเจ้าหน้าที่บริหารของบริษัทแม่^{[ 114 ] [ 115 ]}ในปี 2023 ความก้าวหน้าของเทคโนโลยี deepfake ซึ่งสามารถโคลนเสียงของบุคคลจากการบันทึกเพียงไม่กี่วินาทีถึงหนึ่งนาที และเครื่องมือสร้างข้อความ ใหม่ ทำให้การหลอกลวงการปลอมตัวอัตโนมัติเป็นไปได้ โดยกำหนดเป้าหมายเหยื่อโดยใช้โคลนดิจิทัลที่น่าเชื่อถือของเพื่อนหรือญาติ^{[ 116 ]}

มีการนำเทคโนโลยี Deepfake มาใช้เพื่อบิดเบือนภาพลักษณ์ของนักการเมืองที่มีชื่อเสียงในวิดีโอต่างๆ

• ในเดือนกุมภาพันธ์ พ.ศ. 2561 ในวิดีโอแยกกัน ใบหน้าของประธานาธิบดีเมาริซิโอ มาครี แห่งอาร์เจนตินา ถูกแทนที่ด้วยใบหน้าของอดอล์ฟ ฮิตเลอร์และ ใบหน้าของ แองเจลา เมอร์เคลถูกแทนที่ด้วยใบหน้าของโดนัลด์ ทรัมป์^{[ 117 ] [ 118 ]}
• ในเดือนเมษายน พ.ศ. 2561 จอร์แดน พีลได้ร่วมมือกับBuzzFeedเพื่อสร้าง deepfake ของบารัค โอบามาโดยใช้เสียงของพีลเอง ซึ่งทำหน้าที่เป็นประกาศบริการสาธารณะเพื่อเพิ่มความตระหนักรู้เกี่ยวกับ deepfake ^{[ 119 ]}
• ในเดือนมกราคม 2019 สถานี KCPQซึ่งเป็นสถานีในเครือFoxได้ออกอากาศ deepfake ของทรัมป์ระหว่างการกล่าวสุนทรพจน์ในห้องทำงานรูปไข่ซึ่งเป็นการล้อเลียนรูปลักษณ์และสีผิวของเขา พนักงานที่รับผิดชอบวิดีโอดังกล่าวถูกไล่ออกในเวลาต่อมา^{[ 120 ]}
• ในเดือนมิถุนายน พ.ศ. 2562 คณะกรรมการข่าวกรองของสภาผู้แทนราษฎรแห่งสหรัฐอเมริกาได้จัดการไต่สวนเกี่ยวกับการใช้ deepfakes ในทางที่ผิดเพื่อแทรกแซงการเลือกตั้ง^{[ 121 ]}
• ในเดือนเมษายน พ.ศ. 2563 สาขาเบลเยียมของExtinction Rebellionได้เผยแพร่วิดีโอ deepfake ของนายกรัฐมนตรีเบลเยียมโซฟี วิลเมสบนเฟซบุ๊ก^{[ 122 ]}วิดีโอดังกล่าวส่งเสริมความเชื่อมโยงที่เป็นไปได้ระหว่างการตัดไม้ทำลายป่าและCOVID-19มียอดเข้าชมมากกว่า 100,000 ครั้งภายใน 24 ชั่วโมงและได้รับความคิดเห็นมากมาย ในหน้าเฟซบุ๊กที่วิดีโอปรากฏ ผู้ใช้หลายคนตีความวิดีโอ deepfake ว่าเป็นของจริง^{[ 123 ]}
• ระหว่างการหาเสียงเลือกตั้งประธานาธิบดีสหรัฐฯ ปี 2020มีวิดีโอปลอมแปลง (deepfakes) จำนวนมากปรากฏขึ้น โดยอ้างว่าโจ ไบเดนมีอาการสมองเสื่อม เช่น หลับระหว่างการสัมภาษณ์ หลงทาง และพูดผิด ซึ่งทั้งหมดนี้ยิ่งตอกย้ำข่าวลือเรื่องอาการสมองเสื่อมของเขา^{[ 124 ] [ 125 ]}
• ระหว่าง การรณรงค์ หาเสียงเลือกตั้งสภานิติบัญญัติเดลีในปี 2020พรรคภารติยะชนาตาแห่งเดลีใช้เทคโนโลยีที่คล้ายกันในการเผยแพร่โฆษณาหาเสียงภาษาอังกฤษของผู้นำพรรคมาโนจ ติวารีซึ่งแปลเป็นภาษาฮาร์ยานวีเพื่อเจาะ กลุ่มผู้มีสิทธิเลือกตั้ง ในรัฐฮาร์ยานามีการพากย์เสียงโดยนักแสดง และใช้ AI ที่ได้รับการฝึกฝนโดยใช้คลิปวิดีโอคำพูดของติวารีเพื่อซิงค์ริมฝีปากกับเสียงพากย์ใหม่ เจ้าหน้าที่พรรคคนหนึ่งอธิบายว่าเป็นการใช้เทคโนโลยี deepfake ในเชิงบวก ซึ่งช่วยให้พวกเขา "เข้าถึงกลุ่มเป้าหมายได้อย่างน่าเชื่อถือแม้ว่าผู้สมัครจะไม่พูดภาษาของผู้มีสิทธิเลือกตั้งก็ตาม" ^{[ 126 ]}
• ในปี 2020 บรูโน ซาร์โตริสร้าง deepfake ล้อเลียนนักการเมืองอย่างไจร์ โบลโซนาโรและโดนัลด์ ทรัมป์^{[ 127 ]}
• ในเดือนเมษายน 2021 นักการเมืองในหลายประเทศในยุโรปถูกกลุ่มคนเล่นตลกVovan และ Lexus ติดต่อ ซึ่งนักวิจารณ์กล่าวหาว่าพวกเขาทำงานให้กับ รัฐบาล รัสเซียพวกเขาปลอมตัวเป็นLeonid Volkovนักการเมืองฝ่ายค้านรัสเซียและหัวหน้าคณะทำงานหาเสียงของAlexei Navalny ผู้นำฝ่ายค้านรัสเซีย โดยอ้างว่าใช้เทคโนโลยี deepfake ^{[ 128 ] [ 129 ] [ 130 ] [ 131 ]}อย่างไรก็ตาม ทั้งคู่บอกกับThe Vergeว่าพวกเขาไม่ได้ใช้ deepfake แต่ใช้แค่คนหน้าเหมือน^{[ 132 ]}
• ในเดือนพฤษภาคม พ.ศ. 2566 วิดีโอ deepfake ของรองประธานาธิบดีคามาลา แฮร์ริสที่พูดจาไม่ชัดและพูดจาไร้สาระเกี่ยวกับวันนี้ พรุ่งนี้ และเมื่อวานนี้ แพร่กระจายอย่างรวดเร็วในโซเชียลมีเดีย^{[ 133 ] [ 134 ]}
• ในเดือนมิถุนายน พ.ศ. 2566 ในสหรัฐอเมริกาแคมเปญหาเสียงเลือกตั้งประธานาธิบดีของรอน เดแซนติส ใช้ deepfake เพื่อบิดเบือนภาพลักษณ์ของโดนัลด์ ทรัมป์ ^{[ 135 ]}
• ในเดือนพฤศจิกายน พ.ศ. 2566 วิดีโอ deepfake ของนายกรัฐมนตรีเยอรมนีOlaf Scholzที่ประกาศแผนการห้ามกิจกรรมทางการเมืองของพรรคAfDถูกอัปโหลดไปยัง YouTube โดย Zentrum für Politische Schönheit (ศูนย์ความงามทางการเมือง) ^{[ 136 ]}
• ในเดือนมีนาคม พ.ศ. 2567 ระหว่างการเลือกตั้งสภาแห่งรัฐของอินเดีย เทคโนโลยี deepfake ถูกนำมาใช้กันอย่างแพร่หลายโดยผู้สมัครทางการเมืองเพื่อเข้าถึงผู้มีสิทธิเลือกตั้ง นักการเมืองหลายคนใช้ deepfake ที่สร้างโดย AI ซึ่งสร้างโดยสตาร์ทอัพ The Indian Deepfaker ที่ก่อตั้งโดย Divyendra Singh Jadoun ^{[ 137 ]}เพื่อแปลสุนทรพจน์ของพวกเขาเป็นภาษาท้องถิ่นหลายภาษา ทำให้พวกเขาสามารถมีส่วนร่วมกับชุมชนภาษาที่หลากหลายทั่วประเทศ การใช้ deepfake ในการรณรงค์ทางการเมืองที่เพิ่มขึ้นนี้ถือเป็นการเปลี่ยนแปลงครั้งสำคัญในกลยุทธ์การหาเสียงเลือกตั้งในอินเดีย^{[ 138 ] [ 139 ]}
• ในเดือนมิถุนายน พ.ศ. 2568 รัฐบาลของJavier Milei สนับสนุนการรณรงค์ใส่ร้ายนักข่าว Mengolini ซึ่งส่วนหนึ่งมีพื้นฐานมาจาก deepfake ที่ชัดเจน ^{[ 140 ] [ 141 ]}
• ในเดือนกรกฎาคม พ.ศ. 2568 โดนัลด์ ทรัมป์ได้โพสต์ deepfake บน บัญชี Truth Social ของเขา โดยแสดงภาพอดีตประธานาธิบดีบารัค โอบามาถูกจับกุมที่ทำเนียบขาวและถูกนำตัวไปคุมขัง^{[ 142 ] [ 143 ]}

ในปี 2017 วิดีโอโป๊ปลอม (Deepfake) ปรากฏขึ้นอย่างแพร่หลายบนอินเทอร์เน็ต โดยเฉพาะบนReddit [ ^{144 ] ณ}ปี 2019 วิดีโอโป๊ปลอมจำนวนมากบนอินเทอร์เน็ตมีภาพของดาราหญิงที่มีชื่อเสียง ซึ่งมักใช้ภาพลักษณ์ของพวกเธอโดยไม่ได้รับความยินยอม^{[ 145 ]}รายงานที่เผยแพร่ในเดือนตุลาคม 2019 โดย Deeptrace สตาร์ทอัพด้านความปลอดภัยทางไซเบอร์ของเนเธอร์แลนด์ ประเมินว่า 96% ของวิดีโอโป๊ปลอมทั้งหมดบนอินเทอร์เน็ตเป็นภาพลามกอนาจาร^{[ 146 ]} ณ ปี 2018 วิดีโอโป๊ปลอมของ Daisy Ridleyได้รับความสนใจเป็นครั้งแรก^{[ 144 ]}และอีกหลายเรื่อง^{[ 147 ] [ 148 ] [ 149 ]}ณ เดือนตุลาคม 2019 ตัวละครในวิดีโอโป๊ปลอมส่วนใหญ่บนอินเทอร์เน็ตเป็นนักแสดงชาวอังกฤษและอเมริกัน^{[ 145 ]}อย่างไรก็ตาม ประมาณหนึ่งในสี่ของตัวละครเป็นชาวเกาหลีใต้ ซึ่งส่วนใหญ่เป็นดารา K-pop ^{[ 145 ] [ 150 ]}

ในเดือนมิถุนายน พ.ศ. 2562 แอปพลิเคชันสำหรับWindowsและLinuxที่ชื่อ DeepNude ได้ถูกปล่อยออกมา ซึ่งใช้โครงข่ายประสาทเทียม โดยเฉพาะโครงข่ายปฏิปักษ์เชิงกำเนิดเพื่อลบเสื้อผ้าออกจากภาพของผู้หญิง แอปนี้มีทั้งเวอร์ชันเสียเงินและเวอร์ชันฟรี โดยเวอร์ชันเสียเงินมีราคา 50 ดอลลาร์สหรัฐ^{[ 151 ] [ 152 ]}ในวันที่ 27 มิถุนายน ผู้สร้างได้ลบแอปพลิเคชันและคืนเงินให้กับผู้บริโภค^{[ 153 ]}

ดาราหญิงมักเป็นเป้าหมายหลักเมื่อพูดถึงภาพลามกอนาจารแบบ deepfake ในปี 2023 วิดีโอ deepfake ของเอ็มมา วัตสันและสการ์เล็ต โจแฮนสัน ปรากฏขึ้นทางออนไลน์ ในแอปสลับใบหน้า^{[ 154 ]}ในปี 2024 ภาพ deepfake ของเทย์เลอร์ สวิฟต์แพร่ กระจายทางออนไลน์ ^{[ 155 ]}

การศึกษาทางวิชาการรายงานว่าผู้หญิง กลุ่ม LGBT และคนผิวสี (โดยเฉพาะนักกิจกรรม นักการเมือง และผู้ที่ตั้งคำถามเกี่ยวกับอำนาจ) มีความเสี่ยงสูงที่จะตกเป็นเป้าหมายของการเผยแพร่ภาพลามกอนาจารแบบ deepfake ^{[ 156 ]}เทคโนโลยี deepfake ได้กลายเป็นเครื่องมือสำหรับการคุกคามและความรุนแรงทางเพศ โดยมุ่งเป้าไปที่ผู้หญิงและกลุ่มชายขอบเป็นสัดส่วน มีข้อกังวลด้านจริยธรรมและความเท่าเทียมกันเพิ่มมากขึ้นเกี่ยวกับเจตนาข่มขู่และทำลายชื่อเสียงที่อยู่เบื้องหลังสื่อประเภทนี้^{[ 157 ]}

Deepfake เริ่มมีการนำมาใช้ในแพลตฟอร์มโซเชียลมีเดียยอดนิยม โดยเฉพาะอย่างยิ่งผ่าน Zao แอป deepfake ของจีนที่อนุญาตให้ผู้ใช้แทนที่ใบหน้าของตนเองลงบนใบหน้าของตัวละครในฉากจากภาพยนตร์และรายการโทรทัศน์ เช่นRomeo + JulietและGame of Thrones [ ^{158 ] เดิมที}แอปนี้ถูกตรวจสอบอย่างเข้มงวดเกี่ยวกับข้อมูลผู้ใช้ที่รุกล้ำและนโยบายความเป็นส่วนตัว หลังจากนั้นบริษัทได้ออกแถลงการณ์อ้างว่าจะแก้ไขนโยบาย^{[ 20 ]}ในเดือนมกราคม 2020 Facebook ประกาศว่าจะนำมาตรการใหม่มาใช้เพื่อต่อต้านสิ่งนี้บนแพลตฟอร์มของตน^{[ 159 ]}

บริการวิจัยรัฐสภาอ้างหลักฐานที่ไม่ระบุรายละเอียดที่แสดงให้เห็นว่าเจ้าหน้าที่หน่วยข่าวกรอง ต่างประเทศ ใช้ deepfakes เพื่อสร้างบัญชีโซเชียลมีเดียเพื่อวัตถุประสงค์ในการสรรหา บุคคลที่ ^มีสิทธิ์เข้าถึงข้อมูลลับ [ ^{81 ]}

ในปี 2021 วิดีโอ deepfake ที่สมจริงของนักแสดงทอม ครูซถูกเผยแพร่บนTikTokซึ่งกลายเป็นไวรัลและมียอดวิวมากกว่าหลายสิบล้านครั้ง วิดีโอ deepfake ดังกล่าวมี "ตัวปลอมที่สร้างขึ้นโดยปัญญาประดิษฐ์" ของครูซกำลังทำกิจกรรมต่างๆ เช่น ตีลูกกอล์ฟ โชว์มายากลเหรียญ และกัดอมยิ้ม ผู้สร้างคลิปดังกล่าวคือคริส อูเม ศิลปินVFX ชาวเบลเยียม^{[ 160 ]}กล่าวว่าเขาเริ่มสนใจ deepfake ในปี 2018 และเห็น "ศักยภาพในการสร้างสรรค์" ของมัน^{[ 161 ] [ 162 ]}

ภาพถ่ายดีพเฟค (Deepfake) สามารถนำมาใช้สร้างหุ่นกระบอก (Sockpuppets)ซึ่งเป็นบุคคลที่ไม่มีอยู่จริง โดยหุ่นกระบอกเหล่านี้สามารถเคลื่อนไหวได้ทั้งในโลกออนไลน์และสื่อดั้งเดิม ภาพถ่ายดีพเฟคภาพหนึ่งดูเหมือนจะถูกสร้างขึ้นพร้อมกับคำบรรยายสำหรับบุคคลที่ไม่มีอยู่จริงชื่อ โอลิเวอร์ เทย์เลอร์ (Oliver Taylor) ซึ่งระบุว่าเป็นนักศึกษามหาวิทยาลัยในสหราชอาณาจักร ตัวตนของโอลิเวอร์ เทย์เลอร์ ได้เขียนบทความแสดงความคิดเห็นในหนังสือพิมพ์หลายฉบับ และเคลื่อนไหวในสื่อออนไลน์โจมตีนักวิชาการด้านกฎหมายชาวอังกฤษและภรรยาของเขาว่าเป็น "ผู้เห็นอกเห็นใจผู้ก่อการร้าย" นักวิชาการคนดังกล่าวได้รับความสนใจจากนานาชาติในปี 2018 เมื่อเขายื่นฟ้องร้องในอิสราเอลต่อบริษัท NSO ซึ่งเป็นบริษัทด้านการเฝ้าระวัง ในนามของประชาชนในเม็กซิโกที่อ้างว่าตกเป็นเหยื่อของเทคโนโลยีการแฮ็กโทรศัพท์ ของ NSO สำนักข่าวรอยเตอร์พบข้อมูลเกี่ยวกับโอลิเวอร์ เทย์เลอร์ เพียงเล็กน้อย และมหาวิทยาลัยของ "เขา" ก็ไม่มีข้อมูลใดๆ เกี่ยวกับเขา ผู้เชี่ยวชาญหลายคนเห็นพ้องต้องกันว่าภาพโปรไฟล์เป็นภาพดีพเฟค หนังสือพิมพ์หลายฉบับยังไม่ได้ถอนบทความที่อ้างถึงเขา หรือลบออกจากเว็บไซต์ เกรงกันว่าเทคนิคดังกล่าวจะเป็นสนามรบใหม่ของการบิดเบือนข้อมูล^{[ 163 ]}

แม้ว่าภาพถ่ายปลอมจะมีอยู่มากมายมานานแล้ว แต่การปลอมแปลงภาพยนตร์นั้นยากกว่า และการมีอยู่ของ deepfake ทำให้การจำแนกวิดีโอว่าเป็นของจริงหรือไม่นั้นยากขึ้น^{[ 117 ]}นักวิจัย AI Alex Champandard กล่าวว่าผู้คนควรรู้ว่าสิ่งต่างๆ สามารถถูกทำลายได้เร็วเพียงใดด้วยเทคโนโลยี deepfake และปัญหาไม่ใช่ปัญหาทางเทคนิค แต่เป็นปัญหาที่ต้องแก้ไขด้วยความเชื่อมั่นในข้อมูลและการรายงานข่าว^{[ 117 ]}ศาสตราจารย์Hao Liจาก ภาควิชาวิทยาการคอมพิวเตอร์ มหาวิทยาลัยเซาท์เทิร์นแคลิฟอร์เนียกล่าวว่า deepfake ที่สร้างขึ้นเพื่อการใช้งานที่เป็นอันตราย เช่นข่าวปลอมจะยิ่งเป็นอันตรายมากขึ้นหากไม่มีการดำเนินการใดๆ เพื่อเผยแพร่ความตระหนักเกี่ยวกับเทคโนโลยี deepfake ^{[ 164 ]} Li คาดการณ์ว่าวิดีโอจริงและ deepfake จะแยกแยะได้ยากขึ้นภายในเวลาเพียงหกเดือน นับจากเดือนตุลาคม 2019 เนื่องจากความก้าวหน้าอย่างรวดเร็ว^{[ 165 ]}ในด้านปัญญาประดิษฐ์และกราฟิกคอมพิวเตอร์^{[ 164 ]}อดีตหัวหน้าหน่วยปราบปรามการฉ้อโกงของ Google อย่าง Shuman Ghosemajumderเรียก deepfake ว่าเป็นประเด็น "ที่น่าเป็นห่วงของสังคม" และกล่าวว่า deepfake จะพัฒนาไปจนถึงจุดที่สามารถสร้างขึ้นได้โดยอัตโนมัติ และบุคคลหนึ่งๆ สามารถใช้เทคโนโลยีนี้ในการผลิตวิดีโอ deepfake ได้หลายล้านรายการ^{[ 166 ]}

ข้อเสียเปรียบที่สำคัญประการหนึ่งคือ มนุษยชาติอาจตกอยู่ในยุคที่ไม่สามารถระบุได้อีกต่อไปว่าเนื้อหาของสื่อนั้นสอดคล้องกับความจริงหรือไม่^{[ 117 ] [ 167 ]} Deepfakes เป็นหนึ่งในเครื่องมือหลายอย่างสำหรับการโจมตีด้วยข้อมูลเท็จสร้างความสงสัย และบ่อนทำลายความไว้วางใจ พวกมันมีศักยภาพที่จะแทรกแซงการทำงานของระบอบประชาธิปไตยในสังคม เช่น การระบุวาระร่วมกัน การอภิปรายประเด็น การให้ข้อมูลประกอบการตัดสินใจ และการแก้ปัญหาผ่านการใช้อำนาจทางการเมือง^{[ 168 ]}ผู้คนอาจเริ่มมองว่าเหตุการณ์จริงเป็นเรื่องปลอม^{[ 169 ]}

ดีพเฟคมีศักยภาพที่จะสร้างความเสียหายอย่างร้ายแรงต่อบุคคลได้^{[ 170 ]}เนื่องจากดีพเฟคมักจะมุ่งเป้าไปที่บุคคลใดบุคคลหนึ่ง และ/หรือความสัมพันธ์ของบุคคลนั้นกับผู้อื่น โดยหวังว่าจะสร้างเรื่องราวที่มีพลังมากพอที่จะมีอิทธิพลต่อความคิดเห็นหรือความเชื่อของสาธารณชน ซึ่งสามารถทำได้ผ่านการหลอกลวงด้วยเสียงดีพเฟค ซึ่งเป็นการดัดแปลงเสียงเพื่อสร้างการโทรหรือการสนทนาปลอม^{[ 170 ]}อีกวิธีหนึ่งของการใช้ดีพเฟคคือการสร้างคำพูดส่วนตัวปลอม ซึ่งเป็นการดัดแปลงสื่อเพื่อสื่อถึงบุคคลที่แสดงความคิดเห็นที่สร้างความเสียหาย^{[ 170 ]}คุณภาพของวิดีโอหรือเสียงเชิงลบไม่จำเป็นต้องสูงมากนัก ตราบใดที่ภาพลักษณ์และการกระทำของบุคคลนั้นยังคงเป็นที่รู้จัก ดีพเฟคก็สามารถทำลายชื่อเสียงของพวกเขาได้^{[ 169 ]}

ในเดือนกันยายน พ.ศ. 2563 ไมโครซอฟต์ได้เปิดเผยต่อสาธารณะว่าพวกเขากำลังพัฒนาเครื่องมือซอฟต์แวร์ตรวจจับ Deepfake ^{[ 171 ]}

การตรวจจับเสียงปลอมเป็นงานที่ท้าทายซึ่งต้องอาศัยการวิเคราะห์สัญญาณพื้นฐานอย่างละเอียดเพื่อให้ได้ประสิทธิภาพที่เชื่อถือได้ แนวทางการเรียนรู้เชิงลึกแสดงให้เห็นว่าการออกแบบคุณลักษณะและการเพิ่มประสิทธิภาพโดยใช้การปิดบังมีส่วนช่วยในการตรวจจับที่ดีขึ้น^{[ 172 ]} เมื่อไม่นานมานี้ แนวทางที่ผสานรวมตัวสกัดคุณลักษณะที่ฝึกฝนได้เข้ากับกลยุทธ์การเพิ่มประสิทธิภาพเสียงที่แข็งแกร่งและหลากหลายได้แสดงให้เห็นถึงประสิทธิภาพที่ดีขึ้นโดยการทำให้โมเดลสามารถเรียนรู้การแสดงผลที่สามารถจับสิ่งประดิษฐ์จากการจัดการได้อย่างมีประสิทธิภาพมากขึ้น^{[ 173 ]}

การตรวจจับเสียงปลอมแบบบางส่วน ซึ่งมีการดัดแปลงสัญญาณเพียงบางส่วนเท่านั้น ถือเป็นความท้าทายที่สำคัญในสาขานี้ การตั้งค่านี้ทำให้เกิดความซับซ้อนเพิ่มเติมมากกว่างานตรวจจับแบบเดิม เนื่องจากไม่เพียงแต่ต้องระบุการปลอมแปลงเท่านั้น แต่ยังต้องระบุตำแหน่งของบริเวณที่ถูกดัดแปลงอย่างแม่นยำอีกด้วย ยิ่งไปกว่านั้น ความจำเป็นในการตรวจจับส่วนที่ถูกปลอมแปลงซึ่งสั้นและมักจะละเอียดอ่อนภายในเสียงจริงเป็นส่วนใหญ่ ยิ่งเพิ่มความยากของปัญหามากขึ้นไปอีก^{[ 174 ]}

งานวิจัยทางวิชาการส่วนใหญ่ที่เกี่ยวข้องกับ deepfake มุ่งเน้นไปที่การตรวจจับวิดีโอ deepfake ^{[ 175 ]}แนวทางหนึ่งในการตรวจจับ deepfake คือการใช้อัลกอริธึมเพื่อจดจำรูปแบบและตรวจจับความไม่สอดคล้องกันเล็กน้อยที่เกิดขึ้นในวิดีโอ deepfake ^{[ 175 ]}ตัวอย่างเช่น นักวิจัยได้พัฒนาระบบอัตโนมัติที่ตรวจสอบวิดีโอเพื่อหาข้อผิดพลาด เช่น รูปแบบการกระพริบของแสงที่ไม่สม่ำเสมอ^{[ 176 ] [ 18 ]}แนวทางนี้ถูกวิพากษ์วิจารณ์เนื่องจากการตรวจจับ deepfake มีลักษณะเป็น " เป้าหมายที่เคลื่อนที่ได้ " ซึ่งการผลิต deepfake ยังคงเปลี่ยนแปลงและพัฒนาขึ้นเรื่อยๆ ตามการพัฒนาของอัลกอริธึมในการตรวจจับ deepfake ^{[ 175 ]}เพื่อประเมินอัลกอริธึมที่มีประสิทธิภาพที่สุดสำหรับการตรวจจับ deepfake กลุ่มบริษัทเทคโนโลยีชั้นนำได้ร่วมกันจัดงาน Deepfake Detection Challenge เพื่อเร่งพัฒนาเทคโนโลยีในการระบุเนื้อหาที่ถูกดัดแปลง^{[ 177 ]}โมเดลที่ชนะการแข่งขัน Deepfake Detection Challenge มีความแม่นยำ 65% ในชุดทดสอบ 4,000 วิดีโอ^{[ 178 ]}ทีมงานที่สถาบันเทคโนโลยีแมสซาชูเซตส์ได้ตีพิมพ์บทความในเดือนธันวาคม 2021 ซึ่งแสดงให้เห็นว่ามนุษย์ทั่วไปมีความแม่นยำ 69–72% ในการระบุตัวอย่างวิดีโอแบบสุ่มจำนวน 50 รายการ^{[ 179 ]}

นอกเหนือจากการตรวจจับอัตโนมัติแล้ว ผู้ชมยังสามารถอาศัยบริบทและเบาะแสทางประสาทสัมผัสเพื่อระบุเนื้อหา deep fake ได้ การศึกษาพบว่าผู้ชมสามารถสังเกตความไม่สอดคล้องกันของภาษากาย ลักษณะใบหน้า แสง และเสียงกับการเคลื่อนไหวของปาก นี่เป็นวิธีการบางอย่างในการระบุเนื้อหาที่ไม่แท้จริง แต่ไม่ใช่เป็นวิธีที่น่าเชื่อถือที่สุดเสมอไปในการพิจารณาว่าเนื้อหานั้นเป็นของจริงหรือไม่ หลักฐานชี้ให้เห็นว่าในสภาวะการรับชมตามธรรมชาติ ผู้ชมไม่น่าจะสามารถจำแนกวิดีโอ deep fake ได้ดีกว่าวิดีโอที่แท้จริง การใช้คำเตือนเนื้อหาแสดงให้เห็นผลลัพธ์ที่หลากหลาย โดยคำเตือนไม่ได้ปรับปรุงความแม่นยำในการตรวจจับ และยังส่งผลให้บางคนตัดสินวิดีโอผิดพลาดว่าเป็น deep fake อีกด้วย^{[ 180 ]}

ทีมอื่นที่นำโดย Wael AbdAlmageed จาก Visual Intelligence and Multimedia Analytics Laboratory (VIMAL) ของInformation Sciences Instituteที่มหาวิทยาลัย Southern Californiaได้พัฒนาตัวตรวจจับ deepfake สองรุ่น^{[ 181 ] [ 182 ]}โดยใช้โครงข่ายประสาทเทียมแบบ convolutionalรุ่นแรก^{[ 181 ]}ใช้โครงข่ายประสาทเทียมแบบ recurrentเพื่อตรวจจับความไม่สอดคล้องกันเชิงพื้นที่และเวลาเพื่อระบุสิ่งแปลกปลอมทางภาพที่เกิดจากกระบวนการสร้าง deepfake อัลกอริทึมนี้มีความแม่นยำ 96% บน FaceForensics++ ซึ่งเป็นเกณฑ์มาตรฐาน deepfake ขนาดใหญ่เพียงแห่งเดียวที่มีอยู่ในขณะนั้น รุ่นที่สอง^{[ 182 ]}ใช้โครงข่ายลึกแบบ end-to-end เพื่อแยกความแตกต่างระหว่างสิ่งแปลกปลอมและข้อมูลใบหน้าเชิงความหมายระดับสูงโดยใช้โครงข่ายแบบสองสาขา สาขาแรกส่งต่อข้อมูลสีในขณะที่สาขาอื่นระงับเนื้อหาใบหน้าและขยายความถี่ระดับต่ำโดยใช้ Laplacian of Gaussian ( LoG)

เทคนิคอื่นๆ ชี้ให้เห็นว่าบล็อกเชนสามารถใช้ตรวจสอบแหล่งที่มาของสื่อได้^{[ 183 ]}ตัวอย่างเช่น วิดีโออาจต้องได้รับการตรวจสอบผ่านบัญชีแยกประเภทก่อนที่จะแสดงบนแพลตฟอร์มโซเชียลมีเดีย^{[ 183 ]}ด้วยเทคโนโลยีนี้ เฉพาะวิดีโอจากแหล่งที่เชื่อถือได้เท่านั้นที่จะได้รับการอนุมัติ ซึ่งจะช่วยลดการแพร่กระจายของสื่อ deepfake ที่อาจเป็นอันตรายได้^{[ 183 ]}

มีการเสนอให้ลงนามดิจิทัลในวิดีโอและภาพทั้งหมดโดยกล้องและกล้องวิดีโอ รวมถึงกล้องสมาร์ทโฟน เพื่อต่อสู้กับ deepfake ^{[ 184 ]}วิธีนี้ทำให้สามารถติดตามภาพถ่ายหรือวิดีโอทุกชิ้นกลับไปยังเจ้าของเดิมได้ ซึ่งสามารถนำมาใช้ติดตามผู้เห็นต่างได้^{[ 184 ]}

วิธีง่ายๆ ในการตรวจสอบการโทรวิดีโอแบบ deepfake คือการขอให้ผู้โทรหันข้าง^{[ 185 ]}

ผู้เชี่ยวชาญด้านกฎหมายกำลังตั้งคำถามอย่างจริงจังว่ากรอบการกำกับดูแลในปัจจุบันและที่กำลังเกิดขึ้นใหม่นั้นสร้างความสมดุลระหว่างความก้าวหน้าในการตรวจจับ deepfake กับการคุ้มครองสิทธิส่วนบุคคลอย่างเพียงพอหรือไม่ กฎหมายที่เกี่ยวข้องซึ่งกำลังถูกตรวจสอบ ได้แก่กฎหมาย AI ของสหภาพยุโรประเบียบการคุ้มครองข้อมูลทั่วไป (GDPR) กฎหมายบริการดิจิทัลในสหภาพยุโรป รวมถึงกฎหมายของรัฐและรัฐบาลกลางที่กระจัดกระจายในสหรัฐอเมริกากฎหมายความปลอดภัยออนไลน์ปี 2023ในสหราชอาณาจักร และบทบัญญัติการบริหารของจีนเกี่ยวกับการสังเคราะห์เชิงลึกในบริการข้อมูลบนอินเทอร์เน็ต (ที่รู้จักกันทั่วไปในชื่อบทบัญญัติการสังเคราะห์เชิงลึก) ^{[ 186 ]}นักวิชาการกำลังประเมินว่ากรอบเหล่านี้สามารถจัดการกับปฏิสัมพันธ์ที่ซับซ้อนระหว่างเทคโนโลยี สิทธิ และความรับผิดชอบในบริบทของ deepfake ได้อย่างมีประสิทธิภาพหรือไม่^{[ 187 ]}

เฮนรี อัจเดอร์ ผู้ทำงานให้กับ Deeptrace บริษัทที่ตรวจจับ deepfake กล่าวว่ามีหลายวิธีในการป้องกัน deepfake ในที่ทำงาน สามารถใช้รหัสผ่านเชิงความหมายหรือคำถามลับในการสนทนาที่สำคัญ การตรวจสอบเสียงและคุณสมบัติความปลอดภัยทางชีวเมตริก อื่นๆ ควรได้รับการอัปเดต ให้ความรู้แก่พนักงานเกี่ยวกับ deepfake ^{[ 169 ]}

เนื่องจากความสามารถของ deepfake ในการหลอกลวงผู้ชมและเลียนแบบบุคคลได้อย่างน่าเชื่อถือ งานวิจัยชี้ให้เห็นว่าแนวคิดเรื่องความจริงผ่านการสังเกตนั้นไม่สามารถเชื่อถือได้อย่างเต็มที่^{[ 188 ]}นอกจากนี้ ความรู้ความเข้าใจเกี่ยวกับเทคโนโลยีในหมู่ประชากรอาจถูกตั้งคำถามได้เนื่องจากความสำเร็จที่ค่อนข้างใหม่ของ deepfake ที่น่าเชื่อถือ^{[ 188 ]}เมื่อรวมกับความสะดวกในการเข้าถึงเทคโนโลยีที่เพิ่มขึ้น สิ่งนี้ทำให้ผู้เชี่ยวชาญบางคนกังวลว่าบางสังคมยังไม่พร้อมที่จะโต้ตอบกับ deepfake อย่างเป็นธรรมชาติโดยปราศจากผลกระทบที่อาจเกิดขึ้นจากการเผยแพร่ข้อมูลที่ผิดพลาดและข้อมูลเท็จ^{[ 188 ]}ความรู้ความเข้าใจด้านสื่อได้รับการพิจารณาว่าเป็นแนวทางแก้ไขที่เป็นไปได้ในการ "เตรียมความพร้อม" ให้ผู้ชมระบุ deepfake เมื่อพวกเขาพบเจอโดยธรรมชาติโดยการส่งเสริมการคิดเชิงวิพากษ์^{[ 188 ]}แม้ว่าการศึกษาความรู้ด้านสื่ออาจให้ผลลัพธ์ที่ขัดแย้งกันในความสำเร็จโดยรวมในการตรวจจับ deepfake ^{[ 189 ]}งานวิจัยชี้ให้เห็นว่าการคิดเชิงวิพากษ์และมุมมองที่สงสัยต่อสื่อที่นำเสนอมีประสิทธิภาพในการช่วยให้บุคคลสามารถระบุ deepfake ได้^{[ 189 ] [ 190 ]}กรอบความรู้ด้านสื่อส่งเสริมการวิเคราะห์เชิงวิพากษ์ของสื่อและแรงจูงใจเบื้องหลังการนำเสนอเนื้อหาที่เกี่ยวข้อง และสามารถลดความเสี่ยงต่อข้อมูลเท็จได้^{[ 191 ]}ความรู้ด้านสื่อมีแนวโน้มที่ดีในฐานะมาตรการตอบโต้ทางปัญญาที่มีศักยภาพเมื่อต้องรับมือกับ deepfake ที่เป็นอันตราย^{[ 189 ]}

ในเดือนมีนาคม พ.ศ. 2567 พระราชวังบักกิงแฮมได้เผยแพร่คลิปวิดีโอประกาศว่าเคท มิดเดิลตันเป็นมะเร็งและกำลังเข้ารับการรักษาด้วยเคมีบำบัด การปรากฏของแหวนที่มิดเดิลตันสวมในคลิปทำให้เกิดข่าวลือว่าคลิปดังกล่าวเป็น deepfake ^{[ 192 ]}จอห์นาธาน เพอร์กินส์ ผู้อำนวยการฝ่ายเชื้อชาติและความเสมอภาคของ UCLAสงสัยว่ามิดเดิลตันเป็นมะเร็งจริงหรือไม่ และยังคาดการณ์เพิ่มเติมว่าเธออาจอยู่ในภาวะวิกฤตหรือเสียชีวิตแล้ว^{[ 193 ]}

นักวิจัยได้ศึกษาความสามารถและผลกระทบของ deepfakes เมื่อใช้ใน แคมเปญ บิดเบือนข้อมูลรวมถึงศักยภาพของ deepfakes ในการหลีกเลี่ยงความสงสัยของบุคคลและมีอิทธิพลต่อมุมมองของพวกเขาในประเด็นต่างๆ^{[ 194 ] [ 167 ]}แตกต่างจากข้อมูลเท็จแบบหยาบๆ การโฆษณาชวนเชื่อทางการเมืองผ่าน AI ที่สร้างขึ้นมักจะนำเอาแบบแผนทางวัฒนธรรม สื่อภาพ และการเสียดสีมาสร้างข้อความที่สะท้อนอารมณ์ซึ่งยากต่อการตรวจสอบข้อเท็จจริงโดยไม่สูญเสียความละเอียดอ่อน^{[ 195 ]}เนื่องจากการพัฒนาอย่างต่อเนื่องของเทคโนโลยีที่ปรับปรุงความสามารถในการหลอกลวงของ deepfakes นักวิชาการบางคนเชื่อว่า deepfakes อาจเป็นภัยคุกคามที่สำคัญต่อสังคมประชาธิปไตย^{[ 196 ]}การศึกษาได้ตรวจสอบผลกระทบของ deepfakes ทางการเมือง^{[ 194 ] [ 196 ] [ 167 ]}ในการศึกษาแยกกันสองครั้งที่มุ่งเน้นผู้เข้าร่วมชาวดัตช์ พบว่า deepfakes มีผลกระทบที่แตกต่างกันต่อผู้ชม ในฐานะเครื่องมือในการบิดเบือนข้อมูล deepfake ไม่ได้ก่อให้เกิดปฏิกิริยาหรือการเปลี่ยนแปลงมุมมองที่รุนแรงกว่าการบิดเบือนข้อมูลแบบดั้งเดิมเสมอไป^{[ 194 ]}อย่างไรก็ตาม deepfake ก่อให้เกิดผลในเชิงบวกต่อบุคคลที่มีความคิดที่สอดคล้องกับมุมมองที่ส่งเสริมโดยการบิดเบือนข้อมูล deepfake ในการศึกษา^{[ 194 ]}นอกจากนี้ deepfake ยังมีประสิทธิภาพเมื่อออกแบบมาเพื่อกำหนดเป้าหมายกลุ่มประชากรเฉพาะที่เกี่ยวข้องกับประเด็นใดประเด็นหนึ่ง^{[ 196 ]} "การกำหนดเป้าหมายแบบละเอียด" เกี่ยวข้องกับการทำความเข้าใจประเด็นทางการเมืองที่ละเอียดอ่อนของกลุ่มประชากรเฉพาะเพื่อสร้าง deepfake ที่กำหนดเป้าหมาย จากนั้น deepfake ที่กำหนดเป้าหมายจะถูกนำไปใช้เพื่อเชื่อมต่อและมีอิทธิพลต่อมุมมองของกลุ่มประชากรนั้น deepfake ที่กำหนดเป้าหมายพบว่ามีประสิทธิภาพอย่างมากโดยนักวิจัยบางคน^{[ 196 ]}นักวิจัยคนอื่นๆ ในสหราชอาณาจักรพบว่าการบิดเบือนข้อมูลทางการเมือง deepfake ไม่ได้มีผลกระทบต่อประชากรอย่างแน่นอน นอกเหนือจากข้อบ่งชี้ว่าอาจทำให้เกิดความไม่ไว้วางใจหรือความไม่แน่นอนในแหล่งที่มาที่ให้ deepfake นั้น^{[ 167 ]}ผลกระทบจากความไม่ไว้วางใจในแหล่งข้อมูลทำให้เหล่านักวิจัยสรุปว่า deepfakes อาจมีผลกระทบอย่างมากในสภาพแวดล้อมข้อมูลที่มี "ความไว้วางใจต่ำ" ซึ่งสถาบันสาธารณะไม่ได้รับความไว้วางใจจากสาธารณชน^{[ 167 ]}

ทั่วโลกมีกรณีสำคัญหลายกรณีที่ deepfake ถูกนำมาใช้เพื่อบิดเบือนภาพลักษณ์ของนักการเมืองที่มีชื่อเสียงและบุคคลสาธารณะอื่นๆ^{[ 197 ]}

ผลประโยชน์ของคนโกหกเป็นปรากฏการณ์ทางการเมืองและสังคมที่เมื่อเผชิญกับวิดีโอหรือบันทึกเสียงจริงที่บ่งชี้ความผิดหรือทำให้ตนเองอับอาย บุคคลจะอ้างว่าบันทึกเหล่านั้นเป็น AI เพื่อปัดข้อกล่าวหาและได้รับความเห็นใจ^{[ 198 ]}

บารัค โอบามา

เมื่อวันที่ 17 เมษายน 2561 นักแสดงชาวอเมริกันจอร์แดน พีล , บัซซ์ฟีดและมังกี้พอว์ โปรดักชันส์ได้โพสต์วิดีโอปลอม (deepfake) ของบารัค โอบามา ลงในยูทูบ ซึ่งแสดงให้เห็นบารัค โอบามา กำลังด่าทอและเรียกโดนัลด์ ทรัมป์ ด้วยถ้อยคำ หยาบคาย ^{[ 200 ]}ในวิดีโอปลอมนี้ เสียงและใบหน้าของพีลถูกแปลงและดัดแปลงให้เป็นของโอบามา จุดประสงค์ของวิดีโอนี้คือเพื่อแสดงให้เห็นถึงผลที่ตามมาที่อันตรายและพลังของวิดีโอปลอม และวิธีที่วิดีโอปลอมสามารถทำให้ใครก็ตามพูดอะไรก็ได้

โดนัลด์ ทรัมป์

เมื่อวันที่ 5 พฤษภาคม 2019 Derpfakes ได้โพสต์ deepfake ของโดนัลด์ ทรัมป์ลงใน YouTube โดยอ้างอิงจากละครสั้น ที่ จิมมี่ ฟอลลอนแสดงในรายการ The Tonight Show [ ^{201 ] ใน}ละครสั้นต้นฉบับ (ออกอากาศเมื่อวันที่ 4 พฤษภาคม 2016) จิมมี่ ฟอลลอนแต่งตัวเป็นโดนัลด์ ทรัมป์ และแสร้งทำเป็นคุยโทรศัพท์กับบารัค โอบามา โดยพูดคุยในลักษณะที่แสดงให้เห็นว่าเขากำลังโอ้อวดชัยชนะในการเลือกตั้งขั้นต้นในรัฐอินเดียนา^{[ 201 ]}ใน deepfake ใบหน้าของจิมมี่ ฟอลลอนถูกเปลี่ยนเป็นใบหน้าของโดนัลด์ ทรัมป์ โดยที่เสียงยังคงเหมือนเดิม วิดีโอ deepfake นี้ผลิตโดย Derpfakes ด้วยเจตนาที่จะสร้างความขบขัน ในเดือนมีนาคม 2023 ภาพชุดหนึ่งปรากฏขึ้นแสดงให้เห็นเจ้าหน้าที่ตำรวจนิวยอร์กกำลังควบคุมตัวทรัมป์^{[ 202 ]}ภาพเหล่านี้สร้างขึ้นโดยใช้Midjourneyและถูกโพสต์ลงในTwitterโดยEliot Higgins ในตอนแรก แต่ต่อมาถูกแชร์ต่อโดยไม่มีบริบท ทำให้ผู้ชมบางคนเชื่อว่าเป็นภาพถ่ายจริง^{[ 199 ]}

แนนซี เพโลซี

ในปี 2019 คลิปจากสุนทรพจน์ของแนนซี เพโลซี ที่ ศูนย์เพื่อความก้าวหน้าของอเมริกา (เมื่อวันที่ 22 พฤษภาคม 2019) ซึ่งวิดีโอถูกทำให้ช้าลง นอกเหนือจากการเปลี่ยนแปลงระดับเสียง เพื่อให้ดูเหมือนว่าเธอเมาสุรา ได้ถูกเผยแพร่อย่างกว้างขวางบนโซเชียลมีเดีย นักวิจารณ์โต้แย้งว่านี่ไม่ใช่ deepfake แต่เป็นshallowfake ซึ่งเป็นรูป แบบการดัดแปลงวิดีโอที่ไม่ซับซ้อนนัก^{[ 203 ] [ 204 ]}

มาร์ค ซักเคอร์เบิร์ก

ในเดือนพฤษภาคม พ.ศ. 2562 ศิลปินสองคนที่ร่วมงานกับบริษัท CannyAI ได้สร้างวิดีโอ deepfake ของมาร์ค ซักเคอร์เบิร์ก ผู้ก่อตั้ง Facebook ที่พูดถึงการเก็บรวบรวมและควบคุมข้อมูลจากผู้คนหลายพันล้านคน วิดีโอนี้เป็นส่วนหนึ่งของนิทรรศการเพื่อให้ความรู้แก่สาธารณชนเกี่ยวกับอันตรายของปัญญาประดิษฐ์^{[ 205 ] [ 206 ]}

คิมจองอึน และวลาดิมีร์ ปูติน

เมื่อวันที่ 29 กันยายน 2020 วิดีโอปลอมของผู้นำเกาหลีเหนือคิม จองอุนและประธานาธิบดีรัสเซียวลาดิมีร์ ปูตินถูกอัปโหลดไปยัง YouTube โดยกลุ่มสนับสนุนที่ไม่ฝักใฝ่ฝ่ายใดชื่อRepresentUs [ ^{207 ] วิดีโอ}ปลอมของคิมและปูตินมีจุดประสงค์เพื่อออกอากาศต่อสาธารณะในรูปแบบโฆษณา เพื่อสื่อให้เห็นว่าการแทรกแซงการเลือกตั้งของสหรัฐฯ โดยผู้นำเหล่านี้จะเป็นอันตรายต่อประชาธิปไตยของสหรัฐฯ โฆษณาเหล่านี้ยังมุ่งหวังที่จะทำให้ชาวอเมริกันตกใจและตระหนักถึงความเปราะบางของประชาธิปไตย และวิธีที่สื่อและข่าวสารสามารถมีอิทธิพลต่อทิศทางของประเทศได้อย่างมากโดยไม่คำนึงถึงความน่าเชื่อถือ^{[ 207 ]}อย่างไรก็ตาม แม้ว่าโฆษณาจะมีข้อความปิดท้ายที่ระบุว่าภาพวิดีโอไม่เป็นความจริง แต่ในที่สุดก็ไม่ได้ออกอากาศเนื่องจากความกังวลและความอ่อนไหวเกี่ยวกับปฏิกิริยาของชาวอเมริกัน^{[ 207 ]}เมื่อวันที่ 5 มิถุนายน 2023 แหล่งข่าวที่ไม่ทราบชื่อได้ออกอากาศวิดีโอปลอมของวลาดิมีร์ ปูติน ทางสถานีวิทยุและโทรทัศน์หลายแห่ง ในคลิป ปูตินปรากฏตัวกล่าวสุนทรพจน์ประกาศการรุกรานรัสเซียและเรียกร้องให้มีการระดมพลกองทัพทั่วประเทศ^{[ 208 ]}

โวโลดีมีร์ เซเลนสกี

เมื่อวันที่ 16 มีนาคม 2022 วิดีโอ deepfake ความยาวหนึ่งนาทีที่แสดงภาพประธานาธิบดีโวโลดีมีร์ เซเลนสกี ของยูเครน กำลังบอกให้ทหารของเขาวางอาวุธและยอมจำนนระหว่างการรุกรานยูเครนของรัสเซียในปี 2022ได้ถูกเผยแพร่ในโซเชียลมีเดีย^{[ 168 ]}โซเชียลมีเดียของรัสเซียได้เผยแพร่ต่อ แต่หลังจากที่ถูกเปิดโปงว่าเป็นของปลอม Facebook และ YouTube ก็ได้ลบวิดีโอนั้นออกไป Twitter อนุญาตให้ใช้วิดีโอในทวีตที่ถูกเปิดโปงว่าเป็นของปลอม แต่กล่าวว่าจะลบออกหากโพสต์เพื่อหลอกลวงผู้คน แฮกเกอร์ได้แทรกข้อมูลเท็จลงในข่าวเลื่อนข้อความสดบนสถานีโทรทัศน์ Ukraine 24 และวิดีโอปรากฏขึ้นชั่วครู่บนเว็บไซต์ของสถานีพร้อมกับข้ออ้างเท็จที่ว่าเซเลนสกีได้หลบหนีออกจากเมืองหลวงเคียฟ ของประเทศ ยังไม่เป็นที่แน่ชัดในทันทีว่าใครเป็นผู้สร้าง deepfake ซึ่งเซเลนสกีได้ตอบโต้ด้วยวิดีโอของเขาเอง โดยกล่าวว่า "เราไม่มีแผนที่จะวางอาวุธใดๆ จนกว่าเราจะได้รับชัยชนะ" ^{[ 209 ]}

ข่าวหมาป่า

ในช่วงปลายปี 2022 ผู้เผยแพร่โฆษณาชวนเชื่อที่สนับสนุนจีนเริ่มเผยแพร่วิดีโอ deepfake ที่อ้างว่าเป็นของ "Wolf News" ซึ่งใช้นักแสดงสังเคราะห์ เทคโนโลยีนี้ได้รับการพัฒนาโดยบริษัท Synthesia ในลอนดอน ซึ่งทำการตลาดในฐานะทางเลือกราคาถูกแทนนักแสดงจริงสำหรับวิดีโอฝึกอบรมและ HR ^{[ 210 ]}

สมเด็จพระสันตะปาปาฟรานซิส

ในเดือนมีนาคม พ.ศ. 2566 คนงานก่อสร้างนิรนามจากชิคาโกใช้Midjourneyสร้างภาพปลอมของสมเด็จพระสันตะปาปาฟรานซิสในเสื้อแจ็กเก็ตBalenciaga สีขาว ภาพดังกล่าวแพร่กระจายอย่างรวดเร็ว มียอดเข้าชมมากกว่า 20 ล้านครั้ง^{[ 211 ]}นักเขียนRyan Broderickขนานนามว่า "กรณีการเผยแพร่ข้อมูลเท็จด้วย AI ในระดับมวลชนครั้งแรก" ^{[ 212 ]}ผู้เชี่ยวชาญที่Slate ปรึกษาได้ อธิบายภาพดังกล่าวว่าไม่ซับซ้อน "คุณสามารถสร้างมันได้ด้วย Photoshop เมื่อ 5 ปีก่อน" ^{[ 213 ]}

เคียร์ สตาร์เมอร์

ในเดือนตุลาคม พ.ศ. 2566 คลิปเสียงปลอมของ Keir Starmer ผู้นำพรรค แรงงาน สหราชอาณาจักร ที่ด่าทอพนักงานถูกเผยแพร่ในวันแรกของการประชุมพรรคแรงงาน คลิปดังกล่าวอ้างว่าเป็นเทปเสียงของ Starmer ที่ด่าทอพนักงานของเขา^{[ 214 ]}

รัชมิกา มันดันนา

ในช่วงต้นเดือนพฤศจิกายน พ.ศ. 2566 นักแสดงชื่อดังชาวอินเดียใต้รัชมิกา มันดันนา ตกเป็นเหยื่อของ DeepFake เมื่อวิดีโอตัดต่อใบหน้าของรัชมิกากับซาร่า พาเทล อินฟลูเอนเซอร์ชาวอังกฤษเชื้อสายอินเดียชื่อดัง เริ่มแพร่กระจายในโซเชียลมีเดีย ซาร่า พาเทล อ้างว่าเธอไม่ได้มีส่วนเกี่ยวข้องในการสร้างวิดีโอนี้^{[ 215 ]}

บองบอง มาร์กอส

ในเดือนเมษายน พ.ศ. 2567 มีการเผยแพร่วิดีโอ deepfake ที่บิดเบือนภาพลักษณ์ของประธานาธิบดีบองบอง มาร์กอส แห่งฟิลิปปินส์ วิดีโอดังกล่าวเป็นสไลด์โชว์พร้อมเสียง deepfake ที่อ้างว่ามาร์กอสกำลังสั่งการให้กองทัพฟิลิปปินส์และหน่วยปฏิบัติการพิเศษดำเนินการ "ตามความเหมาะสม" หากจีนโจมตีฟิลิปปินส์ วิดีโอนี้ถูกเผยแพร่ท่ามกลางความตึงเครียดที่เกี่ยวข้องกับข้อพิพาททะเลจีนใต้^{[ 216 ]}สำนักงานสื่อสารของประธานาธิบดีกล่าวว่าไม่มีคำสั่งดังกล่าวจากประธานาธิบดี และกล่าวว่าอาจมีผู้กระทำจากต่างประเทศอยู่เบื้องหลังสื่อปลอม[ ^{217 ]}สมาคมผู้แพร่กระจายเสียงแห่งฟิลิปปินส์ได้ยื่นฟ้องคดีอาญาที่เกี่ยวข้องกับสื่อ deepfake ^{[ 218 ]}เมื่อวันที่ 22 กรกฎาคม พ.ศ. 2567 แคลร์ คอนเทรราส อดีตผู้สนับสนุนของมาร์กอส ได้เผยแพร่วิดีโอ ที่ ^อ้าง ว่ามาร์กอสกำลังสูดดมยาเสพติดผิดกฎหมาย วิดีโอดังกล่าวถูกขนานนามว่า วิดีโอ โพลโวรอน สื่อต่างๆ ตั้งข้อสังเกต ว่าวิดีโอนี้สอดคล้องกับการกล่าวอ้างของโรดริโก ดูเตอร์เต อดีตผู้นำของมาร์กอส ที่ว่ามาร์กอสติดยาเสพติด วิดีโอนี้ยังถูกนำไปฉายในการชุมนุม ฮักบังงไมซุกที่จัดโดยกลุ่มคนที่สนับสนุนดูเตอร์เตด้วย^{[ 219 ]}สองวันต่อมาตำรวจแห่งชาติฟิลิปปินส์และสำนักงานสอบสวนแห่งชาติได้สรุปจากผลการตรวจสอบของตนเองว่า วิดีโอนี้ถูกสร้างขึ้นโดยใช้ AI พวกเขายังชี้ให้เห็นถึงความไม่สอดคล้องกันระหว่างบุคคลในวิดีโอกับมาร์กอส เช่น รายละเอียดเกี่ยวกับหูของทั้งสองคน^{[ 220 ]}

โจ ไบเดน

ก่อนการเลือกตั้งประธานาธิบดีสหรัฐอเมริกาในปี 2024 มี การโทรศัพท์เลียนแบบเสียงของโจ ไบเดน ประธานาธิบดีคนปัจจุบัน เพื่อขัดขวางไม่ให้ผู้คนลงคะแนนเสียงให้เขา บุคคลที่รับผิดชอบการโทรดังกล่าวถูกตั้งข้อหาขัดขวางการลงคะแนนเสียงและปลอมตัวเป็นผู้สมัคร คณะกรรมการกำกับดูแลกิจการสื่อสารแห่งสหรัฐอเมริกา (FCC) เสนอให้ปรับเขาเป็นเงิน6 ล้านดอลลาร์สหรัฐ และบริษัท Lingo Telecomซึ่งถูกกล่าวหาว่าส่งต่อการโทรดังกล่าว เป็นเงิน 2 ล้านดอลลาร์สหรัฐ^{[ 221 ] [ 222 ]}

กลุ่มอารัป

บริษัทArup Groupสูญเสียเงิน 25 ล้านดอลลาร์ในปี 2024 จากการหลอกลวงด้วย deepfake ^{[ 223 ]}

ซาร่า ดูเตอร์เต

เมื่อวันที่ 14 มิถุนายน 2025 วุฒิสมาชิกโรนัลด์ เดลา โรซา แห่งฟิลิปปินส์ ได้แชร์วิดีโอ Deepfake ความยาว 40 วินาที ที่สร้างขึ้นผ่านVeoซึ่งแสดงให้เห็นนักเรียนสองคนบนท้องถนนให้การเป็นพยานว่าเหตุใดกระบวนการถอดถอนรองประธานาธิบดีซาราห์ ดูเตอร์เตจึงเป็นการเลือกปฏิบัติและมีแรงจูงใจทางการเมือง^{[ 224 ]}เดลา โรซา ชื่นชมเยาวชนเหล่านั้นสำหรับความคิดเห็นของพวกเขา เมื่อได้รับแจ้งว่าเป็นวิดีโอ AI เขากล่าวว่าหากเป็นเช่นนั้น ผู้สร้างวิดีโอก็มีเหตุผล^{[ 225 ]}ดูเตอร์เตเองก็ปกป้องเดลา โรซา โดยยืนยันว่าการแชร์วิดีโอ AI ไม่ใช่เรื่องผิดตราบใดที่ "ไม่ได้เพื่อผลกำไร" ^{[ 226 ]}

แคทเธอรีน คอนนอลลี

ในเดือนตุลาคม พ.ศ. 2568 แคทเธอรีน คอนนอลลี ผู้สมัครชิงตำแหน่งประธานาธิบดีของไอร์แลนด์ ประณามวิดีโอ deepfake ที่สร้างด้วย AI ซึ่งเลียนแบบรายงานข่าวของ RTÉ News และอ้างอย่างผิดๆ ว่าเธอกำลังถอนตัวจากการเลือกตั้งประธานาธิบดี ทีมงานหาเสียงของเธอรายงานวิดีโอดังกล่าวไปยังแพลตฟอร์มโซเชียลมีเดียที่ปรากฏอยู่^{[ 227 ] [ 228 ]}

เว็บไซต์แชทDiscordได้ดำเนินการต่อต้าน deepfake pornography ในปี 2018 ^{[ 229 ]}และมีจุดยืนโดยทั่วไปต่อต้าน deepfake ^{[ 230 ] [ 231 ]} Gfycatเริ่มลบ deepfake ทั้งหมดออกจากเว็บไซต์เมื่อวันที่ 31 มกราคม 2018 ^{[ 232 ] [ 230 ]}

Reddit แบน subreddit r/deepfakes เมื่อวันที่ 7 กุมภาพันธ์ 2018 เนื่องจากการละเมิดนโยบายเรื่อง "ภาพลามกอนาจารโดยไม่ได้รับความยินยอม" ^{[ 233 ] [ 234 ]}ในเดือนกุมภาพันธ์ 2018 เช่นกันPornhubกล่าวว่าจะแบนวิดีโอ deepfake บนเว็บไซต์ของตน เนื่องจากถือว่าเป็น "เนื้อหาที่ไม่ได้รับความยินยอม" ซึ่งละเมิดข้อกำหนดในการให้บริการ^{[ 235 ]}พวกเขายังเคยระบุไว้ก่อนหน้านี้ว่าจะลบเนื้อหาที่ถูกแจ้งว่าเป็น deepfake ^{[ 236 ]}นักเขียนจากMotherboardรายงานว่าการค้นหา "deepfakes" บนPornhubยังคงแสดงวิดีโอ deepfake ล่าสุดหลายรายการ^{[ 235 ]}

Googleเพิ่ม "ภาพลามกอนาจารสังเคราะห์ที่ไม่สมัครใจ" ลงในรายการห้ามในเดือนกันยายน 2018 ทำให้ทุกคนสามารถขอบล็อกผลลัพธ์ที่แสดงภาพเปลือยปลอมของตนได้^{[ 237 ]}ในเดือนพฤษภาคม 2022 Google ได้เปลี่ยนแปลงข้อกำหนดในการให้บริการสำหรับJupyter Notebook colabs อย่างเป็นทางการ โดยห้ามการใช้บริการ colab เพื่อวัตถุประสงค์ในการสร้าง deepfake ^{[ 238 ]}เหตุการณ์นี้เกิดขึ้นไม่กี่วันหลังจากการเผยแพร่บทความของVICEซึ่งผู้เขียน Emanuel Maiberg รายงานว่า "deepfake ส่วนใหญ่เป็นภาพลามกอนาจารที่ไม่ได้รับความยินยอม" และการใช้งานหลักของซอฟต์แวร์ deepfake ยอดนิยม DeepFaceLab (DFL) "เทคโนโลยีที่สำคัญที่สุดที่ขับเคลื่อน deepfake รุ่นนี้ส่วนใหญ่" ซึ่งมักใช้ร่วมกับ Google colabs คือการสร้างภาพลามกอนาจารที่ไม่ได้รับความยินยอม Maiberg ชี้ให้เห็นว่าในบรรดาตัวอย่างการใช้งาน DFL ของบุคคลที่สามที่เป็นที่รู้จักกันดีมากมาย เช่น deepfake ที่ได้รับมอบหมายจากบริษัท Walt Disney , มิวสิกวิดีโออย่างเป็นทางการ และเว็บซีรีส์Sassy Justiceโดยผู้สร้างSouth Park และหน้า GitHubของ DFL ยังมีการเชื่อมโยงไปยังเว็บไซต์ deepfake porn ชื่อMrDeepFakesซึ่งสมาชิกของเซิร์ฟเวอร์ Discord ของ DFL ก็มีส่วนร่วมด้วย^{[ 239 ]}

ก่อนหน้านี้ Facebookเคยระบุว่าจะไม่ลบ deepfake ออกจากแพลตฟอร์มของตน^{[ 240 ]}แต่วิดีโอเหล่านั้นจะถูกระบุว่าเป็นของปลอมโดยบุคคลที่สาม และลดความสำคัญลงในฟีดของผู้ใช้^{[ 241 ]}การตอบสนองนี้เกิดขึ้นในเดือนมิถุนายน 2019 หลังจาก deepfake ที่มีวิดีโอของMark Zuckerberg ในปี 2016 แพร่กระจายบน Facebook และInstagram ^{[ 240 ]}ต่อมา Facebook ได้พยายามส่งเสริมการสร้าง deepfake เพื่อพัฒนาซอฟต์แวร์ตรวจจับ deepfake ที่ทันสมัย ​​Facebook เป็นพันธมิตรหลักในการจัดงาน Deepfake Detection Challenge (DFDC) ซึ่งจัดขึ้นในเดือนธันวาคม 2019 โดยมีผู้เข้าร่วม 2,114 คน และสร้างโมเดลมากกว่า 35,000 โมเดล[ ^{242 ] โมเดล}ที่มีประสิทธิภาพสูงสุดและมีความแม่นยำในการตรวจจับสูงสุดได้รับการวิเคราะห์หาความคล้ายคลึงและความแตกต่าง ผลการค้นพบเหล่านี้เป็นประเด็นที่น่าสนใจในการวิจัยเพิ่มเติมเพื่อปรับปรุงและพัฒนาโมเดลการตรวจจับ deepfake ให้ดียิ่งขึ้น^{[ 242 ]} Facebook ยังได้ระบุรายละเอียดเพิ่มเติมว่าแพลตฟอร์มจะลบสื่อที่สร้างขึ้นด้วยปัญญาประดิษฐ์ที่ใช้ในการเปลี่ยนแปลงคำพูดของบุคคล^{[ 243 ]}อย่างไรก็ตาม สื่อที่ได้รับการแก้ไขเพื่อเปลี่ยนแปลงลำดับหรือบริบทของคำในข้อความของบุคคลนั้นจะยังคงอยู่บนเว็บไซต์ แต่จะถูกติดป้ายกำกับว่าเป็นข้อมูลเท็จ เนื่องจากไม่ได้สร้างขึ้นด้วยปัญญาประดิษฐ์^{[ 243 ]}

ในเดือนกุมภาพันธ์ 2018 ตัวแทนจากTwitter (ปัจจุบันคือ X) ระบุว่าจะระงับบัญชีที่ต้องสงสัยว่าโพสต์เนื้อหา deepfake ที่ไม่ได้รับความยินยอม^{[ 244 ]}ในปี 2019 Twitter ประกาศว่ากำลังขอความคิดเห็นจากสาธารณะเกี่ยวกับนโยบายที่คาดว่าจะใช้ในการจัดการ "สื่อสังเคราะห์และสื่อที่ถูกดัดแปลง" ^{[ 245 ]}ภายใต้นโยบายฉบับร่างTechCrunchรายงานว่า Twitter "จะติดป้ายและเตือน แต่จะไม่ลบสื่อที่ถูกดัดแปลงเสมอไป" ^{[ 246 ]}ในเดือนสิงหาคม 2024 เลขาธิการรัฐของมินนิโซตา เพนซิลเวเนีย วอชิงตัน มิชิแกน และนิวเม็กซิโก ได้เขียนจดหมายเปิดผนึกถึงอีลอน มัสก์ เจ้าของ X เพื่อเรียกร้องให้มีการแก้ไข เครื่องมือสร้าง วิดีโอข้อความใหม่ของ แชทบอท AI Grokซึ่งเพิ่มเข้ามาในเดือนสิงหาคม 2024 โดยระบุว่าได้เผยแพร่ข้อมูลเท็จเกี่ยวกับการเลือกตั้ง^{[ 247 ] [ 248 ] [ 249 ]}

ในสหรัฐอเมริกา มีการตอบสนองต่อปัญหาที่เกิดจาก deepfakes บ้างแล้ว ในปี 2018 มีการเสนอกฎหมายห้าม deepfakes ที่เป็นอันตรายต่อวุฒิสภาสหรัฐฯ^{[ 250 ]}และในปี 2019 มีการเสนอกฎหมายความรับผิดชอบต่อ deepfakes ในรัฐสภาสหรัฐฯ ชุดที่ 116โดยYvette Clarkeผู้แทนสหรัฐฯจากเขตเลือกตั้งที่ 9 ของนิวยอร์ก^{[ 251 ]}

ในปี 2024 การฉ้อโกงตัวตนที่ได้รับการบันทึกไว้กว่าครึ่งเกี่ยวข้องกับการปลอมแปลงที่สร้างขึ้นโดย AI ^{[ 252 ]}ทำให้หลายรัฐออกกฎหมายเกี่ยวกับ deepfakes รวมถึงเวอร์จิเนีย^{[ 253 ]}เท็กซัส แคลิฟอร์เนีย และนิวยอร์ก^{[ 254 ]} มีการดำเนินคดี ในข้อหาที่หลากหลาย เช่น การ ขโมยตัวตนการสะกดรอยตามทางไซเบอร์และภาพลามกอนาจารเพื่อแก้แค้น ในขณะที่มีการเรียกร้องให้มีกฎหมายที่ครอบคลุมมากขึ้น^{[ 237 ]}

ในบรรดาความพยายามด้านนิติบัญญัติของสหรัฐฯ เมื่อวันที่ 3 ตุลาคม 2019 ผู้ว่าการรัฐแคลิฟอร์เนียGavin Newsomได้ลงนามในร่างกฎหมาย Assembly Bills No. 602 และ No. 730 ^{[ 255 ] [ 256 ]} ร่างกฎหมาย Assembly Bill No. 602 ให้สิทธิ์แก่บุคคลที่ตกเป็นเป้าหมายของเนื้อหา deepfake ที่มีเนื้อหาทางเพศอย่างโจ่งแจ้งซึ่งสร้างขึ้นโดยไม่ได้รับความยินยอมจากพวกเขา ในการฟ้องร้องผู้สร้างเนื้อหา^{[ 255 ]}ร่างกฎหมาย Assembly Bill No. 730 ห้ามการเผยแพร่สื่อเสียงหรือภาพ deepfake ที่เป็นอันตรายซึ่งมุ่งเป้าไปที่ผู้สมัครรับเลือกตั้งภายใน 60 วันก่อนการเลือกตั้ง^{[ 256 ]}ผู้แทนสหรัฐฯ Yvette Clarke ได้เสนอร่างกฎหมาย HR 5586: Deepfakes Accountability Act เข้าสู่รัฐสภาสหรัฐฯ ชุดที่ 118เมื่อวันที่ 20 กันยายน 2023 เพื่อปกป้องความมั่นคงของชาติจากภัยคุกคามที่เกิดจากเทคโนโลยี deepfake ^{[ 257 ]}ตัวแทนสหรัฐฯMaría Salazarได้เสนอร่างกฎหมาย HR 6943: No AI Fraud Act เข้าสู่รัฐสภาสหรัฐฯ ชุดที่ 118เมื่อวันที่ 10 มกราคม 2024 เพื่อกำหนดสิทธิในทรัพย์สินเฉพาะของความเป็นกายภาพของแต่ละบุคคล รวมถึงเสียง^{[ 258 ]}

ในปี 2559 หน่วยงานวิจัยโครงการขั้นสูงด้านการป้องกันประเทศ (DARPA) ได้เปิดตัวโครงการ Media Forensics (MediFor) ซึ่งได้รับทุนสนับสนุนจนถึงปี 2563 ^{[ 259 ]} MediFor มีเป้าหมายเพื่อตรวจจับการดัดแปลงภาพและวิดีโอแบบดิจิทัลโดยอัตโนมัติ รวมถึงDeepfakes [ ^{260 ] [ 261 ] ใน}ช่วงฤดูร้อนปี 2561 MediFor ได้จัดงานที่บุคคลต่างๆ แข่งขันกันสร้างวิดีโอ เสียง และภาพที่สร้างโดย AI รวมถึงเครื่องมืออัตโนมัติเพื่อตรวจจับ deepfakes เหล่านี้^{[ 262 ]}ตามโครงการ MediFor ได้มีการกำหนดกรอบข้อมูลสามระดับ ได้แก่ ความสมบูรณ์ทางดิจิทัล ความสมบูรณ์ทางกายภาพ และความสมบูรณ์ทางความหมาย เพื่อสร้างคะแนนความสมบูรณ์หนึ่งคะแนนในความพยายามที่จะตรวจจับสื่อที่ถูกดัดแปลงได้อย่างแม่นยำ^{[ 263 ]}

ในปี 2019 DARPA ได้จัดงาน "วันเสนอโครงการ" สำหรับโครงการนิติวิทยาศาสตร์เชิงความหมาย (SemaFor) ซึ่งกระตุ้นให้นักวิจัยป้องกันการแพร่กระจายของสื่อที่ถูกดัดแปลงโดย AI ^{[ 264 ]} DARPA และโครงการนิติวิทยาศาสตร์เชิงความหมายยังทำงานร่วมกันเพื่อตรวจจับสื่อที่ถูกดัดแปลงโดย AI ผ่านความพยายามในการฝึกคอมพิวเตอร์ให้ใช้สามัญสำนึกและเหตุผลเชิงตรรกะ^{[ 264 ]}อัลกอริทึมการระบุแหล่งที่มาของ SemaFor ซึ่งสร้างขึ้นบนเทคโนโลยีของ MediFor จะอนุมานว่าสื่อดิจิทัลมีต้นกำเนิดมาจากองค์กรหรือบุคคลใดโดยเฉพาะ ในขณะที่อัลกอริทึมการจำแนกลักษณะจะพิจารณาว่าสื่อถูกสร้างหรือดัดแปลงเพื่อวัตถุประสงค์ที่เป็นอันตรายหรือไม่^{[ 265 ]}ในเดือนมีนาคม 2024 SemaFor ได้เผยแพร่แคตตาล็อกการวิเคราะห์ที่เปิดโอกาสให้สาธารณชนเข้าถึงทรัพยากรโอเพนซอร์สที่พัฒนาภายใต้ SemaFor ^{[ 266 ] [ 267 ]}

คณะกรรมการระหว่างประเทศด้านสภาพแวดล้อมสารสนเทศเปิดตัวในปี 2023 ในฐานะกลุ่มนักวิทยาศาสตร์กว่า 250 คนที่ทำงานเพื่อพัฒนามาตรการรับมือที่มีประสิทธิภาพต่อ deepfakes และปัญหาอื่นๆ ที่เกิดจากแรงจูงใจที่ผิดเพี้ยนในองค์กรที่เผยแพร่ข้อมูลผ่านทางอินเทอร์เน็ต^{[ 268 ]}

• Daniel Immerwahr , "ดวงตาที่โกหกของคุณ: ปัจจุบันผู้คนใช้ AI สร้างวิดีโอปลอมที่แยกไม่ออกจากวิดีโอจริง มันสำคัญแค่ไหน?", The New Yorker , 20 พฤศจิกายน 2023, หน้า 54–59. "ถ้าหากเราหมายถึง 'deepfakes' ในความหมายของวิดีโอที่สมจริงซึ่งสร้างขึ้นโดยใช้ปัญญาประดิษฐ์ที่สามารถหลอกลวงผู้คนได้จริง ๆ แล้ว วิดีโอเหล่านั้นแทบจะไม่มีอยู่จริงเลย วิดีโอปลอมเหล่านั้นไม่ได้ลึกซึ้ง และสิ่งที่ลึกซึ้งก็ไม่ได้ปลอม [...] โดยทั่วไปแล้ว วิดีโอที่สร้างโดย AI ไม่ได้ถูกนำมาใช้ในสื่อของเราในฐานะหลักฐานปลอม บทบาทของมันคล้ายกับภาพการ์ตูน มากกว่า โดยเฉพาะภาพการ์ตูนลามก" (หน้า 59)
• Emmanouil Billis, " Deepfakes και Ποινικό Δίκαιο [Deepfakes and the Criminal Law] " (ในภาษากรีก). ใน: H. Satzger และคณะ (บรรณาธิการ), ข้อจำกัดและอนาคตของกฎหมายอาญา - บทความเพื่อเป็นเกียรติแก่ Christos Mylonopoulos , เอเธนส์, PN Sakkoulas, 2024, หน้า 689–732.

วิกิมีเดียคอมมอนส์มีสื่อเกี่ยวกับดีพเฟค

ลองค้นหาคำว่า deepfakeใน Wiktionary ซึ่งเป็นพจนานุกรมออนไลน์ฟรี

• Sasse, Ben (19 ตุลาคม 2018). "เทคโนโลยีใหม่นี้อาจทำให้การเมืองอเมริกันปั่นป่วน" . ความคิดเห็น. เดอะ วอชิงตัน โพสต์ . สืบค้นเมื่อ10 กรกฎาคม 2019 .
• ความท้าทายในการตรวจจับเสียงปลอม/เสียงแอบอ้าง (ASVspoof)
• การแข่งขันตรวจจับภาพปลอม (Deepfake Detection Challenge - DFDC)
• บรรณานุกรม: การรู้เท่าทันสื่อในยุคของดีพเฟคส์รวบรวมโดย ดร. โจชัว กลิค
• ก่อนที่คุณจะเชื่อ – วิธีการแยกแยะภาพปลอม (deepfake) และภาพปลอมเหล่านี้มีเจตนาร้ายโดยเนื้อแท้หรือไม่?
• Tyagi, Vipin (2026). การตรวจจับการปลอมแปลงภาพดิจิทัล: เทคนิค ความท้าทาย และการประยุกต์ใช้ SpringerBriefs in Computer Science. สิงคโปร์: Springer Nature Singapore. doi : 10.1007/978-981-95-3004-5 . ISBN 978-981--953003-8. OCLC  1547114493 .