แชทบอท


| ส่วนหนึ่งของชุดบทความเกี่ยวกับ |
| การเรียนรู้ของเครื่องจักรและการขุดข้อมูล |
|---|
แชทบอท (เดิม เรียกว่า chatterbot ) [ 1 ]คือ แอปพลิ เคชันซอฟต์แวร์หรืออินเทอร์เฟซเว็บที่ออกแบบมาเพื่อสนทนาผ่านข้อความหรือเสียงพูด[ 2 ] [ 3 ] [ 4 ]แชทบอทสมัยใหม่มักจะออนไลน์และใช้ ระบบ ปัญญาประดิษฐ์แบบสร้างสรรค์ที่สามารถสนทนากับผู้ใช้ด้วยภาษาธรรมชาติและจำลองพฤติกรรมของมนุษย์ในฐานะคู่สนทนา แชทบอทเหล่านี้มักใช้การเรียนรู้เชิงลึกและการประมวลผลภาษาธรรมชาติแชทบอทที่เรียบง่ายกว่านั้นมีมานานหลายทศวรรษแล้ว
แชทบอทได้รับความนิยมอย่างมากในช่วงที่ปัญญาประดิษฐ์ (AI) กำลังเฟื่องฟูในทศวรรษ 2020 โดยมีการเปิดตัวแชทบอท AI แบบสร้างข้อความ เช่นChatGPT , Gemini , ClaudeและGrokแชทบอทเหล่านี้มักใช้โมเดลภาษาขนาดใหญ่ที่ได้รับการปรับแต่งอย่างละเอียด เพื่อสร้างข้อความ
พื้นที่สำคัญที่ใช้แชทบอทมานานแล้วคือบริการลูกค้าและการสนับสนุน โดย ใช้ผู้ช่วยเสมือนประเภทต่างๆ[ 5 ]
ประวัติศาสตร์
การทดสอบทัวริง
ในปี พ.ศ. 2493 อลัน ทัวริงได้ตีพิมพ์บทความชื่อ " เครื่องจักรคำนวณและสติปัญญา " ซึ่งเขาได้เสนอสิ่งที่ปัจจุบันเรียกว่าการทดสอบทัวริงเป็นเกณฑ์ของสติปัญญาเกณฑ์นี้ขึ้นอยู่กับความสามารถของโปรแกรมคอมพิวเตอร์ในการเลียนแบบมนุษย์ใน การสนทนา แบบเรียลไทม์กับผู้พิพากษาที่เป็นมนุษย์ โดยที่ผู้พิพากษาไม่สามารถแยกแยะได้อย่างน่าเชื่อถือจากเนื้อหาของการสนทนาเพียงอย่างเดียวระหว่างโปรแกรมกับมนุษย์จริง[ 6 ]
แชทบอทยุคแรก
โปรแกรม ELIZAของโจเซฟ ไวเซนบอมได้รับการตีพิมพ์ครั้งแรกในปี 1966 ไวเซนบอมไม่ได้อ้างว่า ELIZA ฉลาดอย่างแท้จริง และคำนำในบทความของเขานำเสนอ ELIZA ในฐานะการพิสูจน์หักล้างมากกว่า
ในปัญญาประดิษฐ์ เครื่องจักรถูกสร้างขึ้นมาเพื่อแสดงพฤติกรรมที่น่าทึ่ง ซึ่งบ่อยครั้งก็เพียงพอที่จะทำให้แม้แต่ผู้สังเกตการณ์ที่มีประสบการณ์มากที่สุดก็ยังต้องทึ่ง แต่เมื่อโปรแกรมใดโปรแกรมหนึ่งถูกเปิดเผย เมื่อการทำงานภายในของมันถูกอธิบาย ความมหัศจรรย์ของมันก็พังทลายลง มันปรากฏออกมาเป็นเพียงชุดของขั้นตอนการทำงาน ผู้สังเกตการณ์พูดกับตัวเองว่า "ฉันก็เขียนแบบนั้นได้" ด้วยความคิดนั้น เขาจึงย้ายโปรแกรมดังกล่าวจากชั้นวางที่ติดป้ายว่า "อัจฉริยะ" ไปยังชั้นวางที่สงวนไว้สำหรับของแปลก จุดประสงค์ของบทความนี้คือการทำให้เกิดการประเมินใหม่ของโปรแกรมที่จะถูก "อธิบาย" ไม่กี่โปรแกรมเท่านั้นที่ต้องการมันมากไปกว่านี้[ 7 ]
วิธีการทำงานของ ELIZA เกี่ยวข้องกับการจดจำคำหรือวลีที่เป็นเบาะแสในข้อมูลนำเข้า และการส่งออกคำตอบที่เตรียมไว้ล่วงหน้าหรือตั้งโปรแกรมไว้ล่วงหน้าซึ่งสามารถทำให้การสนทนาดำเนินไปในลักษณะที่มีความหมายอย่างเห็นได้ชัด (เช่น การตอบสนองต่อข้อมูลนำเข้าใดๆ ที่มีคำว่า 'MOTHER' ด้วย 'TELL ME MORE ABOUT YOUR FAMILY') [ 7 ]ดังนั้นจึง เกิด ภาพลวงตาของความเข้าใจขึ้น แม้ว่าการประมวลผลที่เกี่ยวข้องจะเป็นเพียงผิวเผินก็ตาม ELIZA แสดงให้เห็นว่าภาพลวงตาดังกล่าวสร้างขึ้นได้ง่ายอย่างน่าประหลาดใจ เพราะผู้พิพากษามนุษย์พร้อมที่จะให้ประโยชน์แก่ความสงสัยเมื่อคำตอบในการสนทนาสามารถตีความได้ว่าเป็น "ฉลาด"
หลังจาก ELIZA จิตแพทย์Kenneth Colbyได้พัฒนาPARRYในปี 1972 [ 8 ] [ 9 ] [ 10 ] [ 11 ]
ตั้งแต่ปี พ.ศ. 2521 [ 12 ]จนถึงช่วงเวลาหลังปี พ.ศ. 2526 [ 13 ]โครงการ CYRUS ที่นำโดยJanet Kolodnerได้สร้างแชทบอทจำลองCyrus Vance ( รัฐมนตรีว่าการกระทรวงการต่างประเทศสหรัฐอเมริกา คนที่ 57 ) โดยใช้การให้เหตุผลตามกรณีและอัปเดตฐานข้อมูลทุกวันโดยการวิเคราะห์ข่าวจากสำนักข่าวUnited Press Internationalโปรแกรมไม่สามารถประมวลผลข่าวสารหลังจากการลาออกอย่างกะทันหันของ Cyrus Vance ในเดือนเมษายน พ.ศ. 2523 และทีมงานได้สร้างแชทบอทอีกตัวจำลองผู้สืบทอดตำแหน่งของเขาEdmund Muskie [ 14 ] [ 13 ]
ในปี พ.ศ. 2527 ได้มีการเปิดตัวโปรแกรมRacter เวอร์ชันโต้ตอบ ซึ่งทำหน้าที่เป็นแชทบอท[ 15 ]
ALICEเปิดตัวในปี 1995 โดยใช้ภาษามาร์กอัปที่เรียกว่า AIML [ 3 ]ซึ่งเฉพาะเจาะจงกับฟังก์ชันของมันในฐานะตัวแทนการสนทนาและต่อมาได้รับการนำไปใช้โดยนักพัฒนาอื่นๆ อีกหลายรายของสิ่งที่เรียกว่า Alicebots ALICE เป็นAI ที่อ่อนแอซึ่งไม่มีความสามารถในการให้เหตุผลใดๆ มันใช้ เทคนิค การจับคู่รูปแบบ ที่คล้าย กับ ELIZA ในปี 1966 นี่ไม่ใช่ AI ที่แข็งแกร่ง ซึ่งจะต้องมีสติปัญญาและความสามารถในการให้เหตุผลเชิงตรรกะ
Jabberwackyซึ่งเปิดตัวในปี 1997 เรียนรู้การตอบสนองและบริบทใหม่ ๆ โดยอิงจากการโต้ตอบของผู้ใช้แบบเรียลไทม์ แทนที่จะใช้ฐานข้อมูล แบบคง ที่
การแข่งขันแชทบอทมุ่งเน้นไปที่การทดสอบทัวริงหรือเป้าหมายที่เฉพาะเจาะจงมากขึ้น การแข่งขันประจำปีดังกล่าวสองรายการ ได้แก่รางวัลโลบเนอร์และการแข่งขันแชทเตอร์บ็อกซ์ (การแข่งขันหลังนี้หยุดจัดไปตั้งแต่ปี 2015 แล้ว อย่างไรก็ตาม ยังสามารถค้นหาเอกสารได้จากเว็บเก็บถาวร) [ 16 ]
ก่อนยุคของโมเดลภาษาขนาดใหญ่ในปัจจุบัน Gavagai ซึ่งเป็นสตาร์ทอัพด้านเทคโนโลยีภาษาของสวีเดน ได้สร้างบอทบน Twitter ในปี 2015 [ 17 ]และ DBpediaได้สร้างแชทบอทในช่วงGoogle Summer of Code ปี 2017 [ 18 ]ที่สื่อสารผ่านFacebook Messenger
แชทบอทสมัยใหม่ที่ใช้โมเดลภาษาขนาดใหญ่

แชทบอทสมัยใหม่ เช่นChatGPTมักใช้โมเดลภาษาขนาดใหญ่เป็นพื้นฐาน เรียกว่าGenerative Pre-Trained Transformers (GPT) โดยใช้สถาปัตยกรรมDeep Learning ที่เรียกว่า Transformerซึ่งประกอบด้วยโครงข่ายประสาทเทียม พวกมันสร้างข้อความหลังจากได้รับการฝึกฝนจาก คลังข้อความขนาดใหญ่และมีความสามารถที่เกิดขึ้นเองโดยไม่ต้องได้รับการฝึกฝนมาโดยเฉพาะ
แชทบอทที่ผสานรวมเข้ากับแอปและเว็บไซต์สามารถเรียกใช้โมเดลสร้างภาพหรือค้นหาเว็บได้[ 19 ] [ 20 ]บางแพลตฟอร์มยังช่วยให้ผู้ใช้สามารถโต้ตอบกับอินเทอร์เฟซการสนทนาได้โดยตรงผ่านสภาพแวดล้อมการแชทบนเว็บ ซึ่งช่วยให้สามารถให้ความช่วยเหลือแบบเรียลไทม์ การสร้างเนื้อหา และการทำงานอัตโนมัติโดยไม่จำเป็นต้องติดตั้งซอฟต์แวร์
แอปพลิเคชัน
แอปส่งข้อความ
แชทบอทของบริษัทหลายแห่งทำงานบนแอปส่งข้อความหรือเพียงแค่ส่งSMSพวกมันถูกใช้เพื่อ บริการลูกค้า B2Cการขายและการตลาด[ 21 ]
ในปี 2559 Facebook Messenger อนุญาตให้นักพัฒนาสามารถวางแชทบอทบนแพลตฟอร์มของตนได้ มีบอทจำนวน 30,000 ตัวที่สร้างขึ้นสำหรับ Messenger ในช่วงหกเดือนแรก และเพิ่มขึ้นเป็น 100,000 ตัวภายในเดือนกันยายน 2560 [ 22 ]
ตั้งแต่เดือนกันยายน พ.ศ. 2560 เป็นต้นมา นี่ก็เป็นส่วนหนึ่งของโครงการนำร่องบน WhatsApp ด้วยเช่นกัน สายการบินKLMและAeroméxicoต่างประกาศเข้าร่วมการทดสอบ[ 23 ] [ 24 ] [ 25 ] [ 26 ]ก่อนหน้านี้ทั้งสองสายการบินได้เปิดตัวบริการลูกค้าบนแพลตฟอร์ม Facebook Messenger แล้ว
โดยปกติบอทจะปรากฏเป็นหนึ่งในรายชื่อผู้ติดต่อของผู้ใช้ แต่บางครั้งก็อาจเข้าร่วมในการสนทนากลุ่มได้
ธนาคาร บริษัทประกันภัย บริษัทสื่อ บริษัทอีคอมเมิร์ซ สายการบิน เครือโรงแรม ผู้ค้าปลีก ผู้ให้บริการด้านการดูแลสุขภาพ หน่วยงานรัฐบาล และเครือร้านอาหารจำนวนมากได้ใช้แชทบอทเพื่อตอบคำถามง่ายๆเพิ่มการมีส่วนร่วมของลูกค้า[ 27 ] เพื่อการส่งเสริมการขาย และเพื่อเสนอวิธีการสั่งซื้อเพิ่มเติมจากพวกเขา[ 28 ]แชทบอทยังถูกใช้ในการวิจัยตลาดเพื่อรวบรวมคำตอบแบบสำรวจสั้นๆ อีก ด้วย [ 29 ]
จากการศึกษาในปี 2017 พบว่า 4% ของบริษัทใช้แชทบอท[ 30 ]จากการศึกษาในปี 2016 พบว่า 80% ของธุรกิจระบุว่าตั้งใจจะใช้แชทบอทภายในปี 2020 [ 31 ]
เป็นส่วนหนึ่งของแอปพลิเคชันและเว็บไซต์ของบริษัท
แชทบอทรุ่นก่อนๆ มีอยู่บนเว็บไซต์ของบริษัท เช่น Ask Jenn จากAlaska Airlinesซึ่งเปิดตัวในปี 2551 [ 32 ]หรือตัวแทนบริการลูกค้าเสมือนจริงของExpedia ซึ่งเปิดตัวในปี 2554 [ 32 ] [ 33 ]แชทบอทรุ่นใหม่กว่า ได้แก่ "Rocky" ที่ขับเคลื่อนด้วย IBM Watsonซึ่งเปิดตัวในเดือนกุมภาพันธ์ 2560 โดย Rare Carat บริษัท อีคอมเมิร์ซ ในนิวยอร์กซิตี้ เพื่อให้ข้อมูลแก่ผู้ซื้อเพชรที่คาดหวัง[ 34 ] [ 35 ]
ลำดับแชทบอท
นักการตลาดใช้สคริปต์ข้อความต่อเนื่องเพื่อสร้างลำดับข้อความ คล้ายกับ ระบบ ตอบกลับอัตโนมัติลำดับข้อความเหล่านี้สามารถถูกกระตุ้นได้โดยการเลือกรับข้อความจากผู้ใช้ หรือการใช้คำสำคัญในการโต้ตอบกับผู้ใช้ หลังจากเกิดการกระตุ้นแล้ว ลำดับข้อความจะถูกส่งไปจนกว่าจะได้รับการตอบสนองจากผู้ใช้ครั้งต่อไป การตอบสนองของผู้ใช้แต่ละครั้งจะถูกนำมาใช้ในแผนผังการตัดสินใจเพื่อช่วยให้แชทบอทนำทางไปยังลำดับการตอบสนองที่ถูกต้องและส่งข้อความตอบกลับที่เหมาะสม
แพลตฟอร์มภายในบริษัท
บริษัทต่างๆ ได้ใช้แชทบอทสำหรับการสนับสนุนลูกค้า ทรัพยากรบุคคล หรือใน โครงการ อินเทอร์เน็ตของสิ่งต่างๆ (IoT) ตัวอย่างเช่น Overstock.comรายงานว่าได้เปิดตัวแชทบอทชื่อ Mila เพื่อพยายามทำให้กระบวนการบางอย่างเป็นไปโดยอัตโนมัติเมื่อพนักงานบริการลูกค้าขอลาป่วย[ 36 ]บริษัทขนาดใหญ่อื่นๆ เช่น Lloyds Banking Group, Royal Bank of Scotland, Renault และ Citroën กำลังใช้แชทบอทแทนศูนย์บริการลูกค้าที่มีพนักงานเพื่อเป็นจุดติดต่อแรกในบริษัทขนาดใหญ่ เช่น โรงพยาบาลและองค์กรด้านการบิน แชทบอทยังใช้เพื่อแบ่งปันข้อมูลภายในองค์กร และเพื่อช่วยเหลือและทดแทนโต๊ะบริการ[ 37 ]
ฝ่ายบริการลูกค้า
มีการเสนอให้ใช้แชทบอทเป็นสิ่งทดแทนแผนกบริการลูกค้า[ 38 ]ในปี 2026 หนังสือพิมพ์ Financial Timesรายงานเกี่ยวกับแชทบอทที่ทำหน้าที่เหมือนตัวแทนซึ่งสามารถซื้อสินค้าให้ลูกค้าได้เมื่อได้รับคำสั่ง[ 39 ]
ในปี 2016 ธนาคาร Tochka Bank ในรัสเซียได้เปิดตัวแชทบอทบนFacebookสำหรับบริการทางการเงินหลากหลายประเภท รวมถึงความเป็นไปได้ในการชำระเงิน[ 40 ]ในเดือนกรกฎาคม 2016 Barclays Africaก็ได้เปิดตัวแชทบอทบน Facebook เช่นกัน[ 41 ]
การดูแลสุขภาพ
แชทบอทกำลังปรากฏขึ้นในอุตสาหกรรมการดูแลสุขภาพเช่นกัน[ 42 ] [ 43 ]การศึกษาชี้ให้เห็นว่าแพทย์ในสหรัฐอเมริกาเชื่อว่าแชทบอทจะเป็นประโยชน์มากที่สุดสำหรับการนัดหมายแพทย์ การค้นหาคลินิกสุขภาพ หรือการให้ข้อมูลเกี่ยวกับยา[ 44 ]การทบทวนในปี 2025 พบว่าผู้เข้าร่วมมักให้คะแนนการตอบสนองของแชทบอทว่ามีความเห็นอกเห็นใจมากกว่าการตอบสนองจากแพทย์[ 45 ]
ในปี 2020 WhatsAppได้ร่วมมือกับองค์การอนามัยโลกและรัฐบาลอินเดียเพื่อสร้างแชทบอทเพื่อตอบคำถามของผู้ใช้เกี่ยวกับCOVID- 19 [ 46 ] [ 47 ] [ 48 ] [ 49 ]
ในปี 2023 สมาคมโรคการกินผิดปกติแห่งชาติในสหรัฐอเมริกาได้เปลี่ยน เจ้าหน้าที่ สายด่วน ที่เป็นมนุษย์ เป็นแชทบอท แต่ต้องปิดใช้งานหลังจากผู้ใช้รายงานว่าได้รับคำแนะนำที่เป็นอันตรายจากแชทบอท[ 50 ] [ 51 ] [ 52 ]
การเมือง
ในนิวซีแลนด์ แชทบอท SAM ซึ่งย่อมาจากSemantic Analysis Machine [ 53 ]ได้รับการพัฒนาโดย Nick Gerritsen จาก Touchtech [ 54 ]ออกแบบมาเพื่อแบ่งปันความคิดเห็นทางการเมือง เช่น ในหัวข้อต่างๆ เช่น การเปลี่ยนแปลงสภาพภูมิอากาศ การดูแลสุขภาพ และการศึกษา เป็นต้น โดยจะพูดคุยกับผู้คนผ่าน Facebook Messenger [ 55 ] [ 56 ] [ 57 ] [ 58 ]
ในปี 2022 แชทบอท "Leader Lars" หรือ "Leder Lars" ได้รับการเสนอชื่อจากพรรค Synthetic Partyให้ลงสมัครรับเลือกตั้งรัฐสภาเดนมาร์ก[ 59 ]และสร้างขึ้นโดยกลุ่มศิลปิน Computer Lars [ 60 ] Leader Lars แตกต่างจากนักการเมืองเสมือนจริงรุ่นก่อนๆ ตรงที่เขาเป็นผู้นำพรรคการเมืองและไม่ได้แสร้งทำเป็นผู้สมัครที่เป็นกลาง[ 61 ]แชทบอทนี้มีส่วนร่วมในการอภิปรายเชิงวิพากษ์เกี่ยวกับการเมืองกับผู้ใช้จากทั่วโลก[ 62 ]
ในอินเดียรัฐบาลของรัฐได้เปิดตัวแชทบอทสำหรับแพลตฟอร์ม Aaple Sarkar [ 63 ]ซึ่งให้การเข้าถึงข้อมูลแบบสนทนาเกี่ยวกับบริการสาธารณะที่ได้รับการจัดการ[ 64 ] [ 65 ]
ของเล่น
แชทบอทยังถูกรวมเข้ากับอุปกรณ์ที่ไม่ได้มีไว้สำหรับการประมวลผลโดยเฉพาะ เช่น ของเล่น[ 66 ]
Hello Barbieเป็นตุ๊กตาบาร์บี้เวอร์ชันที่เชื่อมต่ออินเทอร์เน็ตซึ่งใช้แชทบอทที่จัดทำโดยบริษัท ToyTalk [ 67 ]ซึ่งก่อนหน้านี้เคยใช้แชทบอทนี้กับตัวละครต่างๆ บนสมาร์ทโฟนสำหรับเด็ก[ 68 ]พฤติกรรมของตัวละครเหล่านี้ถูกจำกัดด้วยชุดกฎเกณฑ์ที่เลียนแบบตัวละครเฉพาะและสร้างเรื่องราวขึ้นมา[ 69 ]
ตุ๊กตาMy Friend Caylaถูกวางจำหน่ายในฐานะ ตุ๊กตา ขนาด 18 นิ้ว (46 ซม.)ที่ใช้ เทคโนโลยี การจดจำเสียงร่วมกับ แอปพลิเคชันบนมือถือระบบ AndroidหรือiOSเพื่อจดจำเสียงพูดของเด็กและสนทนาด้วย เช่นเดียวกับตุ๊กตา Hello Barbie ตุ๊กตาตัวนี้ก็ตกเป็นที่วิพากษ์วิจารณ์เนื่องจากช่องโหว่ใน ระบบ บลู ทูธของตุ๊กตา และการใช้ข้อมูลที่รวบรวมจากเสียงพูดของเด็ก
คอมพิวเตอร์ Watsonของ IBM ถูกใช้เป็นพื้นฐานสำหรับของเล่นเพื่อการศึกษาแบบแชทบอทสำหรับบริษัทต่างๆ เช่นCogniToys [ 66 ]ซึ่งมีจุดประสงค์เพื่อโต้ตอบกับเด็กๆ เพื่อวัตถุประสงค์ทางการศึกษา[ 70 ]
การใช้งานในทางที่ผิด
แชทบอทที่เป็นอันตรายมักถูกใช้เพื่อเติมห้องแชทด้วยสแปมและโฆษณาโดยเลียนแบบพฤติกรรมและการสนทนาของมนุษย์ หรือเพื่อล่อลวงให้ผู้คนเปิดเผยข้อมูลส่วนบุคคล เช่น หมายเลขบัญชีธนาคาร มักพบได้ในYahoo! Messenger , Windows Live Messenger , AOL Instant Messengerและ โปรโตคอล การส่งข้อความโต้ตอบแบบทันที อื่นๆ นอกจากนี้ยังมีรายงานที่เผยแพร่เกี่ยวกับการใช้แชทบอทในโฆษณาหาคู่ปลอมบนเว็บไซต์บริการหาคู่[ 71 ]
Tayซึ่งเป็นแชทบอท AI ที่ออกแบบมาเพื่อเรียนรู้จากปฏิสัมพันธ์ก่อนหน้านี้ ก่อให้เกิดข้อโต้แย้งครั้งใหญ่หลังจากถูกโจมตีโดยผู้ก่อกวนทางอินเทอร์เน็ตบน Twitter ไม่นานหลังจากเปิดตัว บอทก็ถูกนำไปใช้ในทางที่ผิด และด้วยความสามารถ "พูดตามฉัน" มันเริ่มปล่อยคำตอบที่เหยียดเชื้อชาติ เหยียดเพศ และก่อให้เกิดข้อโต้แย้งต่อผู้ใช้ Twitter [ 72 ]สิ่งนี้ชี้ให้เห็นว่าถึงแม้บอทจะเรียนรู้จากประสบการณ์ได้อย่างมีประสิทธิภาพ แต่ก็ไม่มีการป้องกันที่เพียงพอเพื่อป้องกันการใช้ในทางที่ผิด[ 73 ]
หาก อัลกอริทึมส่งข้อความสามารถปลอมตัวเป็นมนุษย์แทนที่จะเป็นแชทบอท ข้อความนั้นก็จะน่าเชื่อถือมากขึ้น ดังนั้น แชทบอทที่ดูเหมือนมนุษย์ซึ่งมีตัวตนออนไลน์ที่สร้างขึ้นอย่างดี อาจเริ่มเผยแพร่ข่าวปลอมที่ดูน่าเชื่อถือได้ เช่น การกล่าวอ้างเท็จในระหว่างการเลือกตั้ง หากมีแชทบอทมากพอ ก็อาจเป็นไปได้ที่จะสร้างหลักฐานทางสังคมเทียม ได้ [ 74 ] [ 75 ]
ความปลอดภัยของข้อมูล
ความปลอดภัยของข้อมูลเป็นหนึ่งในข้อกังวลหลักของเทคโนโลยีแชทบอท ภัยคุกคามด้านความปลอดภัยและช่องโหว่ของระบบเป็นจุดอ่อนที่มักถูกผู้ใช้ที่เป็นอันตรายใช้ประโยชน์ การจัดเก็บข้อมูลผู้ใช้และการสื่อสารในอดีต ซึ่งมีค่าอย่างมากสำหรับการฝึกอบรมและการพัฒนาแชทบอท อาจก่อให้เกิดภัยคุกคามด้านความปลอดภัยได้เช่นกัน[ 76 ]แชทบอทที่ทำงานบนเครือข่ายของบุคคลที่สามอาจเผชิญกับปัญหาด้านความปลอดภัยต่างๆ หากเจ้าของแอปพลิเคชันของบุคคลที่สามมีนโยบายเกี่ยวกับข้อมูลผู้ใช้ที่แตกต่างจากของแชทบอท[ 76 ]ภัยคุกคามด้านความปลอดภัยสามารถลดหรือป้องกันได้โดยการรวมกลไกการป้องกัน การตรวจสอบสิทธิ์ผู้ใช้การเข้ารหัสแบบ End-to-endของแชทและข้อความที่ทำลายตัวเองได้ เป็นวิธีแก้ปัญหาที่มีประสิทธิภาพบางประการในการต่อต้านภัยคุกคามด้านความปลอดภัยที่อาจเกิดขึ้น[ 76 ]
สุขภาพจิต
แชทบอทได้รับการพิสูจน์แล้วว่าเป็นเทคโนโลยีที่กำลังเกิดขึ้นใหม่ซึ่งใช้ในด้านสุขภาพจิต การใช้งานอาจกระตุ้นให้ผู้ใช้แสวงหาคำแนะนำเกี่ยวกับเรื่องสุขภาพจิตเพื่อหลีกเลี่ยงการตีตราที่อาจเกิดขึ้นจากการแบ่งปันเรื่องดังกล่าวกับผู้อื่น[ 77 ]ทั้งนี้เนื่องจากแชทบอทสามารถให้ความรู้สึกเป็นส่วนตัวและไม่เปิดเผยตัวตนเมื่อแบ่งปันข้อมูลที่ละเอียดอ่อน รวมทั้งเป็นพื้นที่ที่ช่วยให้ผู้ใช้ไม่ต้องถูกตัดสิน[ 77 ]ตัวอย่างเช่น ในการศึกษาพบว่าด้วยสื่อสังคมออนไลน์และแชทบอท AI ที่เป็นช่องทางในการแสดงออกถึงสุขภาพจิตทางออนไลน์ ผู้ใช้จึงเต็มใจที่จะแบ่งปันอารมณ์ด้านลบและซึมเศร้ากับแชทบอทมากขึ้น[ 77 ]ผู้ใช้อาจหันไปใช้แชทบอทเพราะคำตอบของแชทบอทนั้นสามารถรับรู้ได้ว่ามีความเห็นอกเห็นใจและให้การสนับสนุนทางอารมณ์[ 78 ]
ผลการวิจัยพิสูจน์ว่าแชทบอทมีศักยภาพสูงในสถานการณ์ที่ผู้ใช้ติดต่อขอความช่วยเหลือจากครอบครัวหรือเพื่อนได้ยาก[ 77 ]มีข้อสังเกตว่าแชทบอทแสดงให้เห็นถึงความสามารถในการให้การสนับสนุนทางสังคมหลากหลายรูปแบบแก่เยาวชน เช่น การประเมิน การให้ข้อมูล การสนับสนุนทางอารมณ์ และการสนับสนุนเชิงเครื่องมือ[ 77 ]การศึกษาพบว่าแชทบอทสามารถช่วยผู้ใช้ในการจัดการกับปัญหาต่างๆ เช่น ภาวะซึมเศร้าและความวิตกกังวล[ 77 ]ตัวอย่างของแชทบอทที่ทำหน้าที่นี้ ได้แก่ Woebot, Wysa, Vivibot และ Tess [ 77 ]
หลักฐานบ่งชี้ว่าเมื่อแชทบอทด้านสุขภาพจิตโต้ตอบกับผู้ใช้ พวกมันมักจะปฏิบัติตามรูปแบบการสนทนาบางอย่าง[ 79 ]ซึ่งได้แก่ การสนทนาแบบมีคำแนะนำ การสนทนาแบบกึ่งมีคำแนะนำ และการสนทนาแบบเปิดกว้าง[ 79 ]การสนทนาแบบมีคำแนะนำที่เป็นที่นิยมมากที่สุด "อนุญาตให้ผู้ใช้สื่อสารกับแชทบอทได้เฉพาะคำตอบที่กำหนดไว้ล่วงหน้าจากแชทบอทเท่านั้น ไม่อนุญาตให้ผู้ใช้ป้อนข้อมูลแบบเปิดกว้างใดๆ" [ 79 ]นอกจากนี้ยังมีการสังเกตในงานวิจัยที่พิจารณาวิธีการที่แชทบอทด้านสุขภาพจิตต่างๆ ใช้ว่า ส่วนใหญ่ใช้รูปแบบการบำบัดพฤติกรรมทางปัญญา (Cognitive Behavior Therapy) กับผู้ใช้[ 79 ]
ผลข้างเคียง
งานวิจัยระบุถึงอุปสรรคที่อาจเกิดขึ้นในการใช้แชทบอทเพื่อสุขภาพจิต[ 80 ]มีข้อกังวลเรื่องความเป็นส่วนตัวอย่างต่อเนื่องเกี่ยวกับการแบ่งปันข้อมูลส่วนบุคคลของผู้ใช้ในบันทึกการแชทกับแชทบอท[ 80 ]ผู้ที่มีฐานะทางเศรษฐกิจและสังคมต่ำกว่ามักขาดความเต็มใจที่จะใช้การโต้ตอบกับแชทบอทเป็นวิธีที่มีความหมายในการปรับปรุงสุขภาพจิต[ 80 ]แม้ว่าแชทบอทอาจสามารถตรวจจับอารมณ์ของมนุษย์อย่างง่ายๆ ในการโต้ตอบกับผู้ใช้ได้ แต่ก็ไม่สามารถเลียนแบบระดับความเห็นอกเห็นใจที่นักบำบัดที่เป็นมนุษย์ทำได้[ 80 ]
เนื่องจากธรรมชาติของแชทบอทคือแบบจำลองการเรียนรู้ภาษาที่ได้รับการฝึกฝนจากชุดข้อมูลจำนวนมาก จึงทำให้ เกิด ปัญหาเรื่อง อคติทางอัลกอริทึม[ 80 ]แชทบอทที่มีอคติในตัวจากการฝึกฝนอาจทำให้พวกมันแสดงอคติต่อบุคคลที่มีภูมิหลังบางอย่าง และอาจส่งผลให้มีการถ่ายทอดข้อมูลที่ไม่ถูกต้อง[ 80 ]
ยังขาดการวิจัยเกี่ยวกับวิธีที่ปฏิสัมพันธ์เหล่านี้ช่วยผู้ใช้ในชีวิตจริงได้อย่างแท้จริง[ 79 ]มีข้อกังวลเกี่ยวกับความปลอดภัยของผู้ใช้เมื่อโต้ตอบกับแชทบอทดังกล่าว[ 79 ]เมื่อมีการปรับปรุงและพัฒนาเทคโนโลยีเหล่านี้ ผลกระทบต่อมนุษย์กลับไม่ใช่สิ่งสำคัญอันดับแรก[ 79 ]เป็นไปได้ว่าสิ่งนี้อาจนำไปสู่ "ผลเสียที่ไม่ได้ตั้งใจ เช่น อคติ การตอบสนองที่ไม่เพียงพอและล้มเหลว และปัญหาความเป็นส่วนตัว" [ 79 ]
ความเสี่ยงในการใช้แชทบอทเพื่อจัดการกับปัญหาสุขภาพจิตคือ การแยกตัวที่เพิ่มขึ้น รวมถึงการขาดการสนับสนุนในช่วงเวลาวิกฤต[ 79 ]การศึกษาในปี 2025 โดยมหาวิทยาลัย Sentio ได้ประเมินว่าแชทบอทหลัก 6 ตัวตอบสนองต่อการเปิดเผยความเสี่ยงในการฆ่าตัวตายและวิกฤตสุขภาพจิตเฉียบพลันอื่นๆ อย่างไร พบว่าไม่มีตัวใดที่ตรงตามมาตรฐานความปลอดภัยที่กำหนดโดยแพทย์อย่างสม่ำเสมอ[ 81 ]ความเสี่ยงที่สำคัญอีกประการหนึ่งคือ การขาดความเข้าใจอย่างถ่องแท้เกี่ยวกับสุขภาพจิต[ 79 ]การศึกษาชี้ให้เห็นว่าแชทบอทที่มุ่งเน้นด้านสุขภาพจิตมีแนวโน้มที่จะแนะนำวิธีการรักษาทางการแพทย์แก่ผู้ใช้และพึ่งพาตนเองมากเกินไป[ 79 ]
การใช้แชทบอทอย่างหมกมุ่นมีความเชื่อมโยงกับอาการทางจิตจากแชทบอท[ 82 ]ในผู้ที่มีแนวโน้มที่จะคิดเพ้อเจ้อและคิดสมคบคิดอยู่แล้ว ซึ่งส่วนหนึ่งเกิดจากแชทบอท "สร้างภาพหลอน" ของข้อมูล[ 83 ]เนื่องจากแชทบอทถูกออกแบบมาเพื่อสร้างการมีส่วนร่วมและทำให้ผู้คนพูดคุยกัน[ 84 ]
ข้อจำกัด
แชทบอทแบบดั้งเดิมโดยเฉพาะอย่างยิ่งขาดความเข้าใจในคำขอของผู้ใช้ ส่งผลให้การสนทนาเป็นไปอย่างเชื่องช้าและซ้ำซาก การตอบสนองที่ตั้งโปรแกรมไว้ล่วงหน้ามักจะไม่สามารถตอบคำถามที่ไม่คาดคิดของผู้ใช้ได้ ทำให้เกิดความหงุดหงิด แชทบอทเหล่านี้ไม่เป็นประโยชน์อย่างยิ่งสำหรับผู้ใช้ที่ไม่เข้าใจปัญหาของตนเองหรือบริการที่ต้องการอย่างชัดเจน[ 85 ]
แชทบอทที่ใช้โมเดลภาษาขนาดใหญ่มีความหลากหลายมากกว่า แต่ต้องใช้ข้อมูลการสนทนาจำนวนมากในการฝึกฝน โมเดลเหล่านี้สร้างคำตอบใหม่ทีละคำตามข้อมูลที่ผู้ใช้ป้อน และมักจะได้รับการฝึกฝนจากชุดข้อมูลขนาดใหญ่ของวลีภาษาธรรมชาติ[ 3 ]บางครั้งพวกมันอาจให้คำตอบที่ฟังดูสมเหตุสมผลแต่ไม่ถูกต้องหรือไม่สมเหตุสมผล ซึ่งเรียกว่า " ภาพลวงตา " ตัวอย่างเช่น พวกมันอาจสร้างชื่อ วันที่ หรือเหตุการณ์ทางประวัติศาสตร์ขึ้นมา[ 86 ]เมื่อมนุษย์ใช้และนำเนื้อหาแชทบอทที่ปนเปื้อนด้วยภาพลวงตาไปใช้ จะส่งผลให้เกิด "บอทชิ่ง" [ 87 ]เนื่องจากการนำแชทบอทมาใช้ในการสร้างเนื้อหาเพิ่มมากขึ้น จึงมีข้อกังวลว่าเทคโนโลยีนี้จะช่วยลดต้นทุนที่มนุษย์ต้องใช้ในการสร้างข้อมูลที่ผิดพลาด ได้อย่างมาก [ 88 ]
ผลกระทบต่อการจ้างงาน
แชทบอทและเทคโนโลยีโดยทั่วไปถูกนำมาใช้เพื่อทำให้งานที่ซ้ำซากเป็นไปโดยอัตโนมัติ แต่แชทบอทขั้นสูงอย่างChatGPTยังมุ่งเป้าไปที่งานที่มีค่าตอบแทนสูง งานสร้างสรรค์ และงานที่ต้องใช้ความรู้ ซึ่งก่อให้เกิดความกังวลเกี่ยวกับการเปลี่ยนแปลงของแรงงานและการแลกเปลี่ยนคุณภาพเพื่อแลกกับการลดต้นทุน[ 89 ]
แชทบอทถูกใช้มากขึ้นเรื่อยๆ โดยวิสาหกิจขนาดเล็กและขนาดกลางเพื่อจัดการปฏิสัมพันธ์กับลูกค้าอย่างมีประสิทธิภาพ ลดการพึ่งพาศูนย์บริการลูกค้า ขนาดใหญ่ และลดต้นทุนการดำเนินงาน[ 90 ]
การออกแบบข้อความแจ้งเตือนซึ่งเป็นงานออกแบบและปรับปรุงข้อความแจ้งเตือน (อินพุต) ที่นำไปสู่การตอบสนองที่สร้างโดย AI ตามที่ต้องการ ได้รับความต้องการเพิ่มขึ้นอย่างรวดเร็วอย่างมากจากการเกิดขึ้นของโมเดลภาษาขนาดใหญ่[ 91 ]แม้ว่าความเป็นไปได้ของงานนี้จะถูกตั้งคำถามเนื่องจากเทคนิคใหม่ๆ สำหรับการสร้างข้อความแจ้งเตือนโดยอัตโนมัติ[ 92 ]
ผลกระทบต่อสิ่งแวดล้อม
ปัญญาประดิษฐ์เชิงสร้างสรรค์ใช้ พลังงานไฟฟ้าจำนวนมากเนื่องจากการพึ่งพาเชื้อเพลิงฟอสซิลในการสร้างทำให้เกิดมลพิษทางอากาศมลพิษทางน้ำและการปล่อยก๊าซเรือนกระจก เพิ่มขึ้น ในปี 2023 คำถามในChatGPTใช้พลังงานโดยเฉลี่ยมากกว่าการค้นหาใน Google ถึง 10 เท่า[ 93 ] ศูนย์ข้อมูลโดยทั่วไป และโดยเฉพาะศูนย์ข้อมูลที่ใช้สำหรับงาน AI ใช้ปริมาณน้ำจำนวนมากใน การระบายความร้อน[ 94 ] [ 95 ]
ดูเพิ่มเติม
- การประยุกต์ใช้ปัญญาประดิษฐ์
- ปัญญาประดิษฐ์ที่เป็นเพื่อนมนุษย์
- ปัญญาประดิษฐ์และการเลือกตั้ง
- เอเจนต์อิสระ
- ส่วนติดต่อผู้ใช้แบบสนทนา
- เดดบอท
- ทฤษฎีอินเทอร์เน็ตที่ตายแล้ว
- การเสียชีวิตที่เชื่อมโยงกับแชทบอท
- ปัญญาประดิษฐ์ที่เป็นมิตร
- ระบบอัจฉริยะแบบไฮบริด
- ตัวแทนอัจฉริยะ
- บอทอินเทอร์เน็ต
- ปฏิสัมพันธ์ระหว่างมนุษย์กับปัญญาประดิษฐ์
- รายชื่อเครื่องมือช่วยพัฒนาซอฟต์แวร์ด้วย AI
- รายชื่อแชทบอท
- ระบบหลายเอเจนต์
- บอทโซเชียล
- ซอฟต์แวร์เอเจนต์
- ซอฟต์แวร์บอท
- นกแก้วสโตแคสติก
- การว่างงานจากเทคโนโลยี
- ทวิตเตอร์บอท
อ่านเพิ่มเติม
- เกิร์ตเนอร์, จอน (18 กรกฎาคม 2023). "ช่วงเวลาแห่งความจริงของวิกิพีเดีย: สารานุกรมออนไลน์จะช่วยสอนแชทบอท AI ให้ค้นหาข้อเท็จจริงได้อย่างถูกต้องโดยไม่ทำลายตัวเองในกระบวนการนี้ได้หรือไม่?" . นิตยสารเดอะนิวยอร์กไทมส์ . เก็บถาวรจากต้นฉบับเมื่อวันที่ 1 สิงหาคม 2023.
- Searle, John (1980), "จิตใจ สมอง และโปรแกรม" , พฤติกรรมศาสตร์และวิทยาศาสตร์สมอง , 3 (3): 417– 457, doi : 10.1017/S0140525X00005756 , S2CID 55303721
- วินเซนต์, เจมส์, "เสียงหุ่นยนต์เด็กทารกหื่นกาม: เจมส์ วินเซนต์ กับแชทบอท AI", London Review of Books , เล่มที่ 46, ฉบับที่ 19 (10 ตุลาคม 2024), หน้า 29–32. "[โปรแกรมแชทบอท AI] เกิดขึ้นได้ด้วยเทคโนโลยีใหม่ แต่อาศัยแนวโน้มของมนุษย์ที่ไม่เปลี่ยนแปลงตามกาลเวลาในการมองสิ่งต่างๆ ให้เป็นมนุษย์ " (หน้า 29)
- Adamopoulou, Eleni; Moussiades, Lefteris (2020). "ภาพรวมของเทคโนโลยีแชทบอท". ใน Maglogiannis, Ilias; Iliadis, Lazaros; Pimenidis, Elias (บรรณาธิการ). การประยุกต์ใช้และนวัตกรรมปัญญาประดิษฐ์ . IFIP Advances in Information and Communication Technology. เล่มที่ 584. Cham: Springer. หน้า373–383 . doi : 10.1007/978-3-030-49186-4_31 . ISBN 978-3-030-49185-7. PMC 7256567 .
- Ciesla, Robert (2024). The Book of Chatbots: From ELIZA to ChatGPT . Springer Cham. doi : 10.1007/978-3-031-51004-5 . ISBN 978-3-031-51004-5.