วิกิพีเดีย

จีบีทีซีโรว์

เครื่องมือวิเคราะห์เนื้อหา

จีบีทีซีโรว์ เป็น ซอฟต์แวร์ตรวจจับปัญญาประดิษฐ์ ที่มีสำนักงานใหญ่อยู่ในนครนิวยอร์ก ซอฟต์แวร์นี้ถูกพัฒนาขึ้นเพื่อระบุข้อความที่สร้างขึ้นโดยปัญญาประดิษฐ์ เช่น ข้อความที่สร้างโดยโมเดลภาษาขนาดใหญ่[2][3][4][5]

จีบีทีซีโรว์
นักพัฒนาเอ็ดเวิร์ด เทียน
อเล็กซ์ ชุย
ยาซาน มิมิ[1]
วันที่เปิดตัว3 มกราคม 2023; 17 เดือนก่อน (2023-01-03)
ภาษาที่เขียนไพทอน
แพลตฟอร์มการประมวลผลแบบกลุ่มเมฆ
เว็บไซต์gptzero.me

จีบีทีซีโรว์ ถูกพัฒนาโดย เอ็ดเวิร์ด เทียน นักศึกษาระดับปริญญาตรีจาก มหาวิทยาลัยพรินซ์ตัน และเปิดตัวออนไลน์ในเดือนมกราคม พ.ศ. 2566 เพื่อตอบสนองต่อความกังวลเกี่ยวกับการใช้เอไอในการคัดลอกผลงานทางวิชาการ[6][7] จีบีทีซีโรว์ ได้ระดมทุนกว่า 3.5 ล้านดอลลาร์ในการระดมทุนสร้าง[8][9] ในสัปดาห์แรกของการเปิดตัว จีบีทีซีโรว์ มีการใช้งานถึง 30,000 ครั้ง ซึ่งทำให้ระบบล่ม ต่อมาได้รับการสนับสนุนจากบริษัทเว็บแอป Streamlit ซึ่งได้จัดสรรทรัพยากรเซิร์ฟเวอร์เพิ่มขึ้นเพื่อตอบสนองต่อเหตุการณ์นี้[10]

กลไก

แก้

จีบีทีซีโรว์ ใช้คุณสมบัติที่เรียกว่า perplexity และ burstiness เพื่อพยายามระบุว่าข้อความถูกเขียนโดย AI หรือไม่[11] ตามที่บริษัทกล่าว perplexity คือความสุ่มของข้อความในประโยค และการที่ประโยคนั้นถูกสร้างขึ้นมาอย่างผิดปกติหรือ "น่าประหลาดใจ" สำหรับแอปพลิเคชัน มันอาศัยโมเดลภาษา และยิ่งมีโมเดลภาษาเหล่านี้มากเท่าใด โอกาสที่ข้อความนั้นจะไม่ถูกเขียนโดยมนุษย์ก็ยิ่งสูงขึ้น[12] ในทางตรงกันข้าม burstiness จะเปรียบเทียบประโยคกับกันและกัน เพื่อกำหนดความคล้ายคลึงกัน ข้อความที่เขียนโดย มนุษย์ มักจะมีความไม่ต่อเนื่องมากกว่า ซึ่งหมายความว่ามนุษย์มักจะเขียนด้วยความหลากหลายของประโยคมากกว่า AI[7]

เว็บไซต์ข่าว Ars Technica แสดงความคิดเห็นว่ามนุษย์ยังคงสามารถเขียนประโยคในแบบที่มีระเบียบเรียบร้อยมาก ซึ่งอาจทำให้เกิดผลบวกเท็จขึ้น ผู้เขียน เบนจ์ เอ็ดเวิร์ดส์ กล่าวไปว่าคะแนน perplexity เฉพาะกับสิ่งที่ "น่าประหลาดใจ" สำหรับ เอไอ นั้นอาจทำให้ข้อความที่เป็นที่รู้จักมาก เช่น รัฐธรรมนูญของสหรัฐฯ ถูกติดป้ายว่าเป็นข้อความที่สร้างโดย เอไอ[13]

ในปลายปี พ.ศ. 2566 ทีมงาน จีบีทีซีโรว์ จำลองการศึกษาที่มีต้นกำเนิดจากมหาวิทยาลัยสแตนฟอร์ด ซึ่งพวกเขาสามารถแสดงให้เห็นได้อย่างแน่ชัดว่าวิธีการตรวจจับที่ได้รับการปรับปรุงในปัจจุบันของ จีบีทีซีโรว์ ไม่มีอคติในการจำแนกประเภทกับข้อความที่เขียนด้วย ESL[14]

การใช้งานและประยุกต์ใช้

แก้

ชุมชนวิชาการพยายามใช้ จีบีทีซีโรว์ เพื่อแก้ไขปัญหาเกี่ยวกับเนื้อหาที่สร้างโดย เอไอ สำหรับกรณีการลอกเลียนวรรณกรรม[15][12][11] สถาบันการศึกษารวมถึง มหาวิทยาลัยพรินซ์ตัน ได้ร่วมกันพูดถึงการใช้ จีบีทีซีโรว์ เพื่อต่อต้านเนื้อหาที่สร้างโดย เอไอ ในสถานการณ์ทางวิชาการ โดยมีความคิดเห็นที่หลากหลาย[7][16] ในตุลาคม พ.ศ. 2566 จีบีทีซีโรว์ ได้เป็นพันธมิตรกับสหภาพครูแห่งอเมริกา[17]

ประสิทธิภาพ

แก้

ในเอกสารชื่อ "Can AI-Generated Text be Reliably Detected?" ในเดือนมีนาคม พ.ศ. 2566[18] นักวิทยาศาสตร์คอมพิวเตอร์ Vinu Sankar Sadasivan, Aounon Kumar, Sriram Balasubramanian, Wenxiao Wang, และ Soheil Feizi จากมหาวิทยาลัยแมรี่แลนด์ ได้ทำการพิสูจน์ทั้งทางทฤษฎีและทางปฏิบัติว่าตัวตรวจจับข้อความที่สร้างโดย เอไอ หลายตัวไม่ได้เป็นเช่นที่คาดไว้ในสถานการณ์ที่เป็นไปได้[19][20]

เว็บไซต์เทคโนโลยี Futurism ได้ทดสอบเครื่องมือนี้ และกล่าวว่า "ผลลัพธ์น่าประทับใจ" อย่างไรก็ตาม จากอัตราความผิดพลาดของมัน ครูที่ใช้เครื่องมือนี้อาจจะต้องพึ่งพาไปถึง "การกล่าวหาผิดเกือบ 20 เปอร์เซ็นต์ของนักเรียนที่ไม่ได้กระทำผิดกฎระเบียบในการศึกษา"[21]

หนังสือพิมพ์ Washington Post ได้ระบุว่า จีบีทีซีโรว์ มีปัญหาเกี่ยวกับการตรวจจับผลลัพธ์บวกเท็จ (false positives) โดยเน้นว่า "แม้แต่อัตราความผิดพลาดเบา ๆ ก็หมายความว่าบางนักเรียนอาจถูกกล่าวหาผิดโดยไม่เหมาะสมในการกระทำศาสตร์การศึกษา"[22]

อ้างอิง

แก้
  1. ↑ "Meet the Etobicoke-born inventor of the ChatGPT detector". Toronto Life.
  2. ↑ "GPTZERO: A New Tool to Detect AI-Generated Content in ChatGPT". The Washington Post.
  3. ↑ "How apps like GPTZero detect content written by A.I." CNBC. July 24, 2023. สืบค้นเมื่อ September 21, 2023.
  4. ↑ "GPTZero App Seeks to Thwart AI Plagiarism in Schools, Online Media". Bloomberg.com (ภาษาอังกฤษ). May 8, 2023. สืบค้นเมื่อ October 21, 2023.
  5. ↑ "American Federation of Teachers partners with AI identification platform, GPTZero". CBS News (ภาษาอังกฤษแบบอเมริกัน). October 17, 2023. สืบค้นเมื่อ October 21, 2023.
  6. ↑ "How a 23-year-old college student built one of the leading AI detection tools". Business Insider. สืบค้นเมื่อ September 21, 2023.
  7. ↑ 7.0 7.1 7.2 "Edward Tian's GPTZERO Software Aims to Detect AI-Generated Plagiarism". The Daily Princetonian.
  8. ↑ "This AI detection tool raised $3.5 million to check the internet for computer-generated work". Fast Company. 2023.
  9. ↑ Shrivastava, Rashi. "With Seed Funding Secured, AI Detection Tool GPTZero Launches New Browser Plugin". Forbes (ภาษาอังกฤษ). สืบค้นเมื่อ May 17, 2023.
  10. ↑ "GPTZERO: A New AI Detector Aims to Combat ChatGPT Plagiarism". NPR. January 9, 2023.
  11. ↑ 11.0 11.1 "What is GPTZERO? The ChatGPT Detection Tool Explained". Tech Learning. January 27, 2023.
  12. ↑ 12.0 12.1 "AI Detector for Educators: What is GPTZERO?". Jumpstart Magazine. March 2, 2023.
  13. ↑ Edwards, Benj (July 14, 2023). "Why AI detectors think the US Constitution was written by AI". Ars Technica (ภาษาอังกฤษแบบอเมริกัน). สืบค้นเมื่อ December 14, 2023.
  14. ↑ "ESL Bias in AI Detection is an Outdated Narrative". GPT Zero (ภาษาอังกฤษแบบอเมริกัน). October 25, 2023. สืบค้นเมื่อ May 28, 2024.
  15. ↑ Tribune.com.pk (February 22, 2023). "GPTZero: A ChatGPT Detection Tool". The Express Tribune.
  16. ↑ "GPTZero to help teachers deal with ChatGPT-generated student essays". The Indian Express. January 12, 2023. สืบค้นเมื่อ September 21, 2023.
  17. ↑ "US Teachers Union Bans ChatGPT and Deploys GPTZero To Detect Cheating". MobileAppAaily (ภาษาอังกฤษ). สืบค้นเมื่อ October 21, 2023.
  18. ↑ Vinu Sankar Sadasivan; Kumar, Aounon; Balasubramanian, Sriram; Wang, Wenxiao; Feizi, Soheil (March 17, 2023). "Can AI-Generated Text be Reliably Detected?". arXiv:2303.11156 [cs.CL].
  19. ↑ Knibbs, Kate. "Researchers Tested AI Watermarks—and Broke All of Them". Wired (ภาษาอังกฤษแบบอเมริกัน). ISSN 1059-1028. สืบค้นเมื่อ October 21, 2023.
  20. ↑ "No reliable way to detect AI-generated text, boffins sigh". The Register. March 21, 2023. สืบค้นเมื่อ September 25, 2023.
  21. ↑ "There's a Problem With That App That Detects GPT-Written Text: It's Not Very Accurate". Futurism. January 9, 2023. สืบค้นเมื่อ October 21, 2023.
  22. ↑ Fowler, Geoffrey (August 14, 2023). "What to do when you're accused of AI cheating". The Washington Post. สืบค้นเมื่อ October 20, 2023.

แหล่งข้อมูลอื่น

แก้
เข้าถึงจาก "https://th.wikipedia.org/w/index.php?title=จีบีทีซีโรว์&oldid=11579500"