การเรียนรู้แบบกึ่งมีผู้สอน

การเรียนรู้แบบกึ่งมีผู้สอน (semi-supervised learning) เป็นรูปแบบหนึ่งของการเรียนรู้ของเครื่องที่ใช้ข้อมูลที่มีฉลากกำกับจำนวนเล็กน้อยและข้อมูลที่ไม่มีฉลากกำกับจำนวนมากในระหว่างการฝึก การเรียนรู้แบบกึ่งมีผู้สอนอยู่ระหว่างการเรียนรู้แบบไม่มีผู้สอน (ข้อมูลการฝึกทั้งหมดไม่มีฉลากกำกับ) และ การเรียนรู้แบบมีผู้สอน (ข้อมูลการฝึกทั้งหมดมีฉลากกำกับ) การเรียนรู้แบบกึ่งมีผู้สอนมีจุดมุ่งหมายเพื่อบรรเทาปัญหาการที่ข้อมูลฝึกที่มีฉลากกำกับนั้นมีอยู่เพียงจำกัด

    รูปแสดงตัวอย่างอิทธิพลของกลุ่มตัวอย่างที่ไม่มีฉลากกำกับต่อการเรียนรู้แบบกึ่งมีผู้สอน
    รูปด้านบนแสดงขอบเขตที่เป็นไปได้สำหรับการจำแนกประเภทโดยใช้ตัวอย่างที่มีฉลากกำกับเท่านั้น (วงกลมสีขาวและสีดำ)
    รูปด้านล่างแสดงขอบเขตของการจำแนกประเภทโดยใช้ตัวอย่างที่มีฉลากกำกับ (วงกลมสีขาวและสีดำ) และตัวอย่างที่ไม่มีฉลากกำกับ (วงกลมสีเทา)
    กระบวนการนี้สามารถมองได้ว่าเป็นการจับกลุ่มข้อมูล โดยใช้ข้อมูลที่มีฉลากกำกับติดอยู่แล้วเพื่อติดฉลากกำกับให้กับกลุ่มก้อนของข้อมูลที่ยังไม่มีฉลากกำกับ โดยพิจารณาขอบเขตและความหนาแน่นของกลุ่มก้อน

ปัญหา

ปัญหาที่เหมาะจะใช้การเรียนรู้แบบไม่มีผู้สอนนั้นจะเป็นปัญหาที่มีตัวอย่างที่ไม่มีฉลากกำกับอยู่เป็นจำนวนมาก และค่าใช้จ่ายในการทำตัวอย่างที่มีฉลากกำกับค่อนข้างสูง การเรียนรู้ของเครื่องสาขาอื่น ๆ บางสาขามีแรงจูงใจเช่นนี้เหมือนกัน แต่ใช้สมมติฐานและวิธีการที่แตกต่างกัน เช่น การเรียนรู้เชิงรุก และการเรียนรู้แบบมีผู้สอนแบบอ่อน

เมื่อใช้ตัวอย่างที่ไม่มีฉลากกำกับและตัวอย่างที่มีฉลากกำกับจำนวนน้อยร่วมกัน ความแม่นยำของการเรียนรู้อาจดีขึ้นได้อย่างมาก การได้รับข้อมูลที่ติดฉลากกำกับสำหรับปัญหาเฉพาะมักต้องใช้แรงงานที่มีทักษะ (เช่น การถอดเสียงคลิปเสียง) หรือทำการทดลองทางกายภาพ (เช่น การกำหนดโครงสร้างสามมิติของโปรตีน หรือการพิจารณาว่ามีน้ำมันหรือก๊าซอยู่ในส่วนจำเพาะ) ดังนั้นต้นทุนในการได้รับตัวอย่างที่มีฉลากจึงมักจะสูง และไม่สามารถได้รับชุดตัวอย่างขนาดใหญ่ที่มีฉลากครบถ้วนได้ ขณะเดียวกัน ต้นทุนในการได้รับตัวอย่างที่ไม่มีฉลากก็มักจะค่อนข้างต่ำ ในกรณีเช่นนี้ การเรียนรู้แบบกึ่งมีผู้สอนมีคุณค่าอย่างยิ่ง การเรียนรู้แบบกึ่งมีผู้สอนยังมีคุณค่าทางทฤษฎีในการสร้างแบบจำลองการเรียนรู้ของเครื่องและการเรียนรู้ของมนุษย์

วิธีการ

พิจารณาข้อมูลตัวอย่าง $l$ ตัวที่เป็นที่มีการแจกแจงเหมือนกันโดยเป็นอิสระต่อกัน $x_{1},\dots ,x_{l}\in X$ และฉลากกำกับข้อมูลนั้น $y_{1},\dots ,y_{l}\in Y$ และมีตัวอย่าง $u$ ที่ไม่มีฉลากกำกับ $x_{l+1},\dots ,x_{l+u}\in X$ การเรียนรู้แบบกึ่งมีผู้สอนจะทำการนำตัวอย่างเหล่านี้เข้ามาใช้ร่วมกันเพื่อให้ได้ประสิทธิภาพการจำแนกเชิงสถิติที่ดีกว่าการใช้แค่ตัวอย่างที่ไม่มีฉลากกำกับมาทำการเรียนรู้แบบมีผู้สอน หรือยอมไม่ใช้ฉลากกำกับเลยแล้วทำการเรียนรู้แบบไม่มีผู้สอน

การเรียนรู้แบบกึ่งมีผู้สอนอาจเป็นการเรียนรู้โดย การอนุมานถ่ายโอน หรือ การให้เหตุผลแบบอุปนัย วัตถุประสงค์ของการเรียนรู้แบบอนุมานถ่ายโอนคือการอนุมานฉลากกำกับที่ถูกต้องสำหรับตัวอย่างที่ไม่มีฉลากกำกับ $x_{l+1},\dots ,x_{l+u}$ จุดประสงค์ของการเรียนรู้โดยการให้เหตุผลแบบอุปนัยคือ การอนุมานแผนเชื่อมโยงความสัมพันธ์จาก $X$ สู่ $Y$

ประวัติศาสตร์

การเรียนรู้ด้วยตัวเองในการแก้ปัญหาแบบศึกษาสำนึก ถือเป็นการเรียนรู้แบบกึ่งมีผู้สอนที่เก่าแก่ที่สุด โดยเริ่มมีตัวอย่างการใช้งานตั้งแต่ช่วงปี 1960

กรอบการเรียนรู้เชิงอนุมานได้รับการเสนออย่างเป็นทางการโดย วลาดีมีร์ วัปนิค ในคริสต์ทศวรรษ 1970 และความสนใจในการเรียนรู้แบบอุปนัยโดยใช้แบบจำลองกำเนิดก็เกิดขึ้นในช่วงเวลาเดียวกันเช่นกัน

ความนิยมที่เพิ่มขึ้นของการเรียนรู้แบบกึ่งมีผู้สอนในยุคหลังมานี้เนื่องมาจากการที่ในทางปฏิบัติแล้ว โปรแกรมประยุกต์จำนวนมากสามารถรับข้อมูลที่ไม่มีฉลากกำกับได้ (เช่น ข้อความในหน้าเว็บ ลำดับโปรตีน หรือรูปภาพ)