โครงข่ายฮอปฟีลด์

โครงข่ายฮอปฟีลด์ (Hopfield network) เป็นรูปแบบหนึ่งของโครงข่ายประสาทเทียม เสนอโดยจอห์น ฮอปฟีลด์ นักฟิสิกส์ชาวอเมริกัน

โครงข่ายฮอปฟีลด์เป็นโครงข่ายแบบไม่ประสานเวลาที่มีการโต้ตอบแบบสมมาตรระหว่างหน่วย (เซลล์ประสาท) และทำให้พลังงานของโครงข่ายเป็นค่าต่ำสุดโดยผ่านการดำเนินการตามธรรมชาติ เดิมทีโครงข่ายนี้ถูกคิดขึ้นมาเพื่อเป็นแบบจำลองในการกำหนดเงื่อนไขความเสถียรของแก้วสปิน แต่ต่อมาได้รับการยอมรับในวงกว้างในฐานะแบบจำลองสำหรับหน่วยความจำเชื่อมโยงโดยผ่านโครงข่าย กลายเป็นหนึ่งในแรงบันดาลใจที่นำไปสู่งานวิจัยด้านโครงข่ายประสาทเทียม และยังกลายเป็นพื้นฐานสำหรับเครื่องบ็อลทซ์มันในเวลาต่อมาด้วย

โครงข่ายนี้เป็นแบบจำลองที่ใช้ความผันแปรทางสถิติเพื่อมุ่งเป้าไปที่การทำให้ได้ค่าพลังงานต่ำสุดวงกว้างไม่ใช่แค่ค่าต่ำสุดแบบเฉพาะที่

ในปี 2024 จอห์น ฮอปฟีลด์ได้รับรางวัลโนเบลสาขาฟิสิกส์ร่วมกันกับเจฟฟรีย์ ฮินตันจากการมีส่วนร่วมในการพัฒนาด้านการเรียนรู้ของเครื่อง รวมถึงการคิดค้นโครงข่ายฮอปฟีลด์

โครงสร้างและการทำงาน

แต่ละหน่วยภายในโครงข่ายฮอปฟีลด์มีสมบัติค่าป้อนเข้าและค่าขาออกแบบแมคคัลลอค–พิตส์ (McCulloch–Pitts)

ในแต่ละช่วงของเวลา $t$ ให้ $w_{ij}(t)$ เป็นค่าสัมประสิทธิ์คู่ควบจากหน่วย $j$ ถึง $i$ ส่วน $-\theta _{i}(t)$ คือค่าขีดแบ่งของหน่วย $i$ ในขณะที่ $x_{i}(t)$ เป็นค่าขาออกของหน่วย $i$ ในที่นี้ สำหรับคู่ $i$, $j$ ทั้งหมด ถ้า $i\neq j$ แล้ว $w_{ij}(t)=w_{ji}(t)$ ในขณะที่ถ้า $i=j$ แล้ว $w_{ij}(t)=0$

พลังงานของโครงข่ายทั้งหมด $E(t)$ นิยามได้เป็น

$E(t)=-{1 \over 2}{\sum _{i\neq j}{w_{ij}{x_{i}(t)}{x_{j}(t)}}}-\sum _{i}{\theta _{i}(t)}{x_{i}(t)}$

แบบจำลองที่มีโครงสร้างดังกล่าวทำงานสำหรับแต่ละส่วนของเวลาดังต่อไปนี้

1. เลือกหนึ่งหน่วยโดยการสุ่ม
2. คำนวณผลรวมถ่วงน้ำหนักของค่าป้อนเข้าของหน่วยนั้น
3. ปรับค่าขาออกของหน่วยนั้นโดยขึ้นกับผลลัพธ์
   • ถ้ามากกว่าค่าขีดแบ่ง ให้เป็น 1
   • หากเท่ากับค่าขีดแบ่ง ให้เป็นค่าเดียวกับค่าปัจจุบัน
   • ถ้าน้อยกว่าค่าขีดแบ่ง ให้เป็น 0
4. เพิ่มค่า $t$ และทำซ้ำตั้งแต่เริ่มต้น

พอทำเช่นนั้นแล้วก็จะเห็นได้ว่าโดยง่ายว่า $E(t)$ จะมีแต่ลดลงไปเรื่อย ๆ เมื่อ $t$ เพิ่มขึ้น แล้วในที่สุดก็จะลู่เข้าค่าต่ำสุดค่าหนึ่งไม่เปลี่ยนแปลงอีก