วิธีที่แตกต่างกันในการเรียนรู้อย่างลึกซึ้ง

วิธีที่แตกต่างกันในการเรียนรู้อย่างลึกซึ้ง เทคนิคการฝึกอบรม มาตรฐานสำหรับเครือข่ายนิวรัลลึกต้องใช้การคูณเมทริกซ์ซึ่งเป็นภาระงานที่เปลี่ยนการฝึกอบรมเครือข่ายประสาทเป็นปัญหาการค้นหาซึ่งสามารถแก้ไขได้ด้วยตารางแฮชแทนสิ่งนี้จะลดค่าใช้จ่ายในการคำนวณอย่างมากสำหรับ SLIDE เมื่อเทียบกับการฝึกอบรมการขยายพันธุ์ด้านหลัง

ยกตัวอย่างเช่นแพลตฟอร์ม GPU ที่ติดอันดับยอดนิยมและอื่น ๆ ที่ให้บริการการเรียนรู้เชิงลึกบนคลาวด์นั้นมี Tesla V100 จำนวนแปดตัวและมีค่าใช้จ่ายประมาณ $ 100,000 เรามีหนึ่งในห้องแล็บและในกรณีทดสอบของเราเราใช้ปริมาณงานที่สมบูรณ์แบบสำหรับ V100 หนึ่งที่มีพารามิเตอร์มากกว่า 100 ล้านในเครือข่ายขนาดใหญ่เชื่อมต่ออย่างเต็มที่ที่พอดีกับหน่วยความจำ GPU เราได้ทำการฝึกอบรมด้วยแพ็คเกจ ซอฟต์แวร์ที่ดีที่สุดนั่นคือ TensorFlow ของ Google และใช้เวลาในการฝึกอบรม 3 1/2 ชั่วโมง