gradcheck

PyTorch Developer Podcast

Το περιεχόμενο παρέχεται από το PyTorch, Edward Yang, and Team PyTorch. Όλο το περιεχόμενο podcast, συμπεριλαμβανομένων των επεισοδίων, των γραφικών και των περιγραφών podcast, μεταφορτώνεται και παρέχεται απευθείας από τον PyTorch, Edward Yang, and Team PyTorch ή τον συνεργάτη της πλατφόρμας podcast. Εάν πιστεύετε ότι κάποιος χρησιμοποιεί το έργο σας που προστατεύεται από πνευματικά δικαιώματα χωρίς την άδειά σας, μπορείτε να ακολουθήσετε τη διαδικασία που περιγράφεται εδώ https://el.player.fm/legal.

3+ y ago 16:58

MP3•Αρχική οθόνη επεισοδίου

We talk about gradcheck, the property based testing mechanism that we use to verify the correctness of analytic gradient formulas in PyTorch. I'll talk a bit about testing in general, property based testing and why gradcheck is a particularly useful property based test. There will be some calculus, although I've tried to keep the math mostly to intuitions and pointers on what to read up on elsewhere.

Further reading.

Gradcheck mechanics, a detailed mathematical explanation of how it works https://pytorch.org/docs/stable/notes/gradcheck.html In particular, it also explains how gradcheck extends to complex numbers
JAX has a pretty good explanation about vjp and jvp at https://jax.readthedocs.io/en/latest/notebooks/autodiff_cookbook.html
Fast gradcheck tracking issue https://github.com/pytorch/pytorch/issues/53876

83 επεισόδια

#Tech #PyTorch #Edward Yang #Team PyTorch #Deep Learning #Machine Learning

gradcheck

PyTorch Developer Podcast

32 subscribers

published 3+ y ago

Μοίρασέ το

MP3•Αρχική οθόνη επεισοδίου

Further reading.

Gradcheck mechanics, a detailed mathematical explanation of how it works https://pytorch.org/docs/stable/notes/gradcheck.html In particular, it also explains how gradcheck extends to complex numbers
JAX has a pretty good explanation about vjp and jvp at https://jax.readthedocs.io/en/latest/notebooks/autodiff_cookbook.html
Fast gradcheck tracking issue https://github.com/pytorch/pytorch/issues/53876

83 επεισόδια

#Tech #PyTorch #Edward Yang #Team PyTorch #Deep Learning #Machine Learning

ทุกตอน

Καλώς ήλθατε στο Player FM!

Το FM Player σαρώνει τον ιστό για podcasts υψηλής ποιότητας για να απολαύσετε αυτή τη στιγμή. Είναι η καλύτερη εφαρμογή podcast και λειτουργεί σε Android, iPhone και στον ιστό. Εγγραφή για συγχρονισμό συνδρομών σε όλες τις συσκευές.

Ακούστε 500 + θέματα

Παρόμοιες με PyTorch Developer Podcast

Podcasts που αξίζει να ακούσετε

PyTorch Developer Podcast « » gradcheck

gradcheck

Podcasts που αξίζει να ακούσετε

Καλώς ήλθατε στο Player FM!

Παρόμοιες με PyTorch Developer Podcast

Οδηγός γρήγορης αναφοράς

PyTorch Developer Podcast « »
gradcheck