September 12th, 2023 - Frontiers in AI: From Pint-Sized Powerhouses and Pruned Datasets to Multilingual Mastery and Image Restoration
MP3•Αρχική οθόνη επεισοδίου
Manage episode 376764872 series 3485608
Το περιεχόμενο παρέχεται από το Marcus Edel. Όλο το περιεχόμενο podcast, συμπεριλαμβανομένων των επεισοδίων, των γραφικών και των περιγραφών podcast, μεταφορτώνεται και παρέχεται απευθείας από τον Marcus Edel ή τον συνεργάτη της πλατφόρμας podcast. Εάν πιστεύετε ότι κάποιος χρησιμοποιεί το έργο σας που προστατεύεται από πνευματικά δικαιώματα χωρίς την άδειά σας, μπορείτε να ακολουθήσετε τη διαδικασία που περιγράφεται εδώ https://el.player.fm/legal.
- Textbooks Are All You Need II: phi-1.5 technical report
- DiffBIR: Towards Blind Image Restoration with Generative Diffusion Prior
- When Less is More: Investigating Data Pruning for Pretraining LLMs at Scale
- MADLAD-400: A Multilingual And Document-Level Large Audited Dataset
- FIAT: Fusing learning paradigms with Instruction-Accelerated Tuning
- Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs
Κεφάλαια
1. Intro (00:00:00)
2. Textbooks Are All You Need II: phi-1.5 technical report (00:02:20)
3. DiffBIR: Towards Blind Image Restoration with Generative Diffusion Prior (00:04:42)
4. When Less is More: Investigating Data Pruning for Pretraining LLMs at Scale (00:05:59)
5. MADLAD-400: A Multilingual And Document-Level Large Audited Dataset (00:07:21)
6. FIAT: Fusing learning paradigms with Instruction-Accelerated Tuning (00:08:32)
7. Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs (00:10:01)
75 επεισόδια