Author Archives: Abay Bektursun
Why Does Batch Normalization Work?
How to use Google’s pre-trained Language Model
Background Having a good pre-trained language model can be significant time and money saver (better results for less compute and time) for NLP projects. Empirical studies have shown that unsupervised pre-training greatly improves generalization and training in many machine learning tasks. For example according to this paper from Montreal and Google: The results suggest that …
Continue reading “How to use Google’s pre-trained Language Model”
Жасанды Интеллект Абай Құнанбайұлының Стилінде Жазуға Үйренеді
Жасанды Интеллект – жиырма бірінші ғасырдың нео-Индустриялық Революциясы. Пилотсыз көліктер, адам көңілін сезетін роботтар, рак ауруларын анықтайтын программалар, он жылдай бұрын түске де кірмейтін арман, бүгін бүкіл әлемге әйгілі технология. Жасанды Интеллект саласының арқасында адамзат жаңа дәуірге қадам басып жатыр. Бірақ ғалымдардың зерттеулері қандай табысты болса да, алда әлі талай жумыс бар. Жасанды Интеллекттің бүгінгі …
Continue reading “Жасанды Интеллект Абай Құнанбайұлының Стилінде Жазуға Үйренеді”