ML v Pythone 13 – neurónová sieť na generovanie textu II

Zaujíma vás ako funguje ChatGPT a podobné AI chatboty? Najlepšie to pochopíte keď si takého chatbota naprogramujete sami.  V jednom z predchádzajúcich príkladov sme vytvorili neurónovú sieť, ktorá bola natrénovaná na texte knihy, pričom tréning spočíval v skúmaní slovosledu. Ukážeme iný postup kedy sa neurónová sieť počas trénovania nebude učiť postupnosť slov, ale postupnosť znakov.  Jazykové modely generujú postupnosť znakov, prípadne slov v prirodzenom jazyku. Po natrénovaní na veľkom množstve textu vedia aké druhy slov za sebou nasledujú v príslušnom jazyku. Zadáme mu začiatok sekvencie a jazykový model sa snaží dokončiť text. Na pozadí jazykového modelu je neurónová sieť. Na trénovanie použijeme rovnaký text, konkrétne knihy Rivers of Babylon od Petra Pišťanka. Na roz ... Zobrazit Galériu