Nový model AI dokáže vygenerovať kvalitný kód v priebehu pár sekúnd

Na svete je nový model AI s označením Phind-70B, ktorý má potenciál priniesť zmenu do oblasti programovania. Je rýchly, inteligentný a pripravený postaviť sa proti svojmu veľkému rivalovi GPT-4 Turbo. Phind-70B je postavený na základe CodeLlama-70B, ale posilnený o 50 miliárd ďalších tokenov pričom programátorom poskytuje odpovede a kódy bleskovou rýchlosťou – až 80 tokenov za sekundu.

No nejde len o rýchlosť. Phind-70B si dokáže poradiť so zložitým kódom a hlbokým kontextom vďaka 32K oknu tokenov. Model teda nielenže chrlí rýchle odpovede; poskytuje aj kvalitný kód, ktorý skutočne zodpovedá tomu, čo požadujete. V testoch typu head-to-head porazil GPT-4 Turbo v benchmarku HumanEval. V súbore údajov CRUXEval Meta má o niečo nižšie skóre, ale Phind-70B exceluje v programovaní v reálnom svete.

Ako to robí? Je za tým technológia TensorRT-LLM od spoločnosti NVIDIA použitá na najnovších GPU H100, ktorá robí Phind-70B nielen rýchlym, ale aj veľmi efektívnym. To je dôvod, prečo dokáže myslieť štyrikrát rýchlejšie ako GPT-4 Turbo. Vďaka partnerstvám s cloudovými gigantmi SF Compute a AWS si Phind-70B môže vyskúšať každý programátor, a to aj bez registrácie.  

Zdroj: cryptopolitan.com.